机器学习领域有一个相当有趣的轶事抱怨
$RDDT
子版块。在
$CBRS
+ OpenAI：- 需要每秒 1-2K 个令牌，因此尝试使用 Cerebras。- 声称 OpenAI 已预留所有容量，导致其他非超大规模数据中心运营商的等待名单无限长。- 表示可以使用 Groq 的 API，但他们无法访问。这令人遗憾。但这确实表明，快速推理领域的参与者很少，容量也有限。
发布于 中国香港
机器学习领域有一个相当有趣的轶事抱怨
$RDDT
子版块。在
$CBRS
+ OpenAI：- 需要每秒 1-2K 个令牌，因此尝试使用 Cerebras。- 声称 OpenAI 已预留所有容量，导致其他非超大规模数据中心运营商的等待名单无限长。- 表示可以使用 Groq 的 API，但他们无法访问。这令人遗憾。但这确实表明，快速推理领域的参与者很少，容量也有限。