最近要加些机子,遇到个大的问题:纽交所、纳斯达克、Cboe,包括 CME 附近的核心机房,电不够了。
这件事实在是搞得我们没办法。我们不是没有预算,也不是买不到机器。真正的问题是:你想在交易所附近放几台大功率机柜,机房直接告诉你,没有电。
Mahwah、Carteret、Secaucus 这些地方的金融机房,很多都是十几年前按传统交易系统建的。当时一个柜子几千瓦,十几千瓦就已经算高密了。这套基础设施本来服务的是低延迟服务器、交换机、FPGA,不是今天这种几十千瓦一柜的 AI 推理硬件。
但是新一代机器功耗太高,一个满配机柜轻松 40kW、50kW,甚至更高。但老机房能批给你的电,很多时候也就 15kW、20kW。你有空间没用,有钱没用,机柜位置再好也没用,电力配额卡在那里。
更要命的是,这东西不是临时加个插座就能解决的。变压器、母线、UPS、冷却、承重,全是一整条链路。要改就是大工程,而且是在运行中的金融核心机房里改。里面跑的都是交易系统,没人愿意为一次施工风险背锅。
所以现在出现了一个dilemma, 为了靠近交易所,大家必须挤在那几个固定机房里;但为了控制功耗,我们只能去上一些小的GPU。
现在谁能在交易所附近拿到稳定的大功率配额,谁就多了一层非常硬的优势。没有这个,模型再强,机器再贵,也只能放远一点。但是放远一点,延迟就开始重新算了。
发布于 加拿大
