IBM宣布光学技术新突破，可“光速”训练AI大模型

IBM近日宣布了一项革命性的光学技术突破，该技术能够以光速训练AI模型，并在数据中心应用中显著节省能源。据IBM介绍，通过应用这一突破性技术，数据中心在训练AI模型时节省的能源量，相当于5000个美国家庭的年度能源使用量。

在数据中心内部，尽管它们通过光纤电缆与外界实现高速连接，但在数据中心内部，传统的铜线连接仍然占据主导地位。这些铜线连接着GPU加速器，这些加速器在等待来自其他设备的数据时，往往会花费大量时间处于空闲状态，这不仅消耗了大量的能源，还增加了数据中心的运营成本。

为了解决这个问题，IBM推出了共封装光学器件（CPO）原型。这一技术通过显著增加数据中心的带宽，最大限度地减少了GPU的停机时间，从而实现了AI处理的加速。IBM高级副总裁兼研究总监DarioGil表示：“由于生成AI需要更多的能源和处理能力，数据中心必须不断发展。同封装光学器件可以使这些数据中心面向未来，开启一个更快、更可持续的通信新时代，能够处理未来的AI工作负载。”

据IBM介绍，其新的CPO技术不仅提高了数据传输速度，还显著降低了大型语言模型（LLM）的训练时间。原本需要三个月的训练时间，现在可以缩短到三周。此外，提高能源效率也降低了能源使用量，从而减少了与训练LLM相关的成本。