2024-10-17 19:06:57
(原标题:光芯片初创公司:融资30亿,估值300亿)
如果您希望可以时常见面,欢迎标星收藏哦~
来源:内容编译自techcrunch,谢谢。
光子计算初创公司Lightmatter已筹集 4 亿美元(约合30亿人民币),旨在突破现代数据中心的一个瓶颈。该公司的光学互连层可让数百个 GPU 同步工作,从而简化了昂贵而复杂的 AI 模型训练和运行工作。
人工智能的发展及其相应的巨大计算需求为数据中心行业带来了巨大推动力,但这并不像再插入一千个 GPU 那么简单。正如高性能计算专家多年来所知道的那样,如果超级计算机的每个节点有一半的时间处于空闲状态,等待数据输入,那么每个节点的速度有多快都无关紧要。
互连层实际上是将 CPU 和 GPU 机架变成一台巨型机器的关键——因此,互连速度越快,数据中心的速度就越快。Lightmatter 似乎利用自2018 年以来一直在开发的光子芯片,构建了速度最快的互连层。
“超大规模计算者知道,如果他们想要一台拥有一百万个节点的计算机,他们无法使用思科传统交换机来实现。一旦离开机架,高密度互连就变成了一根绳子上的杯子,”该公司首席执行官兼创始人尼克哈里斯告诉 TechCrunch。
他说,最先进的是 NVLink,尤其是 NVL72 平台,它将 72 个 Nvidia Blackwell 单元连接在一起放在一个机架中,在 FP4 精度下最高可实现 1.4 exaFLOP。但没有一个机架是孤岛,所有的计算都必须通过 7 兆兆位“扩展”网络来完成。听起来很多,事实也确实如此,但无法更快地将这些单元相互连接并连接到其他机架是提高性能的主要障碍之一。
“对于一百万个 GPU,你需要多层交换机,这会增加巨大的延迟负担,”哈里斯说。“你必须从电到光再到电再到光……你使用的电量和等待的时间都是巨大的。而且在更大的集群中,情况会变得更糟。”
那么 Lightmatter 带来了什么呢?光纤。大量的光纤,通过纯光学接口进行路由。每根光纤高达 1.6 兆兆位(使用多种颜色),每块芯片高达 256 根光纤……好吧,我们只能说,72 个 GPU 的 7 兆兆位听起来确实很古怪。
“光子学的发展速度比人们想象的要快得多——人们多年来一直在努力让它发挥作用,但我们终于做到了,”哈里斯说。“经过七年的艰苦努力,”他补充道。
Lightmatter 目前提供的光子互连可实现 30 兆兆位,而机架光纤布线能够让 1,024 个 GPU 在专门设计的机架中同步工作。如果您感到疑惑,这两个数字并没有增加类似的倍数,因为许多需要联网到另一个机架的工作可以在一千个 GPU 集群的机架上完成。(无论如何,100 兆兆位即将到来。)
哈里斯指出,这一市场非常巨大,从微软到亚马逊,再到 xAI 和 OpenAI 等新进入者,每家大型数据中心公司都对计算表现出了无尽的兴趣。“他们将建筑物连接在一起!我不知道他们能坚持多久,”他说。
这些超大规模企业中的许多已经是客户,不过哈里斯不愿透露具体名称。“可以把 Lightmatter 想象成一家代工厂,就像台积电一样,”他说。“我们不会偏袒任何一方,也不会将我们的名字附加到其他人的品牌上。我们为他们提供路线图和平台——只是帮助他们扩大蛋糕。”
但他又腼腆地补充道,“如果不利用这项技术,你的估值就无法翻两番”,这或许是在暗示 OpenAI 最近一轮融资,该公司的估值达到 1570 亿美元,但这句话也可能指的是他自己的公司。
这轮 4 亿美元的 D 轮融资使其估值达到 44 亿美元(约合300亿人民币),相当于其2023 年中期估值的几倍,这“使我们成为迄今为止最大的光子学公司。这太棒了!”哈里斯说。此轮融资由 T. Rowe Price Associates 领投,现有投资者 Fidelity Management & Research Company 和 GV 参投。
下一步是什么?除了互连之外,该公司还在开发芯片的新基板,以便它们能够利用光执行更紧密的网络任务。
哈里斯推测,除了互连之外,每块芯片的功耗将成为未来最大的差异化因素。“十年后,每个人都会生产晶圆级芯片——没有其他方法可以提高每块芯片的性能,”他说。Cerebras 当然已经在研究这一点,但他们是否能够在技术的这个阶段抓住这一进步的真正价值仍是一个悬而未决的问题。
但对于哈里斯来说,看到芯片行业陷入困境,他计划做好准备,等待下一步。“十年后,互连就是摩尔定律,”他说。
Lightmatter 完成 4 亿美元 D 轮融资
Lightmatter 今天宣布已筹集 4 亿美元的 D 轮融资,公司估值为 44 亿美元,迄今为止筹集的总资本达到 8.5 亿美元。
本轮融资由 T. Rowe Price Associates, Inc. 担任顾问的新投资者领投,现有投资者也参与其中,包括 Fidelity Management & Research Company 和 GV(Google Ventures)。借助这笔融资,Lightmatter 将为 Passage 在合作伙伴数据中心的大规模部署做好准备,实现持续 AI 创新所需的扩展。
Lightmatter 联合创始人兼首席执行官 Nick Harris 表示:“我们不仅要推进 AI 基础设施,还要重塑它。借助世界上最快的光子引擎 Passage,我们正在为性能设定新标准,突破限制 AI 计算的障碍。这笔资金加速了我们的扩展能力,让我们今天就能交付未来的超级计算机。”
随着前沿 AI 模型的扩展和训练集群超过 100,000 个 XPU,传统的电子互连正成为关键瓶颈。这些互连无法满足对高带宽、低延迟数据传输日益增长的需求,而这对于扩展 AI 工作负载至关重要。Lightmatter 的 Passage 技术通过利用 3D 堆叠光子芯片来移动数据来解决这一挑战。
这一突破显著提高了 AI 集群的带宽和性能,同时降低了功耗。Passage 是第一款以 3D 形式提供 IO 的光子引擎,它释放了 XPU 海岸线以支持更多内存,解决了扩展 AI 性能的另一个关键瓶颈。通过改变 AI 集群之间的数据移动,Lightmatter 使系统能够高效扩展,释放新的性能水平,并为下一代 AI 模型的需求准备计算基础设施。
T. Rowe Price 科学技术基金投资组合经理 Tony Wang 表示:“Lightmatter 拥有技术、领导力和团队,能够通过光子学为行业带来计算的未来。对将为下一波前沿 AI 模型提供动力的 AI 超级计算机的需求强劲且不断增长。我们很高兴支持 Lightmatter 完成其帮助推动 AI 基础设施发展的使命。”
GV 普通合伙人 Erik Nordlander 表示:“人工智能的发展速度超乎任何人的预期,突破了数据中心技术的极限。光子学不仅仅是一项突破,更是人工智能百万 xPU 数据中心的未来。我们从一开始就自豪地支持 Lightmatter,六年后,我们对他们愿景的信念只会越来越坚定。Lightmatter 是数据中心光子学领域的绝对领导者,我们很高兴能支持他们,因为他们开启了人工智能创新和规模的下一个时代。”
Lightmatter 的 D 轮融资是在 Simona Jankowski 被任命为 Lightmatter 的首席财务官、Richard Beyer 和 Robin Washington 被任命为董事会成员以及客户吸引力巨大之后进行的。自2023 年 12 月该公司上次宣布融资以来,Lightmatter 在多伦多设立了办事处,扩大了业务范围,并继续扩大其团队。
半导体精品公众号推荐
专注半导体领域更多原创内容
关注全球半导体产业动向与趋势
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第3918内容,欢迎关注。
『半导体第一垂直媒体』
实时 专业 原创 深度
公众号ID:icbank
喜欢我们的内容就点“在看”分享给小伙伴哦
推荐阅读
文章评论
注册或登后即可发表评论
登录注册
全部评论(0)