前沿产业 | 光之魔力:光子学能否赋能下一代人工智能聊天机器人?
前沿产业 | 光之魔力:光子学能否赋能下一代人工智能聊天机器人?
本文主要讨论了光子学在支持下一代人工智能(AI)聊天机器人中的潜力。随着人工智能和机器学习等应用的快速发展,对处理算法和运行模型的硬件提出了更高的要求。文章指出,传统的铜连接已经达到了带宽限制,而光子集成电路(PICs)可以利用光的力量提供更高的性能和能源效率,并支持微型化。文章还讨论了AI模型对硬件组件的巨大需求、数据中心能源消耗的问题,以及使用光学互连解决数据中心带宽需求的趋势。此外,文章还提到了光子学在解决带宽瓶颈和降低能源消耗方面的潜力,并介绍了一些正在开发的光子技术和解决方案。总而言之,光子学以其光的速度提供更大的带宽、更低的延迟和更低的功耗,有望在下一代数据中心和AI聊天机器人中发挥重要作用。
Keywords: 硅基光电子,AI,GPT,光子集成
您最近一定用过GPT。从写作论文和代码到解释复杂概念,ChatGPT的能力已经令全世界惊叹不已。这也是AI在我们智能一切的世界中变得更加易于接触和普及的另一个例子。
随着人工智能和机器学习等计算密集型应用在我们的生活中越来越深入,考虑到支持这些创新的基础设施是值得的。简单来说,这些应用对处理算法、运行模型和保持数据流动的硬件提出了高负荷要求。
为了应对AI、高性能计算和大数据分析等工作负载,势必要涌现出高性能计算资源的超级规模数据中心。然而,传统的将这些数据中心内不同组件联接在一起的铜互连,由于带宽限制已经显得捉襟见肘。这就是光子集成电路(PIC)可以发挥关键作用的地方。光子学不仅可以提供更高水平的性能,还可以提高能源效率,有助于最小化能源占用面积。
执行AI模型的能源成本
ChatGPT的真实性在于其使用OpenAI的生成式预训练GPT-3自回归语言模型,该模型使用深度学习生成文本。拥有1750亿个参数的模型架构超过了人脑的处理水平(相当于1000亿个参数的模型)。
像这样的AI模型对处理它们的硬件组件(如内存、GPU、CPU和加速器)提出了巨大要求。这需要具备大型GPU阵列和高带宽光纤连接的硬件基础设施来执行AI模型,但这一切都带来了一些严重的能源(和成本)考虑。
超级规模数据中心通常拥有至少5000个服务器,管理着100,000平方英尺以上的数据,并在短时间内快速处理大量数据。然而,这种容量和能力所带来的巨大能源代价是可观的:根据国际能源署的一份报告,2021年数据中心的能耗量在220至330太瓦时(TWh)之间,约占全球最终电力需求的0.9%至1.3%。这比一些国家一年的能源消耗量还要多。
在许多数据中心中,硬件组件通常通过铜连接器连接,而中心之间的连接通常使用光纤。现在,使用光学 I/O(输入/输出)组件实现核心硅光子芯片技术,如交换机、CPU、GPU和芯片间互连,正迅速成为下一代数据中心不可避免的解决方案趋势。利用光的特性,光子集成电路能够实现、扩展和增加数据传输。
就物理学而言,没有其他东西可以像光子学那样提高带宽和速度,同时降低延迟和能源消耗。这正是数据中心以及依赖于它们的AI聊天机器人所需要的。
QpiAI首席执行官Nagendra Nagaraja最近表示:“在我们不断探索各行各业最优AI和量子系统的同时,我们发现了使用光子方案为带宽和速度大幅度提升带来的实际好处。Synopsys的光子学解决方案使我们的技术能够享受光的速度,帮助我们的客户提升业务成果。”
光子链路为分立数据中心提供支持
我们已经看到数据中心架构向分立化转变,其中存储、计算和网络等同质资源分别放置在不同的盒子中,并通过光学方式连接。这种架构不浪费任何资源;相反,中央智能单元确定并获取来自每个盒子所需的数据,数据经过光纤互连传输。剩余的资源可以用于其他工作负载。
除了在机架到机架、房间到房间和建筑到建筑的配置中使用之外,光纤互联还可能在CPU和GPU级别上占据主导地位,并通过光信号处理数据I/O。
将许多并行和高速串行电气I/O通道替换为具有光学高带宽连接的光学级联连接是驱动近场光学技术需求的动力,该技术使用主板上的高性能PCB基片(中间层),以及共封装光学,即电子和光子芯片的单一封装集成。
虽然光子学在短期内可能不会取代传统的电子半导体元件,但它们明显在处理带宽和延迟要求方面发挥重要作用。同时,正在进行研究以了解光学领域的模拟和数字计算的价值。
解决带宽限制
由于其高速数据传输和低能耗,显然PIC能够突破带宽限制并减小能源影响。许多人预计,光子集成电路市场在未来十年内将大幅增长。
像LightMatter这样的公司,拥有光子AI计算平台,以及Ayar Labs,该公司开发光纤互联芯片组,都是在开发新技术来满足带宽需求并减小环境影响的前沿企业之一。此外,还有一些公司正在研发使用光子而不是电子作为算术核心的模拟和数字计算解决方案。
然而,PIC设计并不像设计传统集成电路那样直截了当。这些电路的性能与材料有关,又与光学特性有关,而这些光学特性又与几何形状等有关。在这一领域取得成功需要对最新研究、工具和技术有所了解,并对量子和物理光学有深入的理解。
比如,Synopsys提供无缝的光子器件、系统和集成电路设计流程,旨在帮助众多公司成功地进行光子设计。他们还与主要晶圆厂密切合作,开发流程设计工具,以简化PIC的开发,并与政府部门合作进行光子教育计划。
从ChatGPT到物联网等,未来十年,光子芯片显然将成为数据和电信领域的首选。它们能够以低热效应在宽带宽上提供闪电般的速度,使其成为处理快速数字化社会日益增长的数据需求的最佳解决方案。这只是光子学的开始。不断增长的数据需求肯定会进一步推动它们的发展,从而导致新的用例和扩大的市场,这些市场可能会在未来五年内达到新的高度。
本文仅作为行业信息和新闻分享,不代表我们支持或赞同本文观点。若有任何异议或侵权,敬请联系,我们会及时处理,谢谢!
我要收藏
个赞
评论排行