据科技日报报道,美国俄勒冈州立大学的科研团队研发出了一种新型AI芯片,能将大语言模型的能耗降低 50%。这项成果于近期在波士顿举行的 IEEE 定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的 “绿色钥匙”。
当前,以谷歌 “双子座” 和 OpenAI 的 GPT-4 为代表的大语言模型,因海量参数使得算力需求激增,进而导致能源需求急速飙升。研究团队指出,数据中心铜基通信链路的数据传输是能耗问题的关键。高速数据交换不仅容易产生误差,还会造成巨大的能源浪费,传统的均衡器虽然能对误差进行纠正,但其本身会消耗大量电能。
而俄勒冈州立大学研发的新芯片借助AI技术,通过训练芯片上的分类器来识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。
该项目得到了美国国防高级研究计划局、半导体研究公司和泛在连接中心的支持,相关研究人员还获得了会议的最佳学生论文奖。并且,研究团队已着手开发下一代芯片,预计将带来更惊人的能效表现。
© 版权声明
本网转发此文章,旨在为读者提供更多信息资讯,只用于分享,不做任何商业用途,版权归原作者所有。由于条件所限,在转载之前无法与所有权利人联系授权,可能出现部分原创图片或文字未署名,请联系添加。如有侵权,请联系删除处理。