美国俄勒冈州立大学研发新型AI芯片,将大语言模型能耗减半

AI资讯1个月前发布 adminps
33 0 0
据科技日报报道,美国俄勒冈州立大学的科研团队研发出了一种新型AI芯片,能将大语言模型的能耗降低 50%。这项成果于近期在波士顿举行的 IEEE 定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的 “绿色钥匙”。
       当前,以谷歌 “双子座” 和 OpenAI 的 GPT-4 为代表的大语言模型,因海量参数使得算力需求激增,进而导致能源需求急速飙升。研究团队指出,数据中心铜基通信链路的数据传输是能耗问题的关键。高速数据交换不仅容易产生误差,还会造成巨大的能源浪费,传统的均衡器虽然能对误差进行纠正,但其本身会消耗大量电能。
       而俄勒冈州立大学研发的新芯片借助AI技术,通过训练芯片上的分类器来识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。
       该项目得到了美国国防高级研究计划局、半导体研究公司和泛在连接中心的支持,相关研究人员还获得了会议的最佳学生论文奖。并且,研究团队已着手开发下一代芯片,预计将带来更惊人的能效表现。
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
none
暂无评论...