您的位置:首页 >> 科技前沿

科技前沿

模拟AI芯片将语音识别能效提升14倍
来源:科学网    发布时间:2023-08-28 16:32:50         [关闭本页]

美国IBM研究实验室的科学家报告了一种能效为传统数字计算机芯片14倍的人工智能(AI)模拟芯片。这一芯片在语音识别上的效率超过了通用处理器,该技术或能打破当前AI开发中因对算力性能和效率的需求而遇到的瓶颈。相关研究近日发表于《自然》。

随着AI技术的崛起,对能源和资源的需求也随之上升。在语音识别领域,软件升级极大提升了自动转写的准确率,但由于在存储器与处理器之间移动的运算数量不断增加,硬件无法跟上训练和运行这些模型所需的数以百万计的参数。

研究人员提出的一个解决办法是使用“存内计算”(CiM,或称模拟AI)芯片。模拟AI系统通过直接在它自己的存储器内执行运算来防止低效,而数字处理器需要额外时间和能源在存储器和处理器之间移动数据。模拟AI芯片预计能极大提升AI计算的能效;但对此的实际演示一直缺乏。

IBM研究实验室的Stefano Ambrogio和同事开发了一个14纳米的模拟芯片,在34个模块中含有3500万个相变化内存单元。研究团队用两个语音识别软件在语言处理能力上测试了该芯片的效率,这两个软件分别是一个小网络和一个大网络,并在自然语言处理任务上与行业标准进行对比。小网络的性能和准确率与当前的数字技术相当。对于更大的模型来说,该芯片能达到每秒每瓦12.4万亿次运算,系统性能估计最高能达到传统通用处理器的14倍。

该研究在小模型和大模型中同时验证了模拟AI技术的性能和效率,支持其有望成为数字系统的商业可行的替代选择。

用来制造模拟AI芯片的300毫米晶圆。 图片来自:Ryan Lavine

14纳米模拟AI芯片在检测板上。图片来自:Ryan Lavine

研究者手上拿着的14纳米模拟AI芯片。 图片来自:Ryan Lavine

相关论文信息:

https://doi.org/10.1038/s41586-023-06337-5

设为首页 | 加入收藏 | 领导信箱 | 监督举报 | 咨询留言 | 征集调查 |
Copyright ©2001-2025 濮阳市科学技术局主办 濮阳市科技创新综合服务中心承办
备案编号: 豫ICP备2021001807号       政府网站标识码:4109000036
Tel:0393-6661626 科技局办公室电话:0393-6666200 传真:0393-6666200

本网原创内容可免费转载,转载时请注明“来源:濮阳市科学技术局”。转载或引用本网内容必须是目的合理、善意引用,
不得对本网内容原意进行曲解、修改,并自负版权等法律责任。对于不当转载或引用本网内容而引起的民事纷争、行政处理或其他损失,
本网不承担责任,并有追究转载方法律责任的权利。