突破AI处理瓶颈!NEO半导体发布革命性3DX-AI芯片技术

科闻社 2024-08-15 14:42:44

(本篇文篇章共875字,阅读时间约1分钟)

NEO半导体公司近日发布了一项革命性技术,可能彻底改变AI处理的未来。该公司专注于3D DRAM和3D NAND存储器,最新推出的3D X-AI芯片技术有望取代当前用于AI GPU加速器的高带宽存储器(HBM),解决现有的效能瓶颈问题。

3D X-AI芯片的技术创新

这款3D DRAM内置AI处理功能,使得处理和生成过程无需数学运算输出。其关键在于底层的神经元电路层,能够处理同一芯片上300个存储层所储存的数据。NEO半导体表示,该技术得益于8000个中子电路在存储器中进行AI处理,使得3D存储器的性能提升100倍,存储密度比现有的HBM高出8倍。通过减少在GPU中处理的数据量,该技术可以降低99%的耗电量。

突破性能瓶颈

NEO半导体创始人兼执行长许富菖指出,目前的AI芯片架构将数据存储在HBM中,由GPU负责所有运算,这种架构导致数据总线成为无法避免的性能瓶颈。大量数据传输时,效能有限且耗电量高。3D X-AI技术在每个HBM芯片中执行AI处理,显著减少HBM与GPU之间传输的数据量,从而提升效能并大幅降低功耗。

强大的处理能力和储存容量

3D X-AI的容量为128GB,每个芯片可支持10TB/s的AI处理能力。将12个X-AI芯片堆叠在单一HBM封装中,可以实现超过1.5TB的存储容量和120TB/s的处理吞吐量。这意味着AI系统的性能和效率将大幅提升,满足日益增长的数据处理需求。

随着半导体速度越来越快,元件之间的数据总线已成为瓶颈。台积电、英特尔、铠侠等公司正在研究光学技术以加快主板内的通讯速度。NEO半导体通过将部分AI处理从GPU转移到HBM,能够显著降低工作量,提高效率。

3D X-AI技术不仅提高了硬件性能,还将推动新的AI应用开发。Network Storage Advisors总裁Jay Kramer表示:“3D X-AI技术的应用将加速新AI用例的开发并促进创新。”这项技术若能商业化,将极大地提升AI在自然语言处理、计算机视觉和自动驾驶等领域的应用能力。

然而,实际应用仍面临挑战。制造300层3D DRAM单元和神经电路的工艺复杂,需技术突破才能实现量产。此外,确保与现有AI软件和框架的兼容性也是关键问题。

1 阅读:58