为何AI需要新的芯片架构？

人工智能（AI）时代已经开启。Allied Market Research报告显示，到2031年，全球AI芯片市场规模预计将达到2636亿美元。AI芯片市场非常庞大，市场细分方式多样，包括芯片种类、处理器架构类型、技术、应用、垂直行业等。不过，AI芯片主要应用于两个领域，即终端应用（例如手机和智能手表中的芯片）和数据中心应用（用于深度学习推理和训练）。 

无论具体应用如何，所有AI芯片都可定义为用来运行机器学习工作负载的集成电路（IC），包括FPGA、GPU或定制ASIC AI加速器等。AI芯片的工作方式与人脑非常相似，能够在复杂且快速变化的世界中执行和处理各种决策及任务。传统芯片与AI芯片之间的真正区别在于所能处理的数据量和数据类型，以及可以同时运行的计算量。与此同时，新的软件AI算法突破正在推动新的AI芯片架构，助力实现高效的深度学习计算。 

本文将进一步讨论AI芯片的独特需求、AI芯片架构的诸多优势，以及AI芯片架构的应用和未来发展。 

AI芯片的独特需求

AI工作负载非常繁重且要求严苛，所需的算力远超传统工作负载，因此，在2010年之前，AI芯片的设计还无法做到经济且高效。由于AI需要并行处理大量乘积累加函数，比如点积函数，而传统的GPU恰好能够以类似的方式并行处理图形，因此开发者在AI应用中为GPU找到了新的用途。

过去十年，我们看到了明显的优化。AI要求芯片架构具有合适的处理器、存储器阵列、高安全性，以及传感器之间可靠的实时数据连接。因此，理想的AI芯片架构应能够将很多计算元件和存储器融合到一个芯片中。如今，随着单芯片的能力逐渐接近极限，AI芯片设计正在转向采用多芯片系统。 

在设计中，为了让激活值达到最大，芯片开发者需要考虑“权重”和“激活”的参数。展望未来，要优化AI芯片架构以提高效率，兼顾AI的软硬件设计极其重要。

AI芯片架构的优势

毫无疑问，我们正处于AI复兴时期。现在，我们正在攻克AI芯片设计中的种种障碍，AI芯片设计领域也涌现出了很多创新型企业，这些企业致力于设计更出色的AI芯片，让芯片具备前所未有的强大功能。、

随着追求更先进的工艺节点，AI芯片设计中的时钟速度可以降低15%-20%，密度可以增加15%-30%，这让开发者能够在一个芯片上集成更多的计算元件。此外，存储元件也会有所增加，AI技术可以在几分钟而不是几小时内完成训练，从而节省大量的时间和精力。如果企业从在线数据中心租借空间来设计AI芯片，这种节省尤为显著，但即使企业使用内部资源，也可以通过更有效的反复试验和试错而获益。 

现在，AI本身也被用来设计新的AI芯片架构和计算新的优化路径，根据来自众多不同行业和应用的大数据对功耗、性能和面积（PPA）进行优化。

AI芯片架构应用和未来发展

在我们身边，AI几乎无处不在。小到物联网芯片，大到服务器、数据中心和图形加速器，AI处理器现已集成到几乎所有芯片中。当然，需要更高性能的行业会更多地利用AI芯片架构，但随着AI芯片的生产成本越来越低，AI芯片架构将会被运用到物联网等领域，用于优化功耗和实现其他未知的优化。 

对于AI芯片架构来说，这是一个激动人心的时刻。新思科技预计，由于性能需求，AI芯片设计会继续积极采用下一代工艺节点。此外，开发者已经围绕不同类型的存储器、不同类型的处理器技术以及与这些相关的软件组件，进行了很多探索。 

在存储器方面，芯片开发者开始将存储器放在硬件中的实际计算元件旁边甚至是集成到计算元件中，以加快处理速度。此外，软件正在推动硬件发展，也就是说，新的神经网络等软件AI模型需要新的AI芯片架构。经验证的实时接口以高速、低延迟的方式提供所需的数据连接，同时安全策略需要确保整个系统及其数据的安全。 

最后，在新的AI芯片架构中，光电子技术和Multi-Die系统发挥着愈加重要的作用，有助于克服一些AI芯片瓶颈。光电子技术提供了一种更加节能的计算方式，与此同时，随着不同处理元件之间以及处理单元与存储器单元之间的连接速度不断提高，Multi-Die系统（涉及到裸片的异构集成，通常存储器直接堆叠在计算板上）也有助于提高芯片性能。 

AI芯片架构创新将继续涌现。新思科技也将走在行业前沿，积极帮助千行百业设计下一代AI芯片。