ChatGPT需要怎样的芯片？

以ChatGPT为首的生成类模型，在近日已经成为人工智能的热点。硅谷的谷歌，微软等企业大局，针对此类技术进行投资。其中谷歌发布了自主研发制作的聊天机器人BARD，微软为ChatGPT背后的OpenAI投入了100亿美元。在中国地区，以百度为代表的互联网科技公司也分别表示了正在针对此类型的技术进行研发，而且将会在近期上线。

ChatGPT对于芯片的需求：

ChatGPT是生成类模型的代表，需要学习大量的训练数据，提高生成输出的质量。生为了提升生成类模型的推理和高效率训练在芯片方面就有着独特的需求：

1.需要分布式计算。ChatGPT这种类型的语言类生成模型，所需要的参数达到千亿，使用单击训练和推理的方式，几乎是不可能的，就必须要使用大量的分布式计算。计算芯片，机器之间的数据互联宽带对于分布式计算都有着极大的需求量。任务的瓶颈有很多时候都不是在计算方面，而是在数据的互联方面，尤其是在这种大类型的分布式计算过程中，对于分布式计算高效率的支持，使得芯片成为最为关键的一方面。

2.带和内存容量的需求。在语言类生成模型中不可或缺的是推理和分布式训练。但是每一个芯片的宽带以及本地的内存，在很大程度上也能够对于单个芯片的执行效率有着一定的影响和决定作用，每一个芯片的内存都将会被使用到极限。针对图像类的生成模型。芯片的内存可以储存模型，但是想要进一步的演进，未来图像生成类的模型就需要内存有很大的提升。基于这个要求，想要加速芯片就必须选择超高宽带内存技术，这一技术主要以HBM为代表，除此之外CXL的新存储技术以及软件的优化技术，也能够在这种类型的应用中增加性能和本地存储的容量。