使用 LLM 设计「硅大脑」：利用 ChatGPT 自动描述尖峰神经元阵列

编辑 | 萝卜皮

大型语言模型（LLM）能够根据各种提示（包括代码生成）合成听起来合理的响应，因此受到了广泛的关注。

约翰霍普金斯大学（Johns Hopkins University）的电气和计算机工程教授 Andreas Andreou 团队正利用 LLM 开创一种创建神经网络芯片的新方法——神经形态加速器，可以为自动驾驶汽车和机器人等下一代实体系统提供节能、实时的机器智能。

Andreou 实验室的 Michael Tomlinson 和 Joe Li 使用自然语言提示和 ChatGPT（GPT-4） 生成详细指令来构建脉冲神经网络芯片：一种运行方式与人脑非常相似的芯片。

通过 ChatGPT 的逐步提示，从模仿单个生物神经元开始，然后连接更多生物神经元形成网络，他们生成了可以制造的完整芯片设计。

该设计流程展示了如何使用 ChatGPT 进行自然语言驱动的硬件设计。AI 生成的设计使用手工制作的测试台进行了模拟验证，同时已提交使用开源 EDA 流程，并且交给芯片厂商进行了实体制造。

「这是第一个由机器使用自然语言处理设计的人工智能芯片。这类似于我们告诉计算机『制作人工智能神经网络芯片』，计算机会吐出用于制造芯片的文件。」Andreas Andreou 说道。

该研究以「Designing Silicon Brains using LLM: Leveraging ChatGPT for Automated Description of a Spiking Neuron Array」为题，于 2024 年 1 月 25 日发布在arXiv预印平台。

在过去三十年中，CMOS 技术和 CAD 工具的进步带动了处理器技术的进步，进而推动了对设计和自动化工具的研究，为通用计算和人工智能提供了复杂的片上系统（System on Chip）。

Verilog 和 VHDL 均于 20 世纪 80 年代发布，现已成为数字设计中的标准综合工具。这些工具允许工作人员描述可以直接映射到数字标准单元的行为功能，通过布局和布线生成物理布局。Verilog 和 VHDL 是现代 CAD 工具的原理图入口点。

但是，用 Verilog 和 VHDL 编写和维护代码会产生巨大开销，因为这些抽象设计处于相当低的级别。科学家提出了许多方法来解决这个问题。这些方法的总体趋势是转向更高级别的语言，然后可用于生成 VHDL 或 Verilog。

2023 年 11 月，OpenAI 的 ChatGPT 吸引了大家的关注，它为 LLM 提供了一个简单但功能强大的应用界面，用于执行生成式 AI 任务。这种与 LLM 的交互界面能够执行各种任务，例如撰写散文和生成代码。虽然还存在注意力广度和适应性问题，但该模型在生成 python 方面已被证明是有效的。

在最新的研究中，约翰霍普金斯大学的电气和计算机工程教授 Andreas Andreou 同他的两个学生 Michael Tomlinson 和 Joe Li 一起探索使用生成式 AI 和 ChatGPT 来设计硬件系统，即尖峰神经网络芯片、神经形态电子系统，用于硬件 AI 推理。

图示：两层全连接神经网络。（来源：论文）

该研究与当前使用 LLM 进行 CAD 的研究不同，该团队重点关注数字尖峰神经元、非常规计算架构，并强调完整的系统设计。

研究人员记录了，从对话式设计描述到可编程尖峰神经元阵列的功能性和可综合性 Verilog 描述，所采取的步骤。最终的 AI 生成的 HDL 具有标准化接口、SPI 和多个层次结构。

图示：初始和完整生成的 LIF 神经元 Verilog。（来源：论文）

该芯片的最终网络架构是一个小型硅大脑，具有两层互连的神经元。用户可以使用 8 位可寻址权重系统来调整这些连接的强度，从而允许芯片配置学习权重来确定芯片的功能和行为。

重新配置和可编程性是通过称为标准外设接口 (SPI) 子系统的界面来完成的，该子系统类似于遥控器，对用户使用十分友好。该 SPI 子系统也是由 ChatGPT 使用自然语言提示设计的。

Tomlinson 解释说，他们设计了一个简单的神经网络芯片，没有复杂的编码作为概念证明。在发送芯片进行制造之前，团队通过广泛的软件模拟进行了验证，从而确保最终设计能够按预期工作，并且允许他们迭代设计、可解决任何问题。

图示：初始生成的网络和 SPI 模块。（来源：论文）

当然，像 ChatGPT 这样的技术有潜力提高设计效率，正确生成简单模块，从头开始快速生成基础代码，并在提示详细说明时提供对现有代码近乎即时、准确的修改。然而，目前 ChatGPT 的输出质量常常达不到要求。

ChatGPT 的响应往往经常包含某种形式的错误，无论是语法上还是逻辑上的错误。ChatGPT 还自信地表现出对更高级概念的无知，导致潜在的混淆错误，增加了验证的难度。

这些问题会变得更加复杂，给提示者带来了沉重的负担。如果提示者知道答案，他们可以引导 ChatGPT 找到答案；但如果不具备这些知识，就很难将该技术用作抽象 Verilog 描述的工具。

虽然如此，该团队的最终设计以电子方式提交给 Skywater「铸造厂」，这是一家芯片制造服务公司，目前正在使用相对低成本的 130 纳米制造 CMOS 工艺「打印」该设计。

Tomlinson 说：「虽然这只是迈向大规模自动合成实用硬件人工智能系统的一小步，但它表明人工智能可以用来创建先进的人工智能硬件系统，从而有助于加速人工智能技术的开发和部署。」

「过去 20 年来，半导体行业在缩小计算机芯片上物理结构的特征尺寸方面取得了巨大进步，从而在同一硅面积上实现了更复杂的设计。先进的计算机芯片，反过来支持更复杂的软件计算机辅助设计算法和更先进的计算硬件的创建，从而使计算能力呈指数级增长，从而推动当今的人工智能革命。」

这项研究代表了首批完全由自然对话语言合成的 ASIC。