芝能智芯出品

大语言模型（LLMs）在电子设计自动化（EDA）流程中的引入，芯片和系统设计的安全性迎来了新的机遇和挑战。LLMs不仅能有效识别和填补漏洞，还可能带来新的攻击途径，该技术尚处于早期发展阶段，但其潜在影响逐渐显现。

Part 1

LLMs在EDA流程中的应用潜力

在EDA工具中整合LLMs有望大幅缩短设计时间、降低成本，并增强芯片和系统的安全性。传统EDA工具通常依赖于机器学习和推理引擎，而LLMs的引入则为设计流程提供了更丰富的信息和优化能力。

通过LLMs，设计团队能够快速捕捉并应用本地与行业最佳实践知识，从而提高设计的整体效率和安全性。

设计者可以向LLMs提问，获得关于设计问题的建议，或请求协助调整元件大小、配置参数等，LLMs可以帮助生成高质量的Verilog代码，优化现有设计，减少人为错误。LLMs可以协助进行设计验证，自动检查潜在的设计错误和安全漏洞。

随着技术的成熟，LLMs的应用将逐渐扩展到“共设计员”级别，进一步提升EDA工具的自动化水平。未来的“共设计员”工具将能够执行更复杂的设计任务，甚至在某些情况下替代部分人工操作。

随着硬件和软件的高度融合，系统安全已不仅仅局限于软件层面。

LLMs被认为能够有效弥合硬件和软件安全知识的鸿沟，帮助工程师从安全角度全面理解芯片的功能设计。

传统上，半导体工程师更关注芯片的功能验证，而对于硬件安全的认识较少。LLMs为设计流程引入了更多的安全意识，尤其在生成Verilog代码的过程中，可以更好地防范和发现潜在的安全问题。

通过与设计人员的交互，LLMs帮助工程师更好地理解硬件设计中的安全隐患，LLMs可以自动审查生成的代码，发现潜在的安全漏洞，并提供改进建议。

LLMs具备很强的教育作用，帮助工程师了解最新的安全标准和最佳实践。潜在风险在于攻击者可以利用LLMs寻找代码的安全漏洞，甚至生成等价的代码来绕过安全检测工具，LLMs在生成代码时可能会引入“幻觉”或错误信息，导致设计漏洞。

LLMs在EDA中的应用仍然局限于“虚拟助手”层面。尽管能够解答一些设计问题，但在安全性上的实际应用还相对有限。未来发展可能会推动LLMs向更高级的“共设计员”工具转变，不仅能回答问题，还可以执行简单的设计任务。长远来看，这种“共设计员”工具将整合行业最佳实践知识，提高设计的安全性与效率。

未来的LLMs必须通过专用数据集训练，以确保在芯片设计中的可行性和准确性，由于LLMs在运行中可能访问敏感的设计数据，部署在企业内部的独立服务器上，以封闭环境操作将成为主流方式。

Part 2

安全环境中的LLMs部署

为了确保LLMs在EDA中的应用安全，部分企业可能选择将LLMs部署在本地服务器上，避免云端带来的数据泄露风险。这种方式能够保障公司专有知识产权的安全，避免潜在的攻击或IP泄漏。

同时，通过特定的安全知识库训练LLMs，如MITRE的公共弱点枚举（CWE），可以在模型中集成常见的漏洞信息，提高安全性。将LLMs部署在本地服务器上，确保数据安全，使用特定的安全知识库训练LLMs，如MITRE的CWE，采用离线更新方式，减少被攻击的风险。

LLMs在安全设计中拥有显著优势，但其应用也带来了新的风险。例如，攻击者可以利用LLMs生成功能等价的代码来绕过检测工具，甚至根据提示入侵硬件设计。

此外，LLMs在生成代码时可能会引入“幻觉”或错误信息，从而导致设计漏洞。此类漏洞在半导体设计中尤为致命，可能因未经校验的开源代码训练而导致系统缺陷。因此，设计验证团队需在使用LLMs时考虑到这些潜在风险。

未来，LLMs在设计中若要更有效地支持硬件安全，需要在验证阶段额外注意模型生成的代码问题。与传统设计方法不同，LLMs生成的代码可能存在“非人为”的错误，为此，验证过程需要考虑一些意外的漏洞，确保设计的稳定性。

小结

LLMs作为辅助工具，正在逐步被引入到EDA设计的多个环节中，为设计安全提供了新的可能性。在当前阶段，这些工具主要用于教育和基础设计帮助，LLMs将可能成为EDA设计中的“共设计员”，提供更为全面的设计支持。