Nvidia刚刚发布了一款新的代码生成器可以在大多数现代CPU上运行

Nvidia与ServiceNow和HuggingFace联手推出了用于代码生成的新系列开放访问大型语言模型(LLM)。

StarCoder2平台由BigCode社区开发，考虑了性能、透明度和成本效益。

StarCoder2的广泛影响力建立在619种编程语言的培训之上。AI代码生成器分为三种类型：30亿、70亿和150亿个参数。

根据公告，创建较小的变体是为了在管理计算成本的同时提供强大的性能。最小的模型是与ServiceNow一起构建的，并承诺与原始StarCoder的150亿参数选项的性能相匹配，而中等规格的选项则获得HuggingFace的支持。

StarCoder2的150亿参数选项在Nvidia加速基础设施上进行了训练。

显着的改进意味着，虽然Nvidia加速选项可以释放更高的性能，但即使是最基本的变体也比前几代有了相当大的进步，并且需要不太复杂的基础设施。

乔纳森·科恩(JonathanCohen)，Nvidia应用研究副总裁。“Nvidia与ServiceNow和HuggingFace的合作引入了安全、负责任地开发的模型，并支持更广泛地使用负责任的生成人工智能，我们希望这将使全球社区受益。”