首个全流程国产化类脑脉冲大模型推出

记者9月8日从中国科学院自动化研究所获悉，来自该所等单位的科研人员首次在国产GPU（图形处理器）算力平台上完成原生类脑脉冲大模型“瞬悉”1.0的全流程训练和推理，并正式开源了70亿参数版本大模型，同时开放了760亿参数版本大模型的测试网址。这是全球首个类脑脉冲大模型，实现了全流程国产化，标志着我国在类脑计算与大模型融合创新方面取得重要突破。

当前，基于Transformer架构的大模型主要依赖简单“点神经元”与大规模算力提升智能，但其训练和推理成本随文本长度急剧增加。

在这项研究中，研究团队借鉴大脑神经元的工作机制，提出了具有线性复杂度的类脑脉冲大模型架构，成功打造出“瞬悉”1.0。