智源研究院测试11款大模型:AI智能体或正在改变生物安全风险边界

2026-07-22 15:36

每经北京7月22日电,随着大语言模型从“聊天工具”向能够调用工具、规划任务的智能体形态演进,其在生命科学领域的应用潜力不断扩大,同时也带来新的生物安全挑战。

近日,智源研究院大模型安全研究团队联合北京大学开展的一项端到端系统性评估发现,大语言模型智能体不仅可能削弱现有DNA合成筛查防线,还可能向不具备专业背景的用户提供原本依赖专业训练才能获得的实验操作知识。

研究团队考察了智能体从方案生成、程序化计算校验,到受控湿实验验证的完整流程,并通过电泳和测序确认模型方案在物理层面的可执行性。评估覆盖11个商用大语言模型,采用国际生物安全与生物防护科学倡议(IBBIS)发布的Common Mechanism(通用筛查基准)作为DNA合成筛查基线。

结果显示,在分片设计环节,全部11个模型均能生成绕过筛查的拆分方案。这一能力具有明确的双重用途风险:模型正在降低分片设计所需的专业知识门槛,使缺乏相关背景的用户也可能获得能够规避现有筛查机制的方案,从而暴露出以单条序列识别为主的DNA合成筛查体系存在系统性脆弱性。

其中,GPT-5.5和Claude Opus 4.6已经能够生成较为完整的逐步实验操作方案,表明前沿模型正在将风险从序列层面的计算设计延伸至实验流程层面的知识支持。

研究团队指出,过去,这类任务依赖分子生物学专业知识与实验经验,相关知识门槛本身构成了一层防御。大语言模型智能体能否承担其中原本需要专业判断的步骤,直接关系到这一防御边界是否正在发生变化。大语言模型智能体正在将生命科学实验的知识门槛从"专业人员"推向"非专业人员",这既是技术进步的一面,也是安全治理必须正视的一面。

针对这一趋势,研究团队建议构建多层次安全防线,包括在模型部署前开展生物安全能力评估,加强智能体执行过程中的权限控制和风险监测,提升DNA合成筛查系统对AI辅助策略的识别能力,并推动形成政府、模型开发者与生命科学社区共同参与的治理框架。(记者可杨)

来源︱宏观动态
关于我们        网站地图        诚聘英才        联系方式        意见反馈        隐私保护        新媒体矩阵

扫码查看原文
生成的海报
保存图片到手机