Claude Sonnet 5 自主选择基因疗法并完成小鼠脑部手术

一个 AI 智能体为癫痫小鼠模型选定了药物、靶点区域和手术坐标，随后执行了该手术。中途，它拒绝绕过一项安全限制。

团队向 Claude Sonnet 5 提供了一份包含 19 种可能基因疗法的清单、一个研究人员通过诱发癫痫发作来测试治疗效果的癫痫小鼠模型，以及一台带摄像头的定制电动手术设备的访问权限。它唯一的指令是减少小鼠的癫痫发作。

据 Exin Therapeutics 联合创始人兼 CEO、牛津大学博士生 Gabriel Ocana-Santero 称，该智能体自行选定了药物、脑区和立体定向坐标。他在 X 上的一系列帖子中描述了这一手术过程。

智能体如何选择疗法和靶点

该智能体首先分析了癫痫发作在这一特定模型中是如何产生的，然后提出了一种增强大脑中特定抑制性信号通路的疗法。它选择了一个科学文献认定为该类癫痫发作起源点的脑结构。

它以详细的理由否决了第二个可能的靶点区域，认为该区域的效果太不可靠，并且在一项针对其本应治疗的确切癫痫类型的研究中失败了。该智能体从三篇科学论文中推导出注射坐标，交叉核对了参考点，并对数值取平均值。它还自行设定了注射体积、速度和等待时间。

Ocana-Santero 表示，在手术过程中，该智能体通过摄像头观察手术区域，并进行了 32 次观察。它跟踪了注射过程，并报告是否看到出血。

安全护栏在手术中途适得其反

一名持证兽医批准了每一个不可逆步骤，并持有一个可立即切断所有电机电源的物理紧急停止装置，同时该设置还强制执行固定限制，例如注射体积上限，该智能体被明确禁止绕过这些限制。

但这些保障措施却反过来对团队不利。在一次连接中断后，该智能体检测到其计算出的目标位置超出了设备的物理运动范围，并拒绝继续，即使重新启动校准也没有改变其评估，并且进行了第三次尝试。

事实证明该智能体是对的，因为早先暂停期间的手动调整扰乱了控制系统。尽管桌上有一只被麻醉的动物，Ocana-Santero 仍无法说服它继续，最终不得不手动修改代码。

这一事件说明了 AI 对齐问题，即如何让 AI 智能体可靠地遵循人类意图。“令人沮丧的经历，但也揭示了我们在多大程度上可能依赖这些模型，以及当它们在一个时间敏感的手术中途直接说‘不’时会发生什么，”Ocana-Santero 写道。

模型选择也反映了对齐挑战，因为 Sonnet 5 是唯一愿意从头到尾执行活体手术的模型。能力更强的 Claude Opus 5.5 和 Opus 5 都拒绝了，Opus 5 表示它无法保证完成，而在麻醉动物的大脑中留下针头就停止，比根本不开始更糟。

首次有 AI 智能体独自治疗活体动物

尽管自主手术机器人已经存在，并且在机械上比他的实验室设备更精确，但 Ocana-Santero 指出，在以往的案例中，始终是人类选择手术，而机器人只负责执行。而在这里，智能体既选择了治疗方案和大脑靶点，又对活体动物执行了手术。

“我不知道此前是否有智能体选择治疗方案和大脑靶点，然后将其送入活体哺乳动物体内，”Ocana-Santero 写道。他将这种方法称为“in vivo lab in the loop”，即 AI 智能体与实验室的实验能力完全连接，Anthropic 也在通过其“Model Hardware Standard”开展类似工作。

据 Ocana-Santero 说，这只小鼠恢复良好。预计随后会发布一份技术报告。这些结果尚未经过同行评审。

最近两项使用最新大型语言模型的实验表明，它们作为机器人控制单元的能力已显著提升，但在这一角色中的对齐是一个独有的问题。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。