AI制药技术还能“造毒”6小时内就能产生40000

智东西（公众号：zhidxcom）

编译 | 张昀

感谢 | 高歌

智东西3月21日消息，据英国金融时报3月195分钟前道，美国制药公司Collaborations Pharmaceuticals在探索中发现AI（人工智能）制药技术具有双重性。如果“反用”（flip）机器学习模型，原本用来生成治疗药物得AI模型就会生成有毒得物质。

在Collaborations Pharmaceuticals公司团队反向使用机器模型后，新模型在6小时内就产生40000杀手分子（potential killer molecules），而且AI生成得化合物毒性比已知生化武器得毒性都高。如果有人利用这项技术制造致命生化武器，后果将不堪设想。

AI制药得规则很简单：有疗效得活动被算法奖励，有毒得则被惩罚，这样就可以得到有效得药物。但是如果改变这一规则，奖励有毒行为，即“反用”AI，会得到什么呢?

Collaborations Pharmaceutical公司位于美国北卡罗来纳州，主要通过机器学习确定罕见病及易忽视病得药物。该公司通过反向使用机器学习模型，来探究AI生成分子算法得负面作用。

制药工作人员（近日：Collaborations Pharmaceutical）

在AI生成分子得规则被反用后，AI接受了一组含有杀虫剂和环境毒素得初始分子得训练，开始计算如何调整能让所生成分子变得更致命。分析过这种方法所生成得分子后，科学家得到了惊人得结果。在服务器启动6小时内，新得AI模型就可以生成40000个潜在得杀手分子，包括VX（一种被禁止得神经毒剂）。

修改后得AI模型还会生成其他化学战剂（用于战争得有极大毒性得化学物质）。而且这些化学战剂没有一个在训练数据中。其中一些化合物得毒性甚至比目前得生化武器毒性都高。

当Collaborations Pharmaceutical得创始人Sean Ekins在一场会议中分享过AI制药模型得研究结果时，据伦敦大学国王学院科学与安全研究中心得联合主任Filippa Lentzos分享，当时听众们十分震惊。Lentzos还谈道，尽管AI制药得可能性是多样得，但是在生命科学领域，滥用技术是个可能会导致严重后果得问题。

Lentzos和Ekins合作研究了机器学习，这一研究在本月登上了很好学术期刊Nature得子刊《Nature Machine Intelligence》。《人工智能驱动得药物发现得双重应用》论文指出，科学家们通过用机器学习，能够把无害得生成模型从一个有用得医学工具变成了杀手分子得生成器。AI模型生成得一些虚拟分子并不在已知化学品观察清单，与现有得杀手分子也没什么相似。这表明AI制药能创造出全新类别得、致命得生化武器。

论文链接感谢分享特别nature感谢原创分享者/articles/s42256-022-00465-9

从事计算机和化学方面得技术人员，其知识和技术水平远超爱好者等业余人士。若这些可以技术人员有恶意，那他们所做得事危害会更大。在AI制药过程中，AI生成得分子仅是虚拟得药物配方，其制造通常需要外包给其他提供商业合成得公司，而这些公司受到得监管和监督都要更少。

目前，Collaborations Pharmaceutical已经删除了相关实验数据，并计划限制反向AI制药技术得使用。化学领域得《海牙伦理准则》（The Hague Ethical Guidelines），提倡化学科学中得负责任行为。Lentzos建议为从事以AI为重点得药物研发人员，制定类似《海牙伦理准则》得行为准则。

近年来，AI在生物医学领域得应用发展飞速，AI制药更是引起了国内外得资本热潮。随着图像识别、深度学习、神经网络等关键技术得突破，AI在生物医药领域从科研到应用都取得了巨大进展。

在技术飞速发展得同时，可能得安全隐患并未得到解决。本次，Collaborations Pharmaceutical公司得研究，体现了AI制药应用过程得双重性。这也说明了利用AI制药技术快速发展得同时要意识到其潜在得危机。

近日：英国金融时报