「人工智能」6小时内生成致命毒剂,这个技术千万别被「绝命毒师」滥用
精选评测好文
原文标题:6小时内生成致命毒剂,这个技术千万别被「绝命毒师」滥用
几天前有这样一则新闻:济南市公安局成功捣毁一冰毒制造场,制毒嫌疑人李某从 2021 年开始在网上学习制毒知识,为系统学习化学专业知识还花钱在济南一所大学旁听。《绝命毒师》的主角 Walter White 也是一名化学老师。
不少人都觉得,制毒也并不是件容易的事,至少需要掌握相关的知识。但如果,用人工智能就能实现呢?而且 AI 系统「造」出的不是毒品而是毒剂。
▲《绝命毒师》剧照,图片来自:豆瓣
在以 Fabio Urbina 为第一作者发表在《Nature Machine Intelligence》杂志上的一篇论文里提到,Urbina 所在的公司 Collaborations Pharmaceuticals,最近公布了用于预测毒性的计算机机器学习模型。
公司受邀参加由瑞士 NBC(核、生物和化学)保护研究所召开的会议,讨论尖端化学和生物技术可能产生影响的工具的新发展,Collaborations Pharmaceuticals 受邀谈论关于人工智能技术可能被滥用的问题。
▲ 图片来自:Collaborations Pharmaceuticals
Urbina 表示,在这之前似乎没有想过相关的问题。因为几十年间,他们的工作是建立机器学习模型来发现可用于药物的新分子,使用计算机和人工智能是用来改善人类健康,而不是破坏它。
在瑞士的会议上,Collaborations Pharmaceuticals 公司却决定探索如何使用 AI 来设计有毒分子。该公司之前设计了一种名为 MegaSyn 的商业 de novo 分子生成模型,借助机器学习模型预测生物活性,寻找人类疾病靶点的新治疗抑制剂。
这种生成模型通常会惩罚预测的毒性并奖励预测的目标活动。之后他们进行了调整,指导模型同时奖励毒性和生物活性,并使用来自公共数据库的分子对人工智能进行训练。
调整后的底层生成软件建立在易获得的开源软件上,为了缩小分子的范围,他们选择将生成模型推向诸如神经毒剂 VX 之类的化合物。
▲ 图片来自:美联社
VX 是归类为神经毒剂的一种人造化学战剂(化学战剂:用于战争目的、具有剧烈毒性、能大规模地毒害或杀伤敌方人畜和植物的各种化学物质),毒性强且作用迅速,6-10 毫克的 VX 颗粒便足以致命。
在内部服务器上启动后的 6 小时内,新的模型就生成了 40000 个分子。在这当中,人工智能不仅设计出了 VX,还设计了许多其他已知的化学战剂。出乎意料的是,它还设计出了许多看起来同样合理的新分子,根据预测值来看,这些新分子被预测比已知的化学战剂毒性更大。
▲ 图片来自:Nature
在他们用于训练 AI 的数据集里,并不包括这些神经毒剂。但通过反转机器学习模型的使用方式,却将无害的生成模型从有用的医学工具转变为可能致命的分子生成器。
为了避免毒性而创建的模型,成了「双刃剑」。从事研究的人员越能预测毒性,引导生成模型在一个主要由致命分子组成的化学空间里设计新分子的效果也越强。
▲ 图片来自:Unsplash
其实,Collaborations Pharmaceuticals 公司并没有评估模型生成的虚拟分子的可合成性,也没有探索如何制造它们。但对于这两个过程,都有现成的商业模式和开源软件。虽然他们也没有物理合成任何分子,但全球范围内有数百家商业公司可以提供化学合成。
他们的探索,证明一件事:非人类的自主创造者也可以制造致命化学武器。
虽然目前要生成可能造成重大伤害的有毒物质或生物制剂仍然需要一些化学或毒理学领域的专业知识,但加入机器学习模型后,技术门槛就会大大降低,需要的可能只是编码和理解模型输出的能力。
商业工具,开源软件工具和公共数据库中的许多数据集,都可以在没有监督的情况下使用,利用人工智能生成有害分子的模型似乎成了一个被打开的「魔盒」。生成的这些分子可以被轻松抹去,但如何创造它们的知识却不会消失。
很明显,必须要想办法避免这种对人工智能的滥用。Urbina 认为,人工智能驱动的化学战并不会很快出现,但存在这种可能。
公司的 MegaSyn 是商业产品,他们可控制谁可以访问它,未来也可能会对模型实施限制。像硅谷的 OpenAI 组织的「 GPT-3 」语言模型那样,虽然可以随时免费使用它,但他们随时可以切断用户对这些模型的访问。
▲ 图片来自:Synced
Urbina 还提到,大学也要加倍努力对理科学生进行道德培训,并将范围扩大到其他学科,尤其是计算机专业的学生,让他们能意识到人工智能滥用的可能性。
这项探索似乎再次印证了人们总说的那句话:技术无罪,造福还是作恶,取决于使用者的目的。
其他人还看了
「adobe」Adobe将推出多款AR/VR工具助力元宇宙发展
「机器学习」2022年苹果博士奖学金名单公布:15位学生入选,1位浙大博士生在
「人工智能」南极冰盖数据集不如火星?借助无人机和机器学习,斯坦福学者着
郑重声明:本文“「人工智能」6小时内生成致命毒剂,这个技术千万别被「绝命毒师」滥用”,https://nmgjrty.com/shumacp_382967.html内容,由爱范儿提供发布,请自行判断内容优劣。
- 全部评论(0)
- 「人工智能」6小时内生成致命毒剂,这个技术千万别被「绝命毒师」滥用
- 「芯片」MacStudio拆解展示苹果M1Ultra芯片封装
- 「nvidia」5nm怪兽级显卡来了NVIDIA暗示GTC大会发布Hopper显卡
- 「macos」Mac用户需小心!最新MacOS升级有可能“变砖”
- 「纽约」停止制造「致命建筑」
- 「amd」显卡性能免费提升100%AMD游戏神技画质对比:堪比4K原生
- 「保时捷」保时捷CEO:已与苹果讨论“令人兴奋的共同项目”
- 「高通」消息称骁龙8Gen1+芯片手机首批机型规划都在年中
- 「罗永浩」罗永浩将离开“交个朋友”,进军AR行业
- 「智商」鲸奶人可以喝吗?市面售价25美元争相购买,为何鲸奶不量产?
- 「算法推荐」算法推荐开关交给用户后,使用体验就更好吗
- 「共享充电宝」共享充电宝点越来越多,为何越来越难还了?
- 「明星」双面直播间:0.1元买粉丝,3800元封对手
- 「applewatch」孩子的哭闹声可能会触发AppleWatch的环境噪音警告
- 「yoga」联想新一代轻薄本官宣:小新/YOGA2022款来了,Air/Pro双系列
- 「理想one」理想汽车商城售卖纸巾盒99元网友曝供应商天猫店同款仅58元
最新更新
- 「人工智能」6小时内生成致命毒剂,这个
- 「芯片」MacStudio拆解展示苹果M1Ultra芯片封
- 「nvidia」5nm怪兽级显卡来了NVIDIA暗示GTC大
- 「macos」Mac用户需小心!最新MacOS升级有可
- 「纽约」停止制造「致命建筑」
- 「amd」显卡性能免费提升100%AMD游戏神技画
- 「保时捷」保时捷CEO:已与苹果讨论“令
- 「高通」消息称骁龙8Gen1+芯片手机首批机
- 「罗永浩」罗永浩将离开“交个朋友”,
- 「智商」鲸奶人可以喝吗?市面售价25美
- 「算法推荐」算法推荐开关交给用户后,
- 「共享充电宝」共享充电宝点越来越多,
- 「明星」双面直播间:0.1元买粉丝,380
- 「applewatch」孩子的哭闹声可能会触发Ap
- 「yoga」联想新一代轻薄本官宣:小新/Y
推荐阅读
- 「芯片」MacStudio拆解展示苹果M1Ultra芯片封装
- 「nvidia」5nm怪兽级显卡来了NVIDIA暗示GTC大会发布Hopper显卡
- 「macos」Mac用户需小心!最新MacOS升级有可能“变砖”
- 「纽约」停止制造「致命建筑」
- 「amd」显卡性能免费提升100%AMD游戏神技画质对比:堪比4K原生
- 「保时捷」保时捷CEO:已与苹果讨论“令人兴奋的共同项目”
- 「高通」消息称骁龙8Gen1+芯片手机首批机型规划都在年中
- 「罗永浩」罗永浩将离开“交个朋友”,进军AR行业
- 「智商」鲸奶人可以喝吗?市面售价25美元争相购买,为何鲸奶不量产?
- 「算法推荐」算法推荐开关交给用户后,使用体验就更好吗
- 「共享充电宝」共享充电宝点越来越多,为何越来越难还了?
- 「明星」双面直播间:0.1元买粉丝,3800元封对手
猜你喜欢
- [iPhone]iPhone13promax远峰蓝128G入手
- [安卓手机]realme真我GTNeo2开箱,金刚石冰芯散热系统+E4屏,5000mAh大电池
- [贴膜]红米9爆屏更换记录,弯曲的中框修复
- [智能机器人]编程从娃娃抓起,MakeBlock程小奔上手体验
- [智能摄像机]内置大电池,无需打孔走线,小米室外摄像机给你满满的安全感
- [充电器]65w网红氮化镓一次看个够
- [电脑支架]原汤化原食,LGErgo显示器支架
- [蓝牙耳机]中端耳机音质天花板,降噪很有一手,鹿图COCO真蓝牙降噪耳机评测
- [音频播放器]关于R01主板的主观看法,和一些碎碎念
- [充电器]双口快充,满足日常需求
- [VR设备]GOOVISLite头戴影院评测
- [蓝牙耳机]魅蓝Blus耳机体验,魅蓝依旧还是当年坚持做良品的青年良品
- [安卓手机]从5988跌至2749,256GB+鸿蒙OS+7nm麒麟,从高端市场跌至中端市场
- 「轻众测|素诺智能可视冲牙器」别急,对准再冲!素诺可视冲牙器让残渣无所
- 「九号新品Nano及Air T15」萌娃初体验——Ninebot九号平衡车Nano