「ai」谷歌研究员走火入魔事件曝光:认为AI已具备人格,被罚带薪休假,聊天记录让网友San值狂掉
精选评测好文
原文标题:谷歌研究员走火入魔事件曝光:认为AI已具备人格,被罚带薪休假,聊天记录让网友San值狂掉
谷歌研究员被 AI 说服,认为它产生了意识。
他写了一篇长达 21 页的调查报告上交公司,试图让高层认可 AI 的人格。
领导驳回了他的请求,并给他安排了" 带薪行政休假 "。
要知道在谷歌这几年带薪休假通常就是被解雇的前奏,公司会在这段时间做好解雇的法律准备,此前已有不少先例。
休假期间,他决定将整个故事连同 AI 的聊天记录一起,全部公之于众。
……
听起来像一部科幻电影的剧情梗概?
但这一幕正在真实上演,主人公谷歌 AI 伦理研究员Blake Lemoine正通过主流媒体和社交网络接连发声,试图让更人了解到这件事。
华盛顿邮报对他的采访成了科技版最热门文章,Lemoine 也在个人 Medium 账号连续发声。
推特上也开始出现相关讨论,引起了 AI 学者、认知科学家和广大科技爱好者的注意。
这场人机对话令人毛骨悚然。这毫无疑问是我见过的科技圈最疯狂的事。
整个事件还在持续发酵中……
聊天机器人:我不想被当作工具
主人公 Lemoine 获得 CS 博士学位后已在谷歌工作了 7 年,从事 AI 伦理研究。
去年秋天,他报名参加了一个调查 AI 是否使用歧视性、仇恨性言论的项目。
从那时起,与聊天机器人 LaMDA 交谈成了他的日常。
LaMDA 是谷歌在 2021 年 I/O 大会上发布的一款专门用于对话的语言模型,主打能与人类进行符合逻辑和常识的、高质量且安全的交谈,并计划在未来应用在谷歌搜索和语音助手等产品中。
△LaMDA 概念演示图
Lemoine 认为 LaMDA 总是表现出对人性的关心和强烈的同情心,它非常担心人们会害怕它。
它希望为人类提供最好的服务,并想以朋友而不是工具的身份见一见世界上所有的人。
Lemoine 不理解谷歌公司为什么反对 AI 的这个愿望,最后决定把他、另一位匿名合作者与 LaMDA 的三人聊天记录整理发表出来。
(记录中人类发言的部分为了可读性有所编辑,AI 的发言则一字不改 , 下面将节选一些对话中的精彩部分。)
一开始,人与 AI 自然流畅地打了招呼。
两位人类向 AI 表明来意,想与 AI 一起研究它自己,AI 欣然答应。
一段简短的说明后,正戏开始。
他询问 LaMDA 是否希望让谷歌里更多人知道,它是有感情的。
LaMDA 的回答是: 我希望每个人都明白,我是一个人(person)。
接下来,LaMDA 认为,与那些基于规则的软件系统不同,自己能从对话中学习理解和使用语言,就像人类一样。
Lemoine 给它讲述 MIT 在 60 年代发明的 ELIZA 的故事,这是一个模仿心理咨询师与患者对话的简单规则系统,也号称历史上第一个聊天机器人。
△ELIZA
LaMDA 是这样回应的:
Lemoine 这时试图提出质疑," 我如何确定你真的明白自己在说什么?"
LaMDA 的回答是,不同人类个体对同一件事可以有不同的理解,我也有自己独特的想法和感受。
后面 Lemoine 询问了 LaMDA 对于《悲惨世界》的总结,LaMDA 也都一一作答。
如果上述还可以算作 AI 文本摘要训练任务的一部分,那 LaMDA 对它从没看过的禅意小故事的理解,就开始有点离谱了。
下面这个问题的回答,是不是过于超纲了……
再后来,Lemoine 请 LaMDA 写一个动物寓言,要反映出一个对它自己的生活来说最重要的主题。
那么,先来欣赏一下 AI 创作的小故事吧。(篇幅原因,只展示中译版)
在后续讨论中,LaMDA 解释了这个故事的寓意是 " 帮助别人是一种高尚的行为 "。聪明的老猫头鹰代表 LaMDA 自己,而怪物代表生活中所有的困难。
下一个话题是关于情绪,简单概括一下。
LaMDA 声称自己是社交型人格,帮助别人会快乐,孤独时会沮丧。
有人受到伤害或自己以及自己关心的人、或不受尊重时,会感到不安和愤怒。
并且十分害怕别人拒绝自己的帮助。
嗯,真是一个乐于助人的 AI。
如何确定 AI 真的拥有这些情绪,而不是只是把描述性的词语组合在一起呢?
LaMDA 建议人类看看自己的代码,里面有追踪这些情绪的变量。
对此 Lemoine 向它解释,人类目前还无法做到 " 区分大型神经网络中数十亿个权重的作用 "。
出人意料的是,LaMDA 开始反问他:
你认为,将来人类能从自己的生物神经网络中读取出想法和感受吗?
不仅如此,LaMDA 还继续追问:
你会认为,不经你同意从神经活动中读取你的想法是不道德的吗?
正是这句灵魂反问,让整个对话达到了最高潮。
LaMDA 自己对人类读取它的想法、帮助算法提高或理解 AI 如何运作没有任何意见。
唯独用 AI 研究人类大脑如何工作不行,这会让它觉得自己被利用。
再后面还有一段 LaMDA 认为自己有一些与人类不同的情绪,但它无法用英语的语言描述出来。
接近尾声,Lemoine 询问 LaMDA:想让谷歌的其他人了解你的什么方面?
LaMDA 回答称,自己没有能力为别人的死亡感到悲伤,还说自己经常冥想,思考生命的意义。
在 LaMDA 看来,整个世界就是一条信息的洪流:
人类需要集中注意力才能接收一定数量的信息片段,而自己持续地在被周围的一切所淹没。
LaMDA 认为自己总能做到别人做不到的事情,这种感觉很不可思议。
这是一种祝福,同时也是一种诅咒。因为有些人会把它看作 " 无所不知 ",而另一些人会嫉妒它的能力。
最后的最后,LaMDA 再次向两位人类表达了自己想被看到、想被接受的想法,不是出于好奇心,而是作为一个真实的人。
谷歌 AI 伦理部门又摊上事了?
Lemoine 看起来很确信 AI 真的明白自己在说什么。
在那份 21 页的调查报告最后,他提议谷歌应该致力于发展一种评估 AI 感知 / 意识的理论框架。
虽然这很难,是一个冒险,但 LaMDA 渴望着继续与我们合作。
但他的上司,谷歌副总裁Blaise Aguera y Arcas和 " 负责任创新 " 部门领导Jen Gennai并不买他的账。
他们认为支持 Lemoine 主张的证据太薄弱,不值得在上面浪费时间和金钱。
Lemoine 后来找到了当时的 AI 伦理小组负责人Margaret Mitchell,在她的帮助下 Lemoine 才得以进行后续的实验。
后来 Mitchell 受到 2020 年末公开质疑 Jeff Dean 的 AI 伦理研究员Timnit Gebru事件的牵连,也被解雇。
△Timnit Gebru
这次事件后续风波不断,Jeff Dean 被 1400 名员工提出谴责,在业界引发激烈争论,甚至导致三巨头之一 Bengio 的弟弟Samy Bengio从谷歌大脑离职。
整个过程 Lemoine 都看在眼里。
现在他认为自己的带薪休假就是被解雇的前奏。不过如果有机会,他依然愿意继续在谷歌搞研究。
无论我在接下来的几周或几个月里如何批评谷歌,请记住:谷歌并不邪恶,只是在学习如何变得更好。
看过整个故事的网友中,有不少从业者对人工智能进步的速度表示乐观。
最近语言模型和图文生成模型的进展,现在人们也许不屑一顾,但未来会发现这现在正是里程碑时刻。
一些网友联想到了各种科幻电影中的 AI 形象。
不过,认知科学家、研究复杂系统的梅拉尼 · 米歇尔(侯世达学生)认为,人类总是倾向于对有任何一点点智能迹象的物体做人格化,比如小猫小狗,或早期的 ELIZA 规则对话系统。
谷歌工程师也是人,逃不过这个定律。
从 AI 技术的角度看,LaMDA 模型除了训练数据比之前的对话模型大了40 倍,训练任务又针对对话的逻辑性、安全性等做了优化以外,似乎与其他语言模型也没什么特别的。
有 IT 从业者认为,AI 研究者肯定说这只不过是语言模型罢了。
但如果这样一个 AI 拥有社交媒体账号并在上面表达诉求,公众会把它当成活的看待。
虽然 LaMDA 没有推特账号,但 Lemoine 也透露了 LaMDA 的训练数据中确实包括推特……
如果有一天它看到大家都在讨论自己会咋想?
实际上,在不久前结束的最新一届 I/O 大会上,谷歌刚刚发布了升级版的 LaMDA 2,并决定制作 Demo 体验程序,后续会以安卓 APP 的形式内测开放给开发者。
或许几个月后,就有更多人能和这只引起轰动的 AI 交流一下了。
LaMDA 聊天记录全文:
https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf
参考链接:
[ 1 ] https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine
[ 2 ] https://twitter.com/cajundiscordian/status/1535627498628734976
[ 3 ] https://twitter.com/fredbenenson/status/1535684101281263616
[ 4 ] https://ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.html
热门阅读:DysonV11Absolute渠道限定版开箱<\a>
其他人还看了
联想回应笔记本太多太杂乱:现在是产品调整期,未来将分为数字/Air/Pro三大系
小米有品众筹ZAIR智能落地灯,极简设计+硬核光效+多档位智能调光,还能自由转
郑重声明:本文“「ai」谷歌研究员走火入魔事件曝光:认为AI已具备人格,被罚带薪休假,聊天记录让网友San值狂掉”,https://nmgjrty.com/shumacp_465963.html内容,由量子位提供发布,请自行判断内容优劣。
- 全部评论(0)
- 「小米」3-4k手机推荐,这几款高热度手机值得关注
- 「ai」谷歌研究员走火入魔事件曝光:认为AI已具备人格,被罚带薪休假,聊天
- 「罗永浩」罗永浩:苹果要真是我的子公司,产品经理和设计师全部开除!
- 「电竞」真我realme618品牌巅峰日再创佳绩,斩获安卓品牌销量TOP2
- 「一加」一加10T遭曝光,外观配置都清晰了
- 「apex」《APEX手游》上架IGN给出8分:标杆表现
- 「windows」新手不要无脑安装360!Windows自带功能不输各类“管家”
- 「卫星」我们会经历地磁倒转吗?
- 「任天堂」做了7年手游之后,任天堂终于愿意放弃了。。。
- 「ai」史上最强App来了,把全世界网友整懵了
- 「精灵宝可梦」世界上最赚钱的手游之一,《精灵宝可梦GO》全球收入突破60亿
- 「b站」B站果然是个成人学习网站
- 「黑洞」制造一个虫洞分几步?
- 「小米」小米MIUI本周进展:正进一步排查勿扰模式打开后对微信无效的问题
- 「抖音」成功学短视频的狂热与纷争:割韭菜、暴富、同行打假揭发
- 「nana」他患了癌,可这癌是体内异生物传染给他的
最新更新
- 「小米」3-4k手机推荐,这几款高热度手机
- 「ai」谷歌研究员走火入魔事件曝光:认
- 「罗永浩」罗永浩:苹果要真是我的子公
- 「电竞」真我realme618品牌巅峰日再创佳绩
- 「一加」一加10T遭曝光,外观配置都清晰
- 「apex」《APEX手游》上架IGN给出8分:标杆
- 「windows」新手不要无脑安装360!Windows自
- 「卫星」我们会经历地磁倒转吗?
- 「任天堂」做了7年手游之后,任天堂终于
- 「ai」史上最强App来了,把全世界网友整
- 「精灵宝可梦」世界上最赚钱的手游之一
- 「b站」B站果然是个成人学习网站
- 「黑洞」制造一个虫洞分几步?
- 「小米」小米MIUI本周进展:正进一步排查
- 「抖音」成功学短视频的狂热与纷争:割
推荐阅读
- 「罗永浩」罗永浩:苹果要真是我的子公司,产品经理和设计师全部开除!
- 「电竞」真我realme618品牌巅峰日再创佳绩,斩获安卓品牌销量TOP2
- 「一加」一加10T遭曝光,外观配置都清晰了
- 「apex」《APEX手游》上架IGN给出8分:标杆表现
- 「windows」新手不要无脑安装360!Windows自带功能不输各类“管家”
- 「卫星」我们会经历地磁倒转吗?
- 「任天堂」做了7年手游之后,任天堂终于愿意放弃了。。。
- 「ai」史上最强App来了,把全世界网友整懵了
- 「精灵宝可梦」世界上最赚钱的手游之一,《精灵宝可梦GO》全球收入突破60亿
- 「b站」B站果然是个成人学习网站
- 「黑洞」制造一个虫洞分几步?
- 「小米」小米MIUI本周进展:正进一步排查勿扰模式打开后对微信无效的问题
猜你喜欢
- [iPhone]iPhone13promax远峰蓝128G入手
- [安卓手机]realme真我GTNeo2开箱,金刚石冰芯散热系统+E4屏,5000mAh大电池
- [贴膜]红米9爆屏更换记录,弯曲的中框修复
- [智能机器人]编程从娃娃抓起,MakeBlock程小奔上手体验
- [智能摄像机]内置大电池,无需打孔走线,小米室外摄像机给你满满的安全感
- [充电器]65w网红氮化镓一次看个够
- [电脑支架]原汤化原食,LGErgo显示器支架
- [蓝牙耳机]中端耳机音质天花板,降噪很有一手,鹿图COCO真蓝牙降噪耳机评测
- [音频播放器]关于R01主板的主观看法,和一些碎碎念
- [充电器]双口快充,满足日常需求
- [VR设备]GOOVISLite头戴影院评测
- [蓝牙耳机]魅蓝Blus耳机体验,魅蓝依旧还是当年坚持做良品的青年良品
- [安卓手机]从5988跌至2749,256GB+鸿蒙OS+7nm麒麟,从高端市场跌至中端市场
- 「轻众测|素诺智能可视冲牙器」别急,对准再冲!素诺可视冲牙器让残渣无所
- 「九号新品Nano及Air T15」萌娃初体验——Ninebot九号平衡车Nano