谷歌研究员被群嘲：LaMDA有人格是胡说八道！谷歌也回应：想多了，就是会聊而已什么？AI具备人格了？？谷歌前

什么？AI具备人格了？？
谷歌前不久搞出来了一个超大规模语言模型LaMDA 。公司里有个研究员BlakeLemoine跟它聊了很久，对其能力感到十分惊讶，于是下了个结论：LaMDA可能已经具备人格了。（原话用的词是sentient ，在不同的语境下可以被翻译为感情、智慧、知觉等。）
很快，这位仁兄就被“带薪休假了” 。
但他不是一个人：就连公司VPBlaiseAgüerayArcas都在发表文章，表示AI在获得意识方面实现了巨大进步， “已经进入了一个崭新时代。 ”

文章图片
消息经过一众媒体的报道，震撼了整个科技世界。不仅学术和工业界，就连很多普通人，都对AI技术的飞跃大吃一惊。
“这一天终于来了？”
“孩子们（如果你们将来还能活下来的话），请记住，这就是一切的开始。 ”
然而，真正的AI专家们，却对此嗤之以鼻。
AI具备人格？众大佬嗤之以鼻斯坦福HAI中心主任ErikBrynjolfsson直接把这件事比喻为“面对留声机的狗” ，他发推表示：
“基础模型(foundationmodels ，也即自我监督的大规模深度神经网络模型)非常擅长做的一件事，就是根据提示，将文本采用统计学上合理的方式串起来。
但是如果你说他们是有知觉的，就好比狗听到留声机里的声音，以为它的主人在里面一样。 ”

文章图片
纽约大学心理学教授GaryMarcus ，同时也是一位颇为知名的机器学习和神经网络专家，还直接撰文吐槽LaMDA具备人格“胡说八道”(Nonsense) 。 [1]

文章图片
“简直是扯淡。无论是LaMDA还是它的近亲们（比如GPT-3）都没有什么智能。它们所做的只是从人类语言的大规模统计数据库当中提取，然后匹配模式。
这些模式可能很酷，但这些系统说出的语言，实际上根本没有任何的意义，更不可能意味着这些系统是有智慧的。 ”
翻译成白话就是：
你看着LaMDA说的话都特别有哲理，特别真实，特别像人——然而它的设计功能就是模仿别人说话，它其实根本不知道自己在说什么。
“具备知觉(tobesentient)的意思是意识到你在这个世界里的存在。 LaMDA并没有这样的意识， ”Marcus写道。
如果你以为这些聊天机器人具有人格，那么有幻觉的应该是你……
比如在拼字游戏比赛当中，经常能看到母语非英语的玩家拼出英文单词，却根本不知道单词是什么意思——LaMDA也是如此，它只是会说话，却根本不知道自己说的话是什么意思。
Marcus大佬直接把这种对于AI获得人格的错觉，形容为一种新型的“空想性错觉” ，也即把天空中的云看成龙和小狗，把月球上的陨石坑看成人脸和月兔。
AI学术界新星之一， Mozilla基金会高级研究员AbebaBirhane也表示：“带着最小限度的批判思维，我们终于登上了AI炒作的巅峰。 ”
Birhane是所谓的“AI知觉论”的长期批评者。她在一篇发表于2020年的论文里，曾经直接提出了以下几个观点：
1）大家天天炒的AI并不是真的AI ，而是统计学系统，是机器人(robot)；2）我们不应该赋予机器人权利；3）我们甚至压根就不应该讨论是否要赋予机器人权利……
比利时DondersInstitute计算认知科学教授OliviaGuest也加入了“战局“ ，称整个事情的逻辑是错乱的。
“‘我看到的东西像人，因为我按照人的样子开发的它，所以它是一个人’——简直是倒骑驴的逻辑。 ”