AI可能初具意识？OpenAI首席科学家言论引争议，众大佬吵成一团( 二 ) 边策萧箫发自凹非寺量子位|公

在AGI道路上“越走越远”
IlyaSutskever本硕博毕业于多伦多大学，曾经是GeoffreyHinton的学生。
事实上， Sutskever正是AlexNet的作者之一。
2012年，在Hinton老爷子的指导下，他和AlexKrizhevsky共同设计了这个架构，在当年ImageNet挑战赛上夺冠，比第二名错误率低10.8% 。

文章图片
Hinton创办的DNNResearch被谷歌收购后， Sutskever加入谷歌大脑任研究科学家。
他曾经参与开发著名的AlphaGo ，成为众多论文作者之一，后者在2016年的围棋比赛中4比1击败了李世乭。

文章图片
在谷歌期间，他还与谷歌大脑的另外两名科学家合作，提出了NLP经典框架之一seq2seq算法。
2015年末， Sutskever离开谷歌，与马斯克、SamAltman等人共同创立OpenAI 。
2018年，在干了两年多研究主管（researchdirector）之后，他成为OpenAI的首席科学家（chiefscientist）。
可以说OpenAI从GPT-2研发到GPT-3 ，从击败DOTA2冠军战队的Rerun到会写代码做游戏的Codex ，他都是亲身参与其中的见证者之一。
在他的引领下， OpenAI正在逐渐走向AGI（通用人工智能）的道路。
2021年年初，多模态模型DALL·E和CLIP出现，打通了文字和图像之间的连接道路。

文章图片
当时OpenAI就提出研究表示， CLIP与人类的思维方式非常相像，让网友直呼AGI的到来比想象中要快更多。

文章图片
同样是去年， GitHub和OpenAI合作推出自动补全代码工具GitHubCopilot ， AI开始get到部分程序员的技能。
而就在今年年初， OpenAI研究的数学AI模型Lean再进一步，加上神经定理证明器后成功解出了两道国际奥数题。

文章图片
如今OpenAI正在研究百万亿参数大模型GPT-4 ，或许这也与Sutskever发出的这句感慨有关。
“200亿参数AI连加减法都搞不定”
但其实， AGI的道路看起来也没有那么明朗。
至少就在最近，纽约大学助理教授BrendanDolan-Gavitt发现， 200亿参数的大模型GPT-NeoX连最基础的整数算术题都做不对。
GPT-NeoX并非OpenAI官方的模型，而是一个名叫EleutherAI的机器学习小组搞出来的开源大模型（因为GPT-3没开源）。

文章图片
△部分结果展示
在Brendan出的100道题目整数加法、减法和乘法中， AI只算对了10道题，虽然其他的答案与正确答案也“差不多” ，但毕竟还都是算错了。可见AI并没有真正理解四则运算。
至于“神经网络到底有没有自我意识”这场讨论，网友们同样发表了自己的看法。
有网友认为，这些大佬与其说是在讨论AI有没有意识，不如说是他们在讨论定义是什么：

文章图片
也有人调侃，深度神经网络进入“玄学”深水区了：

文章图片
还有网友在这场讨论的评论区放了个机器人的魔性表情包， “AI眉头一皱，意识到事情并不简单”：

文章图片
对于“神经网络初具意识”这个观点，你认为呢？