DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难

DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
新智元报道
编辑:David
【新智元导读】DeepMind首席研究科学家DavidSilver的明星气质与他安静、谦逊的性格形成了鲜明对比 。 这位让AI自学下围棋玩游戏的强化学习大牛认为:比起AI的威胁 , 人类智能产生的后果可能更可怕 。
在DeepMind首席研究科学家、伦敦大学学院计算机科学教授DavidSilver看来 , 游戏是激发创造力的关键 , 尤其是对AI而言 。
Silver曾小时候参加过全国拼字游戏比赛 , 之后他继续在剑桥学习并共同创办了一家视频游戏公司 。
DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
后来 , 在获得人工智能博士学位后 , 他带领DeepMind团队开发了AlphaGo , 这是第一个围棋比赛中击败世界冠军的AI程序 。
DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
对于Silver来说 , 游戏是了解人类和人工大脑如何自行学习以实现目标的实验场 。
DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
对于围棋AIAlphaGo来说 , 向程序提供有关人类在不同位置的决策 , 再让AI模仿 , 这种学习被称为「监督式学习」 。 实现AI程序通过自对弈中学习 , 这种方式称为「强化学习」 。
然后 , 在AlphaGo和世界冠军的关键比赛中 , Silver突然想到:也许 , 机器的决策根本不应该受到人类的影响 。
这个想法最终成为AlphaGoZero的开端 , 它是AlphaGo的继任者 , 在完全不接收人类知识的情况下 , 只靠强化学习 , 从游戏规则出发学习如何下好围棋 。
DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
后来 , AlphaGoZero与AlphaGo对弈100局 , 零封了自己的「老大哥」 。
DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
2020年4月 , DavidSilver因在「计算机游戏方面的突破性进步」获得了2019年ACM计算奖 。
DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
在颁奖仪式上 , 时任ACM主席CherriM.Pancake表示:
「很少有其他研究人员像DavidSilver那样 , 在AI领域引起如此多的令人兴奋的成果 。 他对深度强化学习的见解已经从游戏中铺开 , 应用于多个领域 , 包括电网效率的提升、降低数据中心的功耗以及为欧洲航天局规划太空探测器的轨迹等 。 」
另外 , Silver是英国皇家学会Fellow , 也是在AI领域首位获得门萨基金最佳科学发现奖的科学家 。
DeepMind首席科学家:比起机器智能,我更担心人类智能造成的灾难
文章图片
Silver的明星气质与他安静、谦逊的天性形成鲜明对比 。 在本次采访中 , Silver谈论了游戏、创造力的意义 , 以及AI在避免气候变化、病原体感染、大规模贫困和环境灾难等方面的应用潜力 。
以下是访谈内容:
你小时候玩游戏的方式就与其他孩子不一样吗?
我那时候参加过全国学校拼字游戏比赛 , 我还记得一些有趣的时刻 。
有一次 , 在最后一场比赛结束时 , 我问我的对手 , 「你确定要拼这个词吗?为什么不拼一个得分更高的词呢?」他改变了自己的拼法 , 赢得了比赛和冠军 , 这让我非常高兴 。
比起赢得比赛 , 我更着迷于比好一场比赛的意义 。
您是如何将对游戏的热爱转化为一份真正的工作的?
后来 , 我接触到了国际象棋 , 遇到了DemisHassabis(DeepMind的联合创始人 。 那个时候 , 他是世界上同龄最强的少年棋手 。