谷歌加持,百度出来的AI大神要干掉ChatGPT?( 二 )


一直到2019年之前 , 这家总部位于旧金山破旧工厂内的公司都以非盈利为目的 , 没有创造出任何营收 , DarioAmodei也在其中享受着最纯粹的技术快乐 , 然而 , OpenAI每年的开支是极其巨大的 , 先不谈其团队笼络了不少业界最顶级的研发者 , 每年的工资都得数亿美元 , OpenAI旗下核心业务AI模型的每次训练都需花费数百万美元 , 即便OpenAI有硅谷众多大佬的支持 , 钱也经不起这样烧 。
在2019年这一年 , 创始人阿尔特曼辞去YC总裁 , 成为OpenAI的CEO , 并从微软CEO萨蒂亚·纳德拉(SatyaNadella)处拿下了微软10亿美元的投资 , 条件就是将技术授权给微软 , 获得微软巨额注资的OpenAI很快推出了震惊人工智能领域的重量级AI模型GPT-2、GPT-3 。
DarioAmodei作为GPT-2、GPT-3的核心研发成员 , 在训练AI模型的过程中便着眼于在AI迅猛发展的过程保证其安全可控性 , 包括AI能反映了人类的价值观 , 能够解释AI决策背后的逻辑以及AI能够在不伤害人类的情况下学习 , 这或许也是DarioAmodei加入OpenAI的主要目的 。
当非盈利性的OpenAI接受了微软注资后 , 内部团队也逐渐出现了分裂 。 以DarioAmodei为代表的部分核心成员认为 , 随着AI模型的增大、算力的增强 , AI的安全性、可操纵、可解释性变得更加重要 , 而不是盲目迭代比GPT-3更大的AI模型 , 应该把解决神经网络的“黑盒”问题放到更重要的位置 。
谷歌加持,百度出来的AI大神要干掉ChatGPT?
文章图片
AI的黑盒子问题:黑盒子是一个算法 , 能够将数据转变成其它东西 。 问题在于 , 黑盒子在发现模式的同时 , 经常无法解释发现的方法 。
图源:Topbots
然而在微软注资后 , OpenAI很快将上述问题还未解决的GPT-3交给微软来使用 , OpenAI的逐渐商业化以及对创始初心的背离 , 让以DarioAmodei为代表的部分核心成员感到不满 。
以DarioAmodei为代表的一群技术理想主义者不愿再与微软捆绑 , 想要重现OpenAI的精神实质 。 2021年2月 , DarioAmodei和他的妹妹Daniela联手创立Anthropic , 与DarioAmodei一起离开OpenAI的还有10名员工 。
Anthropic旨在创造可操纵、可解释的人工智能系统 , “当今的大型通用系统可以带来显著的好处 , 但也可能无法预测、不可靠和不透明:我们的目标是在这些问题上取得进展 。 ”DarioAmodei曾对外表示 , “Anthropic的目标是推进基础研究 , 让我们能够构建更强大、更通用、更可靠的人工智能系统 , 然后以造福人类的方式部署这些系统 。 ”
明星团队走向OpenAI老路?
Anthropic的创始团队阵容颇为豪华 , 除了创始人DarioAmodei之外 , 包括TomBrown(GPT-3论文一作)、GabrielGoh、JaredKaplan、SamMcCandlish、KamalNdousse、JackClark等 , 成员大部分来自于OpenAI原有团队 , 并在AI可解释性、AI模型安全设计事故分析、引入人类偏好的强化学习等方面有颇深的造诣 , 可以预见的是 , 核心成员出走的OpenAI可能在这些领域会逊色于Anthropic 。
而且即便是在OpenAI引以为傲的AI大模型GPT-3上 , Anthropic同样实力不俗 。 DarioAmodei是OpenAI的前研究副总裁 , 他和OpenAI的联合创始人兼首席科学家IlyaSutskever作为团队主要技术负责人开发了GPT-2和GPT-3 。 这也是为何其推出的AI聊天机器人模型产品Claude还在封测阶段 , 便受到不少测试人员的称赞 。 Claude甚至无需人为再次调试 , 自主解决了ChatGPT在与人类聊天过程中出现的性别歧视、种族歧视问题 。
谷歌加持,百度出来的AI大神要干掉ChatGPT?
文章图片
2022年12月 , Anthropic提出「Constituional人工智能:来自人工智能反馈的无害性」 , 并基于此创建了一个人工智能模型Claude