出卖灵魂：OpenAI十亿美元卖身微软之后，通用人工智能还有希望吗选自OneZero作者：AlbertoRomero机器

选自OneZero
作者：AlbertoRomero
机器之心编译
机器之心编辑部
在GPT-3开源已经成为一个梗之后， OpenAI联合微软推出了Codex ，又引来更大的争议。

文章图片
当金钱砸来时，你是否还能坚持初心？
OpenAI成立于2015年，是一家非营利性研究机构，它的愿景是构建出安全、对人类有益的通用人工智能（AGI），由伊隆·马斯克、SamAltman等人宣布出资10亿美元成立。
然而到了2019年， OpenAI转变成了一家名为OpenAILP的营利性公司，由名为OpenAIInc的母公司控制。此时的OpenAI是一种「利润上限」结构，将投资回报限制在原始金额的100倍。如果你投资1000万美元，最多你会得到10亿美元。看起来回报率不错。
改变几个月后，微软宣布注资10亿美元。正如我们在GPT-3和Codex上看到的那样， OpenAI与微软的合作伙伴关系意味着允许后者将部分技术商业化。

文章图片
在科技领域中， OpenAI是引领人类走向美好未来的最大希望之一，如今却被成本和算力的需求打回了现实。我们还能相信它将会带领我们找到真正的人工智能吗？
AILab ，盈利优先
首先， OpenAI是一个人工智能研究实验室，它的雄心和自身所拥有的资源相比天差地别。在GPT-3论文横空出世之后，外界的一个流行围观方式就是帮他们算成本，据估计OpenAI训练GPT-3耗费了1200万美元——仅仅是训练。如果没有要求后期更大回报的金主，这家公司如何可以写一篇论文就花这么多钱？所以当OpenAI需要投资的时候，他们和拥有云服务的微软形成了合作。至于代价，就是一种未公开的，将其系统商业化的晦涩许可。
MITTechnologyReview采访人员KarenHao的一篇调查文章披露了OpenAI口是心非的地方，为什么一家以确保所有人拥有更美好未来为愿景的公司突然决定为「stayrelevant」吸收大量私有资金？从非盈利到盈利的转变引发了公众甚至公司内部的强烈批评。
艾伦人工智能研究所负责人OrenEtzioni表达了怀疑的态度：「我不同意非盈利组织无法具备竞争力的观点……如果规模更大、资金更充裕就能做得更好，那么今天IBM仍将是世界第一。」
曾为ViceNews撰稿的CarolineHaskins则不相信OpenAI仍会忠于它的使命：「人类从未因为依靠风投机构而变得更好。」
从技术角度来看， OpenAI当前的研究方向是更大的神经网络，这就需要更大的算力和巨量数据。只有比肩科技巨头的投入才能在这条道路上走下去。但正如Etzioni所说的，这并不是在AI领域里实现最先进成果的唯一途径，有时你需要创造性地思考新的想法，而不能只想着大力出奇迹。
OpenAI是如何把路走窄的
GPT-2、GPT-3「危险」语言生成器
在2019年初，已是一家盈利公司的OpenAI推出了GPT-2 ，这是一种强大的语言生成模型，能够生成接近人类的自然语言文本。研究人员认为GPT-2在当时是一个巨大的飞跃，但太危险所以不能开源出来。工程师们担心GPT-2会被用来生成假新闻、垃圾信息和误导信息。但在不久之后， OpenAI又认为不存在明显被滥用的证据，因而将其开源出来。
罗格斯大学教授BrittParis表示：「这看起来就像是OpenAI在利用围绕人工智能的恐慌。」有不少人把GPT-2的报道视为一种宣传策略，他们认为该系统其实并不像OpenAI声称的那样强大。从营销的角度来看这确实可以吸引注意力，但OpenAI否认了这些指控。
如果GPT-2没有OpenAI宣称的那么强大，那为什么要让它看起来比实际更危险呢？如果它真的性能强大，为什么仅仅因为「没有发现被滥用的有力证据」而完全开源？无论如何， OpenAI似乎都没有遵循自己的道德标准。