出卖灵魂：OpenAI十亿美元卖身微软之后，通用人工智能还有希望吗( 二 ) 选自OneZero作者：AlbertoRomero机器

文章图片
2020年6月， GPT-3的论文被传上了arXiv ，随后以API的形式向外界提供。 OpenAI似乎认为这个比GPT-2大100倍，更强大的新系统足够安全，可以与世界分享。他们设置条款逐个审查每个访问请求，但他们仍然无法控制系统最终用于什么目的。
他们甚至承认GPT-3若落入坏人之手可能发生一些问题，从误导性信息、垃圾邮件、网络钓鱼、滥用法律、政府内容，到学术欺诈、社会工程，再到性别、种族和宗教偏见。
他们认识到了这些问题，但仍然决定让用户付费测试。为什么要通过API发布它而不是开源模型？OpenAI回答说，这是为他们正在进行的人工智能研究、安全和政策努力提供资金。
所以总结一下就是：负责保护我们免受有害AI伤害的公司决定让人们使用一个能够制造虚假信息和危险偏见的系统，这样他们就可以负担昂贵的维护费用。看起来这并不是什么「对所有人有益的价值」。
因此，社交网络上出现GPT-3有害的讨论就是顺理成章的了。 Facebook人工智能负责人JeromePesenti写了一条推文，他举了一个例子

文章图片
在一项利用GPT-3独特性的尝试中，加州大学伯克利分校的学生LiamPorr让系统写了一篇关于生产力的文章，并将其分享了出来（但没说是AI生成的）。这篇文章骗过了很多人，甚至登上了HackerNews的榜首。试想，如果像他这样没有恶意的学生都能够用AI写的文章骗过所有人，一群怀有恶意的人会用它做什么？比如传播假新闻？

文章图片
LiamPorr的文章。链接https://adolos.substack.com/p/feeling-unproductive-maybe-you-should
「在检测GPT-3175B生成的长文章时，人类的平均准确率仅略高于52% 。这表明，对于500字左右的新闻， GPT-3能够持续生成以假乱真的作品。」
Codex、Copilot侵权风波
前段时间， GitHub、微软和OpenAI发布了Copilot ，这是一个由Codex提供支持的AI系统，可以自动生成代码。然而， Copilot的出现遭到了强烈的批评，因为它是盲目使用来自公共GitHub库的开源代码进行训练的。
有位网友指出了一些问题
AI生成的代码究竟属于我还是属于GitHub？
生成的代码适用于哪种许可证？
如果生成的代码成为侵权的理由，谁该为此受罚？
在推特上，一位开发者分享了一个Copilot剽窃一整块有版权的代码的例子：

文章图片
Copilot原样复制了《雷神之锤》里的经典代码，连吐槽注释也没落下。
有网友在底下回帖说，「我们有Copilot直接复制GPL整块代码的证据，这说明在商业环境中， Copilot是一个非常危险的工具。」
再深入一点，即使Copilot没有逐词复制代码，这里也有一个道德问题：GitHub或OpenAI这些公司借助数千名开发者写出的开源代码训练这些系统，然后再向同一批开发者售卖这些系统，这合适吗？
对此，程序员兼游戏设计师EvelynWoods表示，「感觉这像在嘲笑开源。」
我们应该把希望寄托于OpenAI吗？
OpenAI现在的真实愿景到底是什么？他们是不是与微软紧密相连，以至于忘记了自己「为人类进步」而奋斗的初衷？还是说他们真的以为自己拥有最好的工具和头脑来践行这条路线，即使将灵魂出卖给一个大型科技公司也在所不惜？我们是否真的愿意让OpenAI按照它的愿景来构建未来？还是说我们希望我们的愿景更加多样化，并将其与经济利益分离？