算法|这个能写游戏的AI，被玩家教会讲“荤段子”惹了大祸( 二 ) 量子技术|超导量子|全栈式|量

2019年12月，也就是该游戏使用早期开源版的当月，该游戏获得了10万玩家数。一些人很快发现它可以产生非常流畅的性内容，其他人则抱怨在不必要的情况下生成了性主题相关内容，例如，当他们试图骑龙旅行的时候，冒险过程发生了意外的转折。
Latitude联合创始人Nick Walton在官方Reddit社区承认了这个问题，她说，有几个玩家给出的例子让他们感到“非常不舒服”，并补充表示，该公司正在研发过滤技术。从这款游戏的最初发布开始，玩家们也注意到，并且在网上发帖提醒，该游戏有时候会把孩子们写到低俗场景内。
上周，Latitude增加了一个新的审核系统，并且引发了用户的抵制。一些人抱怨称该系统过于敏感，甚至输入“8岁的笔记本电脑”都会触发警告信息。还有人表示，该公司想要人工审核内容的计划将不必要的窥探一些露骨但只用于成年人的私人虚拟创作，这在《AI地下城》玩家中间很流行。
简而言之，Latitude试图将人与算法结合起来，监管由人和算法产生的内容，但结果并不理想，该游戏在Google Play的评分快速降到了2.8。在海外社交媒体和《AI地下城》的官方Reddit以及Disord社区，也很快出现了大量愤怒的评论和取消订阅言论。

文章插图

一位名叫Mimi的玩家称，“社区觉得被Latitude背叛了，因为该公司将扫描和手动阅读隐私内容”，他表示，在AI的帮助下，自己写了大概100多万字，包括诗歌、《暮光之城》恶搞版和低俗冒险小说。
Mimi和其他不安的玩家表示，他们理解该公司想要管控公开内容的需要，但实际的做法有点过头，侵犯了玩家的隐私，“它让我看到了从未意识到的问题”。
Latitude一名发言人表示，该公司的过滤系统和政策已经做了调整，员工曾封禁过一些用《AI地下城》生成儿童低俗内容的玩家，但接到OpenAI最近的警告之后，该公司正在考虑“必要的改变”。Latitude上周发布了一个博客，公开向玩家表示，游戏会“继续支持NSFW（不适合上班阅览）的内容，包括合适的成人内容、暴力与脏话”。
只学习不思考：AI生成内容控制成最大难点
对于技术公司来说，阻止AI系统创作一些低俗和成人内容，同时又要允许一些（成年）人这么做，会变的很困难。OpenAI的技术可以创造很多类型的文本，因为它是基于机器学习算法打造的，已经消化了从网上抓取的数亿单词，包括一些不适合未成年人的内容。该软件能够进行非常逼真的模仿，但却不能像人类那样理解社会、法律或者品类的区别，再加上仿生人可怕的创造力，它们带来的内容可能很出色，也可能失控。
实际上，Latitude很早就加入了敏感词过滤。比如《AI地下城》的官方Reddit和Discord社区增加了专门频道来讨论游戏产出的成人内容。Latitude增加了一个可选的“安全模式”，可以过滤掉AI参数库中的特定词汇。然而，就像所有的过滤器一样，它并不完美。一些玩家注意到，所谓的安全设置提高了文本生成器的低俗写作手段，因为使用了更多类比和委婉的说法，该公司还增加了高级订阅，以创造更高的收入。
当《AI地下城》在2020年7月份增加了OpenAI更强大的商业写作算法时，生成的内容更加令人印象深刻。一位资深玩家表示，“创意和讲故事能力的飙升真非常好”。有知情人士透露，该系统在探索露骨主题方面也变得更具有创造性。去年有一段时间，玩家们注意到Latitude正在试验一种过滤器，它会自动将“强奸”一词变为“尊重”，但随后该功能被取消。