小米科技|AI自拍火遍全网，仅仅是生成图像那么简单吗？( 二 ) 雷军|手机行业

除了肤色问题外，一些女性用户还表达了对Lensa性化女性身体的愤怒。曾在科技行业工作的女权主义者布兰迪·巴克（Brandee Barker）在推特上说：“这是我的问题吗？还是这些AI自拍生成器在延续厌女症？”她在上传自己脸部的自拍照后，却得到了一张长着超模的长发、穿着紧身低胸连衣裤的图片。 CNN记者佐伊·索蒂尔（Zoe Sottile）谈及自己的经历，尽管她上传的所有图片都是衣着整齐的，并且大多数都是面部特写，但Lensa还是生成了几张裸露的照片。
【小米科技|AI自拍火遍全网，仅仅是生成图像那么简单吗？】▲被隆胸缩腰的女权主义者Shirley Chisholm 。

▲裸露图像。

华盛顿大学助理教授艾琳·卡利斯坎（Aylin Caliskan）表示，当前研究发现在线图像数据库、语料库和视觉模型中存在与性别、种族相关的偏见， “性感化是一个非常突出的问题，如果人工智能基于这样的图像进行训练，那么它会延续社会中强势群体的表现” 。 Lensa的代表回应了这个问题：“请注意，尽管方式不同，但是在所有的性别中都能发现偶尔的性化现象。我们使用的Stable Diffusion模型是基于未筛选的互联网内容来训练的。因此，它反映了人类在自己制作的图像中融入的偏见。图像创作者承认社会偏见的可能性，我们也是如此。 ”Lensa目前无法杜绝图片成像中的偏见问题，所以“我们规定该产品不适合未成年人使用，并警告用户内容存在风险。 ”
争议不断的隐私与版权问题
Lensa面对的争议远不止内容上的种族、性别偏见，它还引发了隐私和版权问题。 Lensa使用条款的第5条写道：“您授予我们永久的、不可撤销的、非独家的、免版税的、全球性的、全额支付的、可转让的使用许可，以使用、复制、修改、传播您的用户内容并创造衍生作品。 ”
“简单来说，如果你是一个Lensa用户，这意味着你同意Lensa随意使用你的照片。 ”法律分析专家丹尼·塞瓦略斯（Danny Cevallos）解释道。国家安全分析员克林特·瓦茨（Clint Watts）说明了向一个公司提供面部照片的危险所在， “在互联网上，你的面部照片可以用于识别并解锁你的身份” 。

Prisma Labs的一名发言人告诉TechCrunch ，公司在使用用户照片训练完人工智能程序后，就会将它们从云端删除。但这对一些人来说，这实际上是用户协议中最令人担忧的部分之一。根据Lensa的用户协议，当公司使用用户的图像进行人工智能训练时，用户们不会得到补偿。
同样得不到补偿的还有为Lensa使用的Stable Diffusion模型提供原始学习数据的数字艺术家们。据《纽约时报》报道，坎巴蒂（Kambhampati）博士说道：“如果梵高今天还活着，那么你可能需要向梵高支付一些许可费，然后你才能在照片中加入梵高的风格。 ”Lensa的Stable Diffusion模型是基于许多数字艺术家的作品进行训练的，而这些艺术家们没有明确同意过Prisma Labs公司使用他们的作品。
“我们创作的艺术被盗，很多人不认为这是对一个人的侵犯，他们会说：‘哦，但这只是一种风格，你不能要求对一种艺术风格进行版权保护。 ’”从事电子游戏和动画创作的艺术家乔纳森·林（Jonathan Lam）说， “但我认为，对于数字艺术家而言，我们的风格就构成了我们的艺术家身份，这是让我们与众不同的地方，也是我们能够向客户进行推销的依据。 ”
▲Lensa AI 生成的一张照片似乎包含艺术家的签名。

乔纳森还指出， Lensa生成的一些作品上似乎还留有艺术家的签名， “技术爱好者们总喜欢说AI生成器在创造新的东西，但如果艺术家的签名还在那里，这就不是新的东西。它只是根据输入的数据产生了一些东西罢了” 。他补充道：“社会公众似乎认为这是一个刚学会自己作画的程序，却没有意识到利用数据的后果。当你看见这些程序被货币化，真实的人在被程序利用，这是相当可怕的。尤其是它被伪装成了一个漂亮的应用软件时，就更可怕了。 ”