是前沿科技还是伪科学?情绪识别AI争议不断

智东西(公众号:zhidxcom)
编译|夏舍予
编辑|徐珊
智东西7月18日消息 , 根据外媒VentureBeat报道 , 不少科技公司都在使用一种叫做“情感AI”的技术 。 情感AI技术可以利用面部识别技术 , 通过面部表情分析一个人的内部情绪、感觉、动机或态度 。
这种情感AI技术基于一种叫做“基本情绪”(basicemotions)的理论 。 该理论把人类交流时的基本情绪状态分为六种——幸福、惊讶、恐惧、厌恶、愤怒、悲伤 。
但是 , 目前情感AI技术的科学依据尚不充分 。 并且 , 这项技术在实际应用中会带来一系列伦理隐私问题 , 这些都让大众对这项技术的争议不断 。
一、视频面试自动打分 , 情感AI帮公司筛选人才
目前 , 情感AI技术被广泛应用于各个领域 , 情感AI技术可以在这些领域很好地发挥积极作用 。
在职业领域 , 面试官通过这种情感AI技术来对求职者的面试进行打分 , 其评分标准包括“热情”、“学习意愿”、“责任感”、“个人稳定性”等 。
在韩国 , 情感AI技术已经普遍应用于求职面试中 。 所以 , 韩国的求职顾问往往会让他们的客户通过AI面试来进行练习 , 以提高求职面试的成功率;在安全领域 , 边防人员用情感AI技术来检测边境检查站的不明人士 , 预防潜在威胁;在医疗领域 , 医生把情感AI技术作为检测和诊断情绪障碍患者的辅助手段 。
是前沿科技还是伪科学?情绪识别AI争议不断
文章图片
▲视频面试
二、人类表情复杂难判 , 情感AI科学依据不足
但是 , 目前情感AI技术在科学依据和可行性方面存在很大的争议 。
研究人员发现 , 人们的面部表情在不同的语境和文化之间存在很大差异 , 目前没有足够的证据表明面部结构可以准确、可靠、具体地反应人类的情绪状态 。
此外 , 也有很多证据表明 , 人类面部表情的变化差异非常大 , 不存在一个判断情绪的统一标准 。 具体来说 , 人类的“开心”可以通过成千上万种表情来表达 。 即使是同一个面部表情 , 在不同人的脸上表达的意思也不同 。
未来学家TraceyFollows在推特上表达了她对情感AI技术的不确定性 , TraceyFollows说:“在最坏的情况下 , 这项技术可能是一种伪科学 。 ”AI伦理学者KateCrawford称:“面部表情和情绪之间的关联还没有得到证实 。 因此 , 基于情感AI技术做出的决策充满了不确定性 。 ”
是前沿科技还是伪科学?情绪识别AI争议不断
文章图片
▲TraceyFollows的推特截图
出于这种担忧 , 一些公司放弃了对情感AI技术的开发 。 6月22日 , 微软宣布停售个人面部情绪分析工具 , 并进一步限制面部识别工具的使用 , 同时下架了其AzureFace(面部识别服务)的AI情绪识别功能 。
是前沿科技还是伪科学?情绪识别AI争议不断】三、涉及隐私和伦理 , 情感AI技术惹争议
据称 , 这项技术不仅被应用在视频面试等领域 , 还被用来“监控”人们的思想 。 VentureBeat称 , 有些公司通过情感AI软件判断员工是否对公司足够忠诚 , 以此决定是否要与该员工进行单独谈话 。 还有些公司通过情感AI软件判断员工是否处在最佳的工作状态中 , 以此来安排员工的休息时间 , 以提高公司的生产率和利润 。
《神经科学新闻》(NeuroscienceNews)提出了一个关键的问题:就算情感AI可以准确读取每个人的感受 , 我们是否愿意在生活中运用这样的技术?我们愿意把自己的心理活动和情绪毫无保留地暴露在别人眼前吗?这是一个涉及隐私的核心问题 。