橱窗网--打造专业的资讯平台!
当前位置:橱窗网 > 行业资讯 > 正文

微软停用面部识别功能,AI以为的也许不是你表达的

2022-06-23 11:15:20 来源:网络

用面部表情表达情感几乎是每个人与生俱来的能力。人们还习惯于通过面部表情猜测他人的情绪。然而,随着科学技术的飞速发展,AI(人工智能)也可以识别人们的面部状况和表情

▲ 图片来源:ResearchGATE▲ 图片来源:
不久前,专注于面部识别技术开发的微软发布了一份以“负责任地构建人工智能系统框架”为主题的指南。它公开分享了微软负责任的人工智能标准,这也是指导微软如何构建人工智能系统的框架
-
如文中所述,Microsoft决定禁用人脸识别功能azure face service,因为这些功能可用于推断情绪状态和内部身份属性。如果被滥用,人们可能会受到刻板印象、歧视或不公平的拒绝服务。目前,面对面服务仅适用于Microsoft管理的客户和合作伙伴。现有客户将有一年的过渡期,但他们必须在2023年6月21日之前停止使用这些功能;新用户可以使用人脸识别申请表申请访问权限
-
事实上,微软并没有完全禁用此功能,而是将此技术集成到一个“受控”的辅助工具中,例如为视力受损的人提供“看AI”。它可以描述物体和文字,阅读标志,解释某人的面部表情,并为视力受损者提供导航。目前支持英语、荷兰语、法语、德语、日语和西班牙语
-
微软发布的这本指南解释了科技公司的决策过程,包括包容性、隐私性和透明度原则。这也是该标准自2019年底发布以来的第一次重大更新。微软表示,它对人脸识别功能进行了如此大的更改,因为它意识到,要使人工智能系统可信,它们需要正确解决设计用来解决的问题-
为了使azure face服务符合负责任的AI标准的要求,微软还将禁用推断情绪状态(幸福、悲伤、中立、愤怒等)和身份属性(如性别、年龄、微笑、面部毛发、头发和化妆)的功能
以情绪状态为例,微软决定不提供开放式API访问技术,这种技术可以扫描人们的面部,并声称可以根据他们的面部表情或动作推断他们的情绪状态
微软的页面显示,它可以被27个人的面部标志识别,也可以判断各种面部属性,例如给定的面部是否模糊、是否有附件、估计的性别和年龄、是否戴眼镜、头发类型、是否戴眼镜、是否有微笑……
微软内外的专家强调,对“情感”的定义缺乏科学共识,而且这种能力的保密程度很高。因此,微软还决定仔细分析所有旨在推断人们情绪状态的人工智能系统,无论该系统使用面部分析还是任何其他人工智能技术
-
值得一提的是,微软并不是唯一一家仔细检查面部识别的公司。IBM首席执行官阿文德·克里希纳(ArvindKrishna)也致函美国国会,透露该公司已退出面部识别业务。两家公司作出决定的原因与引起轰动的“弗洛伊德之死”事件密不可分▲ 图片来源:BBC▲ 图片来源:
担心这项技术可能为执法机构提供监控工具,导致一些侵犯人权的行为,担心公民的隐私会被泄露,因此,美国目前在这方面的立法并不十分完善
,这些拥有技术的公司决定从自我限制开始,这样技术就不会被滥用,公民的隐私和人权就会得到更多的保护。当一项技术的使用不受完美规范的限制时,从技术开发本身限制它可能是一个更好的选择。