如何看待旷视科技新产品监视学生上课?

如何看待旷视科技新产品监视学生上课?

最近关于人脸识别的争论很多,一是旷视,另一个就是换脸应用ZAO。

两种应用引发的热议,都离不开用户对于个人信息被滥用以及人工智能被用于作恶的担忧。在寻找应用落地和变现场景的过程中,缺乏有效约束的AI应用正在走向灰色地带。

9月2日晚,旷视发布声明称,网传课堂分析图片为技术场景化概念演示,并称旷视的智慧学校解决方案可协助学校管理人员提升效率并保障学生安全,主要用于智能校门、教室门及宿舍的出入。旷视在声明中承诺,在人工智能技术的各种场景中,旷视会坚持正当性、数据隐私保护等核心原则。目前,最初上传图片的微博显示“暂无查看权限”。

另一款应用深度学习和图像识别的换脸APP“ZAO”,因用户协议中的“霸王条款”引来“众怒”,下载潮和卸载潮来得同样迅速。8月31日晚,ZAO在没有弹框提示的情况下,对用户协议中引发强烈争议的条款进行了修改,承诺用户上传的信息将被保留在“ZAO”上,不会在未获得用户授权的情况下将用户上传的视频和面部信息另作他用,且用户可以选择删除上传的短视频和面部信息。

AI换脸并不是一项新技术,更早版本换脸技术Deepfakes和Deepnude因被应用于色情和政治领域,而被各大网站封杀。换脸技术已被开源,潘多拉魔盒已然开启。

而在国外,相关争议也不少。

瑞典北部谢莱夫特奥市的一间高中运用人脸识别技术进行学生考勤的试验。即使这一试验事前已获得家长们的同意,但瑞典政府认为,由于试验的受测者和实施者所掌握的信息过于不对称,因此推动这一试验的城市地方当局,仍遭到了瑞典政府的处罚。

谢莱夫特奥市政府在2019年2月份接受瑞典电视新闻 (SVT Nyheter)采访时称,由于该市的所有教师,每年共要花费约1.7万个小时,用于日常点名和追踪学生活动。为了节省教学时间,市政府准许个别学校进行试验,使用面部识别技术考察学生出勤情况。

这个名为“未来教室”(Future Classroom)的试验项目于2018年秋季开始在该市的Anderstorp高中开始进行。在试验中,学校与北欧IT服务和软件公司叠拓(Tieto)合作,使用签名、智能手机App和面部识别技术,追踪22名学生的活动长达3周。主要的检测指标是每个学生何时进入教室。检测人员称,该技术“相当安全”,地方当局本在考虑在扩大其应用范围。

瑞典数据保护局说,虽然学校的某些场合可以被视为“公开场合”,但学生何时进入教室,依旧是个人隐私。此外,学校就算不使用摄像头监控,学校完全还可以通过其他“干预性更小”的方式检测学生的出勤情况。

瑞典数据保护局还批评,该学校在启动这一试验项目之前,并没有咨询瑞典数据保护局,也没有获得事先批准及进行适当的影响评估。

除了对个人信息保护设定较高标准的欧盟GDPR(通用数据保护条例),美国也对搜集面部识别特征上做法谨慎。据清华大学智能法治研究院研究员朱芸阳介绍,目前美国已经有旧金山、马萨诸塞州的萨默维尔市通过了禁止在公共场所使用面部识别软件的法令,而奥克兰、纽约等城市也在考虑类似禁令,甚至在联邦层面也在考虑是否采取相应措施。

面部识别特征,与虹膜识别、指纹识别一样,都属于个人“生物识别信息”,是个人敏感信息。

朱芸阳撰文指出,个人生物识别信息的唯一性,存在侵害个人隐私乃至危害个人人身和财产的巨大潜在风险,面部信息某种程度上“等同于要求每个人随时携带和展示带有个人照片的身份证”。而一旦人脸识别+活体校验被技术攻破,将直接导致现有社会安全系统验真环节失效。

过去一年多时间,AI视觉公司正在通过各种方式以更为便捷和廉价的方式获得面部信息。比如和各类大型会议主办方合作,免费提供进出入门禁的人脸识别系统,参会人员至今无法获知被录入和识别的人脸信息的主要用途。

生物识别技术被不规范使用已引起行业头部自危。8月23日,支付宝发布《关于生物识别用户隐私与安全保护的倡议》,呼吁合作伙伴以及整个行业能在规范、合理的前提下为用户提供服务,并在隐私保护、安全保护、防止信息滥用等方面提出倡议,包括“对于储存用户信息的时长应建立规范和透明的制度”,“使用信息需考虑使用目的、范围是否具有必要性和合理性”。

相关内容