GDPR生效后的第一张人脸识别罚单

腾讯研讨院发布2019年8月网络法专报

《腾讯网络法专报》聚集每月全球互联网法令方针新动态，触及规模有网络安全、人工智能、数字工业、GDRP等各方面，旨在从法令方针视点，为新式技能带来的社会问题进行专业解读。2019年8月《腾讯网络法专报》共分为三个部分《人工智能篇》、《影视版权和不正当竞争篇》、《渠道责任和区块链篇》，别离掩盖8月内全球互联网法令的三个热门区域。

本文为Part1《人工智能篇》全文，后续两篇内容将于近期发布，敬请重视腾讯研讨院大众号。

AI换脸运用「ZAO」惹争议，国外多行动促进背面的深度假造技能妥善运用

9月初，一款名为「ZAO」的AI换脸APP引发言论广泛重视。作为国内第一个爆款级AI换脸运用，ZAO的换脸操作门槛很低，用户在经过人脸辨认完结肖像权验证之后，就能够经过拍照或上传人脸相片来组成视频。其将之前仅仅传闻的技能带到现实日子中，引发了许多争议，例如搜集人脸等个人生物辨认信息未获用户明示赞同、个人信息处理规矩不明晰、过度讨取肖像权、著作权侵权、数据走漏或乱用危险等。跟着相关争议不断发酵，ZAO对获取用户赞同的办法和用户协议、隐私方针中相关条款作出了调整。

ZAO的火爆也引起了监管部分的留意。9月3日，工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严厉依照国家法令法规以及相关主管部分要求，安排展开自查整改，依法依规搜集运用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。工信部一起指出，要进一步加强新技能新事务安全评价，实在采纳有用办法，活跃防备自有事务渠道被运用施行电信网络诈骗等危险危险。

9月18日，网信办副主任刘烈宏在国新办发布会上回应称，网信办活跃支撑新技能、新运用展开，一起也采纳必要办法防备随之带来的危险。网信办已会同有关部分出台了《具有言论特点或社会发动才能的互联网信息服务安全评价规矩》、《个人信息安全规范》等法规规范，《网络生态管理规范》正在征求定见，经过这些法规、规范，辅导催促互联网企业进行安全评价，监管新上线的新技能、新运用。

ZAO引发的争议的中心，正是跟着AI技能展开而呈现的深度假造（deepfake）——deep learning（深度学习）和fake（假造）组合而成的新词。其最常见的办法是AI换脸，例如deepfake、face2face等技能，此外还包含语音模仿、人脸组成、视频生成等，统称为深度假造。跟着相关技能的不断进化，深度假造可到达高度传神、难辨真伪的程度，给检测辨认音视频真伪提出极大应战。

正面来看，深度假造技能和相似的内容组成技能，在文娱、新闻媒体、影视制造、教育等许多范畴具有活跃的运用价值。该技能现在已在影视剧、文娱节目中发挥效果，例如依托换脸技能让在电影拍照完结前已逝世的主演沃克持续「演完」《速度与热情7》。

深度假造技能能够完成以下运用：给经过视频进行的批判、挖苦、戏仿、自我表达（如文中提到的「ZAO」，初衷是让普通人完成明星梦）等供给新的表达办法；对一个人的自我进行传神的模仿并发明出虚拟化身（avatar）来完成交际网络中的化身体会；发明出数字虚拟人用于新闻传媒、文娱等场景，如虚拟主播和虚拟偶像。此外在教育方面，传神的虚拟教师和组成的历史人物讲演视频等立异性办法能够让教育活动更具实在性和趣味性。

来历：维基百科

而一旦该技能被乱用，则或许带来个人人身和财产损失、企业名誉等商业利益损害、国家和公共安全要挟、新闻媒体职业的社会信赖阑珊等损害。首要表现为经过假造或组成真假难辨的印象材料来进行诈骗和诈骗，将网络进犯场景和信息安全问题带到一个全新的层面，如色情报复、敲诈勒索、冒充身份、商业诽谤、虚伪情报、推举搅扰、交际和世界次序打乱等。对此，美国等国外政府开端提出监管办法，尤其是在美国2020年大选降临之际，美国议会先后提出了《深度假造责任法案》和《2019年深度假造陈述法案》。全体来看，首要包含以下办法：

其一，划定红线，制止政治搅扰、色情报复、冒充身份等意图的深度假造。例如，美国加州的法令草案规矩，制止在投票推举前60日内传达明知是假造或组成的提名人视频，除非包含视频归于假造的免责声明。美国德克萨斯州2019年9月1日收效的一项法案将在推举前30日内制造、分布深度假造视频意图损伤提名人或影响推举成果的行为，认定为刑事犯罪。此外，美国弗吉尼亚州2019年7月1日收效的反色情复仇批改法案，将「制造、传达虚伪的裸体或性视频、图画」意图钳制、打扰或恫吓别人的行为，认定为刑事犯罪。《深度假造责任法案》规矩，运用深度假造技能施行数字滥竽充数行为也应视为冒充身份行为。

其二，设置发表责任，要求制造者以恰当办法发表、符号组成内容。《深度假造责任法案》规矩，运用深度假造技能组成虚伪内容放置于网络上传达的，制造者应当选用嵌入数字水印、文字、语音标识等办法发表组成信息。违背发表责任的制造者或许歹意删去发表信息的行为人需承担民事责任，行为恶劣、构成严重后果的还会面对罚金、人身拘禁等刑事处分。

其三，加强技能攻防，呼吁开发检测辨认技能。《深度假造责任法案》要求树立深度假造特别小组，其责任包含研讨开发针对包含深度假造在内的图画、音视频操作技能的检测辨认和反制技能、为研讨此类技能的其他政府部分供给行政和科学支撑、与私营企业或学术安排协作开发检测辨认东西等。在业界，谷歌、Facebook等科技公司已在活跃构建、开源深度假造视频数据库，以促进检测辨认技能的开发。

因而，从国外的监管趋势来看，国外政府采纳了分类分场景的监管思路，相关监管办法并未指向相似ZAO这样的文娱类运用。详细而言，一方面为深度假造等内容组成技能的运用划定红线，防备其乱用；另一方面关于红线之外的文娱、文创、教育等运用范畴，商场可在合法合规的极限内自在立异，为人工智能的展开供给杰出试验田的一起，也丰厚人们的表达和发明办法。总结而言，针对深度假造技能的管理行动应当是多层次的，采纳分类监管、职业自律、技能对立等多行动促进其妥善运用，防止因噎废食，阻止新技能、新运用的立异展开。

人脸辨认技能运用惹争议，国外探究监管行动

关键词：瑞典DPA、GDPR、人脸辨认技能、生物特征数据

8月21日，瑞典数据保护安排（The Swedish Data Protection Authority，简称DPA）对当地一所高中开出了《欧盟通用数据保护法令》（GDPR）收效后的第一张罚单，原因在于该高中运用人脸辨认体系记载学生的出勤率。

近年来，得益于机器深度学习在语音辨认和图画辨认范畴的快速展开，人脸辨认技能经过对个人面部图画这一重要生物特征数据（biometric data）的搜集和处理，广泛运用于各个场景。面部辨认技能和任何新式技能相同具有两面性，既能够运用在辨认失踪人口、方便付出、设备开锁、机场安检等增进社会福利和功率的范畴，也或许对公共安全、用户隐私构成负面影响。

上一年5月收效的欧盟GDPR关于生物特征数据的搜集和处理作出了清晰规矩，实际上为面部辨认技能的运用供给了法令规制准则。瑞典DPA首要是依据GDPR第9条的规矩，判决当地高中运用人脸辨认体系的行为在以下两个方面违法。

一方面，校园的数据搜集行为有违必要性准则。校园完全能够经过其他传统办法记载学生的考勤状况，经过人脸辨认技能搜集学生的生物特征数据存在可代替选项，不是有必要的。另一方面，校园的数据搜集行为缺少正当性依据。由于校园与学生之间存在显着的不平等位置，所以即便校园现已取得了学生及其监护人关于选用面部辨认技能的赞同，上述赞同也无法表现数据被搜集者的实在志愿。

随同世界规模内的人脸辨认技能研制的热潮，人们在享用其给作业和日子带来的便当之外，在法令层面也开端重视怎么对其设置更为合理和科学的监管规矩。鉴于生物特征数据的高度敏感性，各国政府大多将留意力放在人脸辨认技能对个人隐私的损害方面。

当月，英国数据保护安排信息专员委员会（Information Commissioner's Office）也对伦敦国王十字车站人脸辨认体系的安全性发起了查询。ICO专员表明，在公共范畴适用人脸辨认技能和面部信息搜集体系，或许会对大众的隐私构成潜在的要挟，特别是在人们不知情的状况下。[1]

无独有偶，8月8日，美国第九巡回法院在一项判决中表明，面部辨认技能对公民隐私的损伤是详细的，并赞同伊利诺伊州的一名用户以乱用面部辨认技能为由申述Facebook。[2]本年4月，旧金山监事会（The San Francisco Board of Supervisors）经过一项法案，制止政府部分运用人脸辨认技能，并规矩城市安排在购买其他类型的监控技能之前取得城市议会同意。[3]尔后，马萨诸塞州的萨默维尔市和加州的奥克兰市也别离在本年的6月和7月出台了制止政府运用面部辨认技能的法案。[4]

但不能忽视的是，对技能规制的终究意图还应当落脚于促进其更好为人类服务。生物辨认软件制造商Veridium的CFO Jason Tooley便表明，应当尽力防止立异技能被限制或中止，期望经过立异技能来供给更好的服务。亚马逊云事务全球公共方针副总裁Michael Punke曾提到：「新技能不应该因其潜在的乱用或许性而被制止或斥责。」

相较于直接对人脸辨认技能粗犷地加以制止，更为科学的做法应当是完善此技能范畴的相关法规规范，清晰技能运用的法令和品德鸿沟。只需人脸辨认技能能够保证用于合法的利益意图，搜集的个人数据能够取得充沛的安全保证，就应当鼓舞其运用和展开。我国工信部在《关于促进网络安全工业展开的辅导定见(征求定见稿)》中便表明，在加快构建网络安全根底设施的根底上，支撑构建依据人脸辨认等技能的网络身份认证体系。

美国发布联邦参加AI规范化的方案，推动可信AI技能的展开

关键词：AI规范、配套东西、可信赖、联邦安排参加

8月9日，美国国家规范与技能研讨院（NIST）发布《美国怎么领导人工智能——联邦参加开发技能规范及相关东西的方案》（以下称《方案》）。[5]此方案是为回应本年2月美国政府签署的13859号行政指令，依据该指令，联邦安排应保证AI技能规范能最大程度抵挡歹意进犯，拟定国家规范以促进立异、增强壮众信赖和决心。该行政指令一起确立了美国国家人工智能战略。

依据此，NIST方案要求政府参加拟定人工智能技能规范并供给相应的辅导定见，旨在支撑牢靠、稳健和可信赖的AI技能的展开。NIST的主任WalterG. Copan表明：「联邦政府能够经过采纳与工业界和学术界展开协作、加大研讨投入、参加世界化规范安排等办法保证美国在全球人工智能范畴中的领先位置。该方案保证联邦政府支撑灵敏容纳的AI规范，以跟上一日千里的技能展开脚步。」《方案》的首要内容包含：

一、联邦政府应参加拟定一致AI规范。依据《方案》，AI规范是指经相关安排核准树立的，在AI活动及其成果中能够一起且重复适用的规矩、准则或特征，旨在在既定规模内完成最佳次序。一致的AI规范有利于促进商场竞争，消除贸易壁垒，激起立异生机。《方案》指出人工智能的联邦规范有必要满意严厉，鼓舞政府优先考虑AI规范的容纳性，可拜访性，敞开和通明，依据一致，全球相关性和非歧视性。一起，《方案》主张公共机关和私营部分展开有用协作以确认最佳规范，处理AI技能展开过程中呈现的问题。

二、配套东西和办法辅佐AI规范以支撑AI技能的展开。除了拟定一致的AI规范，可信AI技能的开发和运用还需配套其他东西加以辅佐，这些东西包含但不限于：用于练习和测验AI体系的规范化数据集、AI体系中信息抓取及推理的东西、供给关于AI技能的特定运用、相关规范及最佳攻略的数据信息的完好记载、验证和评价AI功能的办法、评价AI技能的目标、建模和AI测验渠道、AI体系问责制和审计东西等。

三、联邦政府参加拟定AI规范的详细主张。《方案》中概述了联邦安排在拟定AI规范时或许发挥的四个层次的效果：监督、参加、影响或领导。为保证AI规范有助于AI技能的展开，不管联邦政府在AI拟定中发挥着何种效果，NIST提出了四点主张：其一，联邦安排之间同享AI规范拟定信息、一起领导并相互和谐，完成功率效益最大化；其二，活跃探究，展开将「可信要求」归入拟定AI规范和开发相关东西中的要点研讨；其三、鼓舞扩展公私协作伙伴关系，开发和运用AI规范和相关东西来推动牢靠、强壮且可信赖的AI技能的展开；其四，与世界战略协作伙伴协作拟定AI规范，满意美国的经济展开和国家安全保护需求。

AI技能的展开加快社会和经济的转型革新，AI技能一致规范的拟定在全球规模内已日益受到重视：早在2016年，世界电信联盟ITU开端展开人工智能规范化研讨；2017年10月，ISO/IECJTC1树立人工智能分技能委员会SC42，环绕根底规范、计算办法、可信赖和社会重视等方面展开世界规范化作业；2019年4月，欧盟在人工智能战略辅导下出台了人工智能的品德规范；6月9日，以OECD人工智能准则为蓝本，G20同意了首个由各国政府签署的以人为本的AI准则。世界规范安排IEEE从2016年起就在推动一系列的AI技能、品德相关的规范。可见AI规范拟定现已成为AI范畴的战略高地，各国都在寻求主导。

现在，美国的现有AI规范首要是适用跨部分（横向）和特定部分（纵向），为保证美国AI技能在全球规模内持续扮演领跑者的位置，联邦层面上一致AI规范的拟定也已开端提上日程。

NIST此方案不对AI规范作详细化的罗列，而是聚集于鼓舞公私部分展开协作，并为联邦政府参加拟定AI规范的详细步骤供给有意义的辅导和主张。别的，NIST指出规范出台的机遇也很重要。规范拟定得太早，或许会阻止立异；但若太晚，职业已构成某种一致，AI规范施行的阻止将增大。因而，规范拟定安排应该与AI技能职业坚持互动，结合AI技能展开现状当令出台AI国家规范，更好促进AI技能和职业展开以发明更多效益和价值。

参考文献：

[1]https://ico.org.uk/about-the-ico/news-and-events/news-and-blogs/2019/08/statement-live-facial-recognition-technology-in-kings-cross/

[2]https:///legaltechnews/2019/05/02/retailers-using-facial-recognition-should-be-wary-of-illinois-and-followers/?slreturn=20190827001611

[3]https://sanfrancisco.cbslocal.com/2019/05/14/san-francisco-leaders-voting-on-facial-recognition-ban-today/

[4]https:///en_us/article/paj4ek/somerville-becomes-the-second-us-city-to-ban-facial-recognition;https:///en_us/article/zmpaex/oakland-becomes-third-us-city-to-ban-facial-recognition-xz

[5]https://www.nist.gov/news-events/news/2019/08/plan-outlines-priorities-federal-agency-engagement-ai-standards-development

--END--

腾讯网络法专报编委会

腾讯网络法专报总编辑：司晓

履行主编：张钦坤

责任编辑：曹建峰 朱开鑫

编委会：蔡雄山 杜晓宇 王融 柳雁军 田小军 彭宏洁 巴洁如 温博欣

扫描上方二维码，

填写问卷，订阅网络法专报