“AI换【huàn】脸”火了【le】，有人【rén】10分【fèn】钟被骗400万，谁来担责【zé】？丨亮【liàng】见31期

丨划重点

1. 对AI生成内容进行标【biāo】记是法律【lǜ】法【fǎ】规要求的，这不【bú】意味着平台能完全免责【zé】，平台还需要履行技术识【shí】别【bié】、停止【zhǐ】传输、处置措施和【hé】报【bào】告等责任。

(资料图片)

2. 直【zhí】播间使用明星【xīng】面【miàn】孔，侵犯了【le】明【míng】星的肖像权【quán】，还【hái】涉及到虚假宣传、欺诈【zhà】消费者和不正当竞争等问题。

3. 如【rú】果在银行有能力识别非【fēi】真实【shí】人脸的【de】情况【kuàng】下间接导致了AI换脸【liǎn】诈骗给储【chǔ】户造成损失，这种情况下【xià】可能需要担【dān】责。

4. 消【xiāo】费者需要更加重【chóng】视个人信息的保护，尽量避免【miǎn】无必要的授权【quán】，可以拒绝【jué】使用【yòng】要求授权过多个人信【xìn】息【xī】的应用。

丨概述

AIGC的【de】爆火让【ràng】人们【men】看到了人【rén】工智能日【rì】常应【yīng】用的可能，其场景覆盖文【wén】字/图片/音频/视频等形式的内容【róng】生成，在特定【dìng】领【lǐng】域，AIGC相关的内容的【de】质量、可靠性已经远超人类，然【rán】而这【zhè】种高度的“仿真”，也衍生出【chū】了新的【de】问题——AI诈骗【piàn】。

北京市【shì】岳成律师事务【wù】所【suǒ】高【gāo】级【jí】合【hé】伙人岳【yuè】屾【shēn】山认为，技术具有两【liǎng】面性，对待其态【tài】度不能一【yī】概而论，需要将其纳【nà】入法律框架下规范发展。而针【zhēn】对AI诈骗，岳律师【shī】认为个人信【xìn】息泄露的情况仍很普遍，普通人在使用相关【guān】设备【bèi】和软件时需【xū】尽量避【bì】免无必要【yào】的授权，但【dàn】诈骗分【fèn】子不断变化和【hé】“创新”，最根本的防范防【fáng】范还是【shì】保持警惕、提高对诈骗的认知。

01

AI内容标记无法完全规避责任

刘兴亮【liàng】：现在，许【xǔ】多平台对AIGC生成的内容会有明确【què】风【fēng】险提【tí】示标记，这种提示有效吗？

岳屾山：标记是根【gēn】据法规明确【què】规定的，要【yào】求【qiú】新技【jì】术和应【yīng】用来【lái】制作【zuò】、发布、传【chuán】播非真实音视频信息，应该采用显著的方式【shì】进行标记。标记只是【shì】一【yī】种规避责任【rèn】的方式【shì】，因【yīn】为法【fǎ】律要求标【biāo】记，但并不意味着完全免除责【zé】任，除了标记【jì】之外还有其他的义【yì】务需要履行。

例如，平台【tái】应该【gāi】部署一【yī】些用于识【shí】别违法违规音视频和非真实【shí】音视【shì】频的技术，如果发现违反法律禁止或规【guī】定的信【xìn】息内容【róng】，必须依【yī】法停止【zhǐ】传输这些信【xìn】息【xī】，并采取删除等【děng】处置措【cuò】施【shī】来防【fáng】止信息的扩散。同时，还需要妥【tuǒ】善保存相关记录，并向【xiàng】相关部门【mén】等进行报告。

所以【yǐ】，平台有很多义【yì】务需要履行【háng】，仅仅进【jìn】行标记是不【bú】能完全免除责任【rèn】的。

刘【liú】兴亮：新技术、新【xīn】应【yīng】用带来的潜在【zài】风【fēng】险【xiǎn】，我们应该采取什么样【yàng】的态度对待？

岳屾山：因为涉及到较为技术性的内容，就我个人而言，对于新的【de】技术【shù】或【huò】应用，包【bāo】括新的【de】营商模式和经营模式的【de】出现，应该给【gěi】予【yǔ】适度的关【guān】注和宽松的环境来培育它们，看【kàn】它们是否能够发展起来。

不过，对于人工智能换脸，目前没有看到多少正面评价。

不过，也有少量的【de】人尝试用这项技术【shù】“复活”已故亲人，以慰藉思念【niàn】之情，我认为【wéi】这可能是人工智能换脸技术对我们的生活和社【shè】会产生积极【jí】影响【xiǎng】的一种【zhǒng】可能性存在【zài】。

只要这项技术【shù】具有正面【miàn】意义的可能，对【duì】待它【tā】的态度【dù】就不能一“封”了之，应在现有【yǒu】的法律框架【jià】内对其进【jìn】行必【bì】要的规制，以避免它成为一匹脱缰【jiāng】的【de】野马。

02

“AI孙燕姿”存在诸多侵权风险

刘兴亮【liàng】：关于AI孙【sūn】燕【yàn】姿【zī】的话题，最【zuì】近孙燕姿发【fā】布相【xiàng】关声明，意思是不会去追责，这种情况下用户能随便使用吗【ma】？

岳屾山：AI换脸明星翻唱，涉及的法律问题主要涉及肖像权。

民法【fǎ】典规定，未经他人同意使用他人肖像属于肖像侵权，使用【yòng】AI换【huàn】脸就【jiù】存【cún】在这种可【kě】能性【xìng】，特别是在直播间中使用明星的【de】面孔进行直播，明显侵犯了明星的【de】肖【xiāo】像权，因为明星不可能授【shòu】权【quán】他人使用【yòng】他们的【de】面【miàn】孔进行直播。另外【wài】，这种【zhǒng】行为还涉及到虚假宣传、欺诈【zhà】消费者【zhě】和【hé】不正当竞【jìng】争等问【wèn】题。

直播中的AI换脸，来源：网络

有关“声音”的权利，民法典明【míng】确了将其按照肖像权规定处理【lǐ】。如【rú】果孙燕姿未允【yǔn】许他人使用其声音，就【jiù】会构成【chéng】侵权【quán】，并【bìng】且可能还涉【shè】及侵【qīn】犯姓【xìng】名权的问题。此外，如果使用她的歌曲进【jìn】行商业活动，还需要支付费用【yòng】，并【bìng】可能需要获【huò】得词曲作者【zhě】等进【jìn】行著作权【quán】的【de】授权。

刘【liú】兴亮：以银行【háng】转【zhuǎn】账为例【lì】，转账过程中，因为人脸识别被骗，谁来承担责任，银行【háng】需【xū】要担责吗【ma】？

岳屾山：转账过程人脸验证，会有眨眼【yǎn】、摇头等动【dòng】作的【de】验证，如果这个过程中遭遇诈骗，银【yín】行【háng】是【shì】否需要担责，取决于【yú】银行在人脸识别技术【shù】方面是【shì】否存【cún】在【zài】一些【xiē】罕见的【de】漏洞。比如，通过【guò】调用摄像头【tóu】时，银行【háng】APP能否辨【biàn】认出真实的【de】摄像头，或者是否使用了其他技术手段对人脸进【jìn】行了【le】改变。

如【rú】果在银行有能力识别非真【zhēn】实人【rén】脸的情况下，因为诈骗分子通过第三方设备，比如通【tōng】过摄像头画面欺【qī】骗了银行的人【rén】脸识别【bié】系【xì】统，（给储户带来【lái】了直接损失），这种情况下【xià】银行可能【néng】需要担责；如果【guǒ】技术监测确【què】实发现【xiàn】银行无法识别出这种情况，即技术无法达【dá】到防止欺诈的要【yào】求【qiú】，就【jiù】不【bú】能要求银行【háng】承担责任。

除了银【yín】行，也需要考【kǎo】虑平台【tái】是否有发现欺诈行为的【de】标志，是否具备【bèi】识别【bié】的义务等，如果平【píng】台违反了【le】这些义务，相【xiàng】应地就要【yào】承【chéng】担责任。

但实际上【shàng】，很多诈【zhà】骗行【háng】为都是点对【duì】点进行，银行或平台【tái】很少直接参【cān】与其中，诈骗分子往往会【huì】规避银行或平【píng】台的验证方式，以【yǐ】尽量减少被发现的可能，毕【bì】竟这是一【yī】种犯【fàn】罪行为。

03

防范数据泄露，是反诈骗的核心

刘兴亮：现在有很【hěn】多观【guān】点认为我们【men】目前防范AI诈【zhà】骗关键在于防范数据泄露，这种观点你【nǐ】认【rèn】同【tóng】吗？

岳屾山：个人【rén】信【xìn】息泄露的问【wèn】题一直都非常严重【chóng】。电信诈骗之所以成【chéng】功的一大原因就是因为【wéi】诈【zhà】骗【piàn】者获取了相应的个人信【xìn】息。

刑法中有关个人信息保护【hù】的方面规定了非【fēi】法泄露公民个人信【xìn】息属于侵犯个人信息【xī】罪，需要【yào】追究责【zé】任。在民【mín】法典的【de】《消费者权益保护法》、《数【shù】据安全法》、《网络【luò】安【ān】全法》等法【fǎ】律中，都要【yào】求企业在收集个人信息时必须遵【zūn】循合法、正【zhèng】当和必要的原则。特别是【shì】对【duì】于涉及人脸等生物特征的信【xìn】息，属于敏【mǐn】感信息，每次收集【jí】都需要单独获得用户的同意，并【bìng】受【shòu】到其【qí】他限制性【xìng】规定【dìng】的约束。

这些法律【lǜ】法规，旨在【zài】保护我们【men】的个人隐【yǐn】私，并要求所有收集到个人信息的企【qǐ】业，在处理和【hé】使用时都必须严格按照约定和法律规定【dìng】进行，并具备【bèi】必要【yào】的【de】技【jì】术和软件【jiàn】条件来【lái】保护信息【xī】不被泄露。

所以，消【xiāo】费者【zhě】需要更加重视个人【rén】信息【xī】的保护【hù】，尽量避免无必要的授权。如果某个【gè】应用要【yào】求我们【men】授权过多的个人信息，可【kě】以拒【jù】绝授权【quán】，即使这样【yàng】可能导【dǎo】致无法使【shǐ】用应用。现在法律也有明确【què】，应用不允许【xǔ】索取【qǔ】过多个人信息相关权限，且【qiě】不能拒绝用户使用。

例如，以前【qián】我们使用【yòng】某个导航软【ruǎn】件要求访【fǎng】问通【tōng】讯录【lù】，实际上只【zhī】需要位置信息【xī】即可，这种情况下，《国【guó】家的网络安全法》、《数据安全法》和《个人信息【xī】保护法》等都进行了详【xiáng】细【xì】的规【guī】定。

另外，诈骗分子通常会使用各种手段筛选目标客户，比如发送大量的短信，他【tā】们不需要知道【dào】每个【gè】人的【de】具体个人信息，而是通过通用的手法来吸引潜在【zài】受害者的注意力。比如【rú】最近的“上门枪决”短信，诈骗分子【zǐ】不需要每个【gè】人都相【xiàng】信，只需要找到【dào】那【nà】些容易受骗的【de】人，这种方式可以帮助【zhù】诈骗分子【zǐ】最大限【xiàn】度地减少成本【běn】并加快筛【shāi】选的速度【dù】。

近期在网络中热议的“上门枪毙”诈骗短信，来源：网络

04

技术不是万能的，治理与监管关键在人

刘【liú】兴亮: 对AI换脸诈骗的治理和监管还需要哪些主体【tǐ】，以什【shí】么【me】样的形【xíng】式参与【yǔ】？

岳屾山：社会治理【lǐ】的【de】层面确实是多主体参与的，这样才能形成良好的氛【fēn】围。在制【zhì】定规则和框【kuàng】架【jià】方【fāng】面，一方面是在政府层【céng】面或立法层面进行，需要【yào】有相应规则和标【biāo】准来界定诈骗行为，这些【xiē】规则可能【néng】需【xū】要在立法层面【miàn】进行【háng】制定，包括对其性质和标【biāo】准的界【jiè】定等。

另外【wài】，通【tōng】过立【lì】法或政府的行政政策【cè】可能【néng】需要【yào】一定时间，存在不及时的可能，所以很【hěn】多【duō】时候可以【yǐ】通过行【háng】业【yè】协会的形式提【tí】前制定一些规【guī】范或标准，虽然它们可能没有强制力，但可以起到【dào】引导作用。

针对法律法规【guī】在落【luò】地过【guò】程中的执行，需要执法部门加强监【jiān】管【guǎn】，且这种【zhǒng】场景也考【kǎo】验监管的技术，我认为这种【zhǒng】情况下【xià】双方都在看【kàn】谁【shuí】的技术【shù】更高超，谁能够限制住【zhù】这种行为【wéi】。技术本身并不是万能的，它的应用取决于人们如何使用和管理。

刘兴亮：针对不同的主体行为的规范，目前有哪些具体的法律法规？

岳屾山：目前【qián】在互联网信息服务深【shēn】度合成管理规【guī】定【dìng】方面【miàn】已经有一些具【jù】体的规定【dìng】，特别是针【zhēn】对人工智能和AI换脸等【děng】技术。

今年4月份，互联网信息办公室发布【bù】了关于【yú】生【shēng】成式人工【gōng】智【zhì】能服务【wù】管理办法的【de】征求意见稿，进【jìn】一步规范了相关服【fú】务【wù】的管理。通【tōng】过这些规定【dìng】，针对人工智能和AI换脸等方【fāng】面有了【le】较为直接的管理【lǐ】措施。

国家法【fǎ】律层面也有一些原则层面【miàn】的【de】法【fǎ】律和规定，包括《民法【fǎ】典》、《网络安全法》、《数据安【ān】全法【fǎ】》、《互联网【wǎng】信息【xī】服务【wù】管理办法》等，这些法律和规【guī】定【dìng】都涉及到【dào】保【bǎo】护个人信息和肖像权，以及对实施诈骗等行【háng】为应承担的责任，为相关【guān】问【wèn】题提供了一定的规范。

刘兴亮：普通人在遭遇AI诈骗时应该怎样处理，有什么建议吗？

岳屾山：作为一名律师，我认【rèn】为对于那些侵犯他人权【quán】益的行为，尤其是在【zài】涉及AI诈骗和肖像侵权的【de】行为，受害【hài】者【zhě】可以采【cǎi】取一【yī】些维【wéi】权措【cuò】施，以避免他人随【suí】意使【shǐ】用其【qí】肖像等【děng】信息【xī】，这种动【dòng】作可以防止肖像被滥用，并对软件【jiàn】的使用和研发产生一定的约【yuē】束。

我建议加【jiā】强对【duì】肖像权的保【bǎo】护，特别是【shì】在如今AI换脸技术如【rú】此便【biàn】利的情况【kuàng】下。除了【le】个人的自【zì】我保护外，平台和【hé】执法机构也应承担【dān】起相应的责任，确保提【tí】供【gòng】一种便捷的维权途径。

除了肖像权，类似问题也【yě】会涉及【jí】到【dào】著作权，如果消费者的【de】肖像【xiàng】被制作成视频并由【yóu】他人传播和使用，这涉及【jí】到视听节目的【de】内容，平【píng】台可【kě】能更多地基于著作权【quán】方面的处理和保护，而不是针对肖【xiāo】像或其【qí】他行为。

在这方面，我建议更多地依赖平台【tái】。平台应该【gāi】及时发现这【zhè】类侵权行为，并提【tí】供便【biàn】捷的【de】投诉【sù】渠【qú】道或途径，以便及时【shí】处理这些问题。

另【lìng】外，正如【rú】我们一【yī】直在【zài】讨论的【de】那样，法律的威慑【shè】力往往不是来自其严苛程度，而是来自【zì】于执【zhí】法的及时性。对于那些实【shí】施侵权行为的用【yòng】户，平台方面【miàn】应该采取相应【yīng】的惩罚或限制【zhì】措【cuò】施。这【zhè】完全【quán】可以在平台自身的范畴内实施，根据相关的用户协议和约【yuē】定对其进行【háng】惩【chéng】罚和限制。通过这样【yàng】的方式，可【kě】以【yǐ】尽量减少【shǎo】侵权行为的发【fā】生，因【yīn】为【wéi】侵权有时候会成为一种上【shàng】瘾的行为。