新华视点：“AI诈骗潮”真的要来了？ 环球快讯

通过AI换脸和拟声技术，10分钟骗【piàn】430万元；AI虚拟人在【zài】聊天中筛选出受害【hài】者，人工接力实施诈【zhà】骗……近【jìn】期【qī】，多【duō】起宣称【chēng】利用AI技【jì】术实施诈【zhà】骗的案件引【yǐn】发关注。

“新【xīn】华视【shì】点”记者近日与【yǔ】公安部门核实确【què】认，“AI诈骗全【quán】国爆发”的消息不实，目前此类诈骗发案占比很低。但公【gōng】安机关【guān】已注意【yì】到此犯【fàn】罪新手法，将加大力【lì】度【dù】会【huì】同有关部门开展技【jì】术【shù】反制和宣传防【fáng】范。

(资料图片仅供参考)

专家表示【shì】，随【suí】着AI技术加速迭代，由于【yú】使用边【biān】界不清晰，涉诈风险正在【zài】积【jī】聚，需【xū】要高度警惕。

“换脸”式诈骗引发焦虑：你会被亲友的脸骗到吗？

近日，内蒙古包头警方【fāng】通【tōng】报一起利用AI实施诈骗【piàn】的【de】案【àn】件，福州市【shì】某【mǒu】公司法人【rén】代表郭先生10分钟内被骗430万【wàn】元。据通【tōng】报，骗子通过AI换脸和【hé】拟声技术，佯装【zhuāng】熟人实施诈骗。

该案披露后，不少报道【dào】称需警惕“AI诈骗潮”到来【lái】，并曝光【guāng】多起类似【sì】案件。如江苏常州的小【xiǎo】刘【liú】被骗子冒充其【qí】同学发语音【yīn】、打视频电【diàn】话，小刘【liú】看到“真【zhēn】人【rén】”后信以为【wéi】真，“借”了6000元给骗【piàn】子。

那么，“AI诈骗潮”是否真的到来了？

记【jì】者调查【chá】了解到，AI在技术上确实【shí】能做到换脸、拟音【yīn】，但被用来进行“广撒网”式诈骗需要具【jù】备【bèi】很【hěn】多条件。

一位【wèi】被列入公安部专家库的民警【jǐng】告诉记者，这类诈骗【piàn】如果得手必须【xū】做到：收集到被换脸对象的个人【rén】身份【fèn】信息、大量人脸图片【piàn】、语音素材，通过AI生成以假乱真的音【yīn】视频；窃【qiè】取被换脸对象的微信号；充分掌握诈【zhà】骗【piàn】对象【xiàng】个人身【shēn】份信息【xī】，熟悉【xī】其与被换脸对象【xiàng】的社会关【guān】系，综合作案【àn】成【chéng】本很高【gāo】。

他认为【wéi】：“相关报道对一些案件【jiàn】的典型细【xì】节描述不够准【zhǔn】确。AI涉诈案【àn】件仍属零【líng】星【xīng】发案状态。”他说，成熟的类型化诈骗犯罪往往具有【yǒu】在全国多地【dì】集中爆发的特【tè】点，但【dàn】当前没有成规模的【de】AI诈【zhà】骗类案件发生【shēng】。

公安机关研判，近【jìn】期网上“AI换脸换声诈骗在【zài】全国爆发”传言不实【shí】，全国此【cǐ】类案件发生不到10起，但该【gāi】动【dòng】向值得高度关注。网上一键换脸功能的App、小程序有技术【shù】滥用风【fēng】险【xiǎn】，需要加强技【jì】术防范【fàn】反制等【děng】工【gōng】作。

AI进入快速迭代期，涉诈犯罪风险正在积聚

“当前【qián】AI技术发展来到螺旋式【shì】上升的【de】拐【guǎi】点，未来几年技术【shù】迭【dié】代【dài】将会【huì】按月计算。”香港科技大学（广州）协【xié】理副【fù】校长、人工智能学域主任熊【xióng】辉说。

工信部信息【xī】显示，伴随AI技术快【kuài】速【sù】发【fā】展，合【hé】成技【jì】术门槛持【chí】续降低【dī】，逐渐向低算力、小样本学习【xí】方向演进，利用【yòng】手【shǒu】机终端【duān】即可完成，对算力和【hé】数据的【de】要求下降明显。同时【shí】，随着AI大模型的技术加持，正逐步由面部合成向【xiàng】全身、3D合成发展【zhǎn】，效果更加逼真。

国家开发【fā】投资集【jí】团【tuán】特级专家、厦【xià】门美【měi】亚柏科AI研发中心总经理赵建强【qiáng】表示【shì】，AI技术正加速【sù】向网络诈骗、虚假信息【xī】、色情【qíng】等【děng】领域渗【shèn】透。如在【zài】一些网络平台上假冒明星、公众人【rén】物生成【chéng】视频图像，吸引网民。此外，AI技术也可能被用来规模化地【dì】实施【shī】违【wéi】法犯罪，如批量、自动维护网络账号，发送虚假信息【xī】，模【mó】拟人工【gōng】在线聊天等。

值得【dé】关注的是【shì】，当前AI技【jì】术不再是实【shí】验室的半成品，引发热议的【de】“换脸”“拟音”技术已有较成【chéng】熟的开源软【ruǎn】件【jiàn】，使用门槛低。

记者注意到，网络【luò】上【shàng】不乏AI换脸教程。在国内某知名App上输入“换【huàn】脸”，弹出的高【gāo】频检索记录【lù】显【xiǎn】示【shì】有“换脸软件”“换【huàn】脸App免费【fèi】”“换脸视频怎么做【zuò】”“换脸算法”等【děng】。一条名为【wéi】“史上最强AI换脸软件【jiàn】正式上线了！技【jì】术门槛大大降低【dī】”的链【liàn】接，介绍了一【yī】款换【huàn】脸软件，通【tōng】过视频演【yǎn】示教程，手把手【shǒu】教授如【rú】何使用。

“老【lǎo】话说‘眼见为实’，但今后眼睛【jīng】看到的也不一定是真实的。”北京市天元律师事务所合伙【huǒ】人杨【yáng】虎城表【biǎo】示，未来【lái】涉及AI合成技术的诈骗、敲诈勒索等违【wéi】法【fǎ】犯罪【zuì】和肖像、名誉【yù】等民事【shì】侵【qīn】权问题可能逐步显【xiǎn】现【xiàn】。

“从现有案【àn】例看，这些技术已被不法分子利【lì】用。如假冒明星【xīng】换脸直播、一键脱衣【yī】、造谣【yáo】、制作色情【qíng】视频【pín】等。虽【suī】然【rán】AI诈骗案件【jiàn】未成气【qì】候，但这一趋势值得关注，必须【xū】提早防范。”一位反诈【zhà】民警说【shuō】。

工信部相【xiàng】关【guān】负责人表示，随着AI技术的不【bú】断发展，通过少【shǎo】量图片、音频信息合成特定视频，利用【yòng】人工【gōng】智能模型【xíng】批【pī】量设计诈骗脚【jiǎo】本【běn】等成为可能【néng】，客观上降低了电信网【wǎng】络【luò】诈骗的实【shí】施难【nán】度，AI类新型犯【fàn】罪爆发可能性【xìng】进一步提升。

尽快完善相关法规制度，为AI技术发展立规划线

中【zhōng】国移动信息安全中心品质管理处副处【chù】长周晶告【gào】诉记者，近年来【lái】，国际国【guó】内各界在积极探索深【shēn】度合成【chéng】技术的【de】有效治理【lǐ】路径，研判AI技术给社【shè】会【huì】带来的风险和【hé】潜在威【wēi】胁，正设法将AI技术发【fā】展【zhǎn】纳入一定规则中，做【zuò】到安全可控。

业内【nèi】人士建【jiàn】议【yì】，要加【jiā】强AI反制技术研究，“以【yǐ】AI制AI”。一些【xiē】科技公【gōng】司正加强对【duì】图像、声音伪造技术的【de】反【fǎn】制研究，在【zài】公安、金融的视频认证【zhèng】场景已有【yǒu】应用。有一线【xiàn】民【mín】警建议，要加【jiā】强AI安全技术应用研发【fā】，将AI技【jì】术应用于犯罪识别、预警、对抗中，实现以“白【bái】”AI对抗“黑”AI。

其次，加强源头【tóu】治理和【hé】行【háng】业引导，及时更新、完善【shàn】相关法律、标准、规【guī】则【zé】，为【wéi】AI技术发展保驾护航。

“数【shù】据【jù】是AI犯罪的源头，保护【hù】好【hǎo】公民的个人隐私【sī】数据安全，就能在最大程度上降低AI违法【fǎ】犯罪的能【néng】力。”熊辉【huī】说。

中国互【hù】联网协【xié】会监管支撑部主任郝智超建议【yì】，AI技术【shù】发展还要有相关法律法规来划红线、踩【cǎi】刹【shā】车。需进【jìn】一步加强对个人隐私数【shù】据泄露【lù】问题的关【guān】注，明【míng】确信息监管红线，对AI技术的研发、传【chuán】播、使用做到有规可循，并【bìng】根据【jù】技术发展实【shí】际【jì】情【qíng】况，及时完【wán】善对技术服务商行为的【de】规范引导【dǎo】。

此外，还要有针对性地加强反【fǎn】诈宣传【chuán】。熊辉表示，未来AI可根据【jù】大数据【jù】创【chuàng】造出无比【bǐ】接近真实的【de】“真实”。“要通【tōng】过不【bú】断【duàn】的教育改变大众观念，让人知道【dào】眼【yǎn】见不一定【dìng】为实，有图不一【yī】定有真相，提升对网络信息的辨识【shí】力。”他说。

公【gōng】安部有关负【fù】责人表示，当前，诈骗【piàn】集团利【lì】用区块【kuài】链、虚拟货币【bì】、远程【chéng】操控、共享屏幕等新【xīn】技【jì】术新业态，不断更新升级犯【fàn】罪工具【jù】，与公安机关在通【tōng】讯网络和转账【zhàng】洗钱等方面的攻防对抗不断加【jiā】剧【jù】升级。公安机【jī】关【guān】会同相关部门与诈骗分【fèn】子斗智斗【dòu】勇，不断研【yán】究调整打击防范措施，确【què】保始终保持主动权【quán】。

工信【xìn】部表【biǎo】示，下一步，将【jiāng】强化监管【guǎn】执法，积极会【huì】同网信、公安等【děng】部门，督促企【qǐ】业健全【quán】完善深度合成【chéng】信息管理及技术【shù】保障措施；鼓励【lì】技术攻关，凝聚产【chǎn】学研用各方力量，提升深度合成风险技【jì】术防范能力；加【jiā】强行【háng】业自律，建【jiàn】立健【jiàn】全深度合成技术【shù】相关行业标准、行【háng】业准则和自律管理制度，督促【cù】指导深【shēn】度合成服务【wù】提【tí】供者和【hé】技【jì】术支持者制定完善业务规范、依法开【kāi】展业务和接【jiē】受社会监督。

来源：新华社

流程编辑：TF016