新动态：生成式AI引发治理新思考

◎本报记者 崔 爽

(资料图片仅供参考)

过去几个月，ChatGPT为人工智能技【jì】术【shù】按下【xià】加【jiā】速【sù】键。这个聊天【tiān】程序证明了超大参数模型和【hé】通用型人工智能【néng】的【de】可行性，谷【gǔ】歌【gē】、亚马逊【xùn】等【děng】巨头纷纷推出自主研发的相关【guān】平台【tái】，国内也【yě】已有十数家企【qǐ】业在该领域有所布局。

它们被统称为“生成【chéng】式人工智能”。简单来说，这种AI可【kě】以【yǐ】通【tōng】过算【suàn】法生成新内【nèi】容，包括图像、文字、音乐【lè】，甚至视【shì】频【pín】、代码等。

这【zhè】令人兴奋也不乏担忧。数据安全、个人隐私、信息【xī】造假、算法歧视……各【gè】国【guó】监管部门对一【yī】系列【liè】潜在风【fēng】险反【fǎn】应迅【xùn】速，动作不【bú】断。

3月【yuè】底，意【yì】大利个人数【shù】据【jù】保护局【jú】宣布暂【zàn】时禁止使用ChatGPT，欧【ōu】盟【méng】多个国家跟【gēn】进，酝【yùn】酿具体【tǐ】监管措【cuò】施【shī】。美国商【shāng】务部4月【yuè】公开征求意见，讨论新人工智【zhì】能模型【xíng】在发布前是否应经过认证【zhèng】程序等内容。我国国家网信办也于近日发布《生【shēng】成式人工智能服务管理【lǐ】办法（征求意见【jiàn】稿）》，针【zhēn】对准入门【mén】槛、数据来源、标注规则等作出明确规定。

风险到哪里 监管到哪里

“相比以往的AI技术【shù】，生【shēng】成【chéng】式【shì】AI可【kě】以直接【jiē】利用自【zì】然语言和【hé】计算机进行交互【hù】，使用门槛低，生成【chéng】内容质量高。”世辉律师事务所合伙人、律【lǜ】师【shī】王新锐对科技【jì】日报【bào】记者表示，“这让其一旦被滥用或【huò】误用【yòng】，迷惑性【xìng】比以往的人【rén】工智【zhì】能技【jì】术更【gèng】强，潜在损害也更大。并且它有可能成为一种影响各行业的底座型技术。”

除了涉及数据安全【quán】、个【gè】人信【xìn】息保护等【děng】传【chuán】统问题，中国互【hù】联网【wǎng】协会研究中心副主任吴沈括强调【diào】，生成式AI也给内容治理、社会运行产生冲击和影响，这给现【xiàn】有的【de】治【zhì】理体【tǐ】制机制的敏捷【jié】性、覆盖性【xìng】和穿透性带来很大挑战【zhàn】。

据王新锐介【jiè】绍，目前【qián】，意大利、西班牙、德国、加拿大、英国【guó】等国家出于数据和【hé】隐私【sī】保护【hù】的考虑对ChatGPT及【jí】其开发者展【zhǎn】开调【diào】查，此外，域外有可能将ChatGPT等生成式【shì】AI列入高风险人工智能【néng】清单，希【xī】望通过立法防【fáng】范其风【fēng】险【xiǎn】。

吴沈括表示【shì】，前述主要国家对于生成式【shì】AI的监管依然从经典的数据治【zhì】理、数【shù】据安【ān】全【quán】的角【jiǎo】度【dù】切入【rù】，在他们看【kàn】来，生成式【shì】AI的核心逻【luó】辑在于海【hǎi】量【liàng】数据的【de】汇集、加工、处理以及丰富的运算输出，因此，采【cǎi】取数据治理的【de】思路顺理成【chéng】章。

但【dàn】回到我【wǒ】国，仅从数据【jù】治【zhì】理出发还不够，“我【wǒ】们的关切涉及内容治理、消费者权益、透明【míng】度【dù】、公平性、知识产权保护等各【gè】个方【fāng】面，基本覆盖了目前与生成【chéng】式AI相关的【de】主要风险类型，故而【ér】采取【qǔ】的是一【yī】种风险【xiǎn】预防、风【fēng】险干预的多【duō】层【céng】次综合治理思【sī】路。”吴【wú】沈括说。

建构多方参与的治理生态

技术大步向前，如何平衡技术创新和政策管理，考验各方智慧。

“一方面，我们【men】需要加【jiā】强数据隐【yǐn】私【sī】和个【gè】人信息安全的保护，对生成式AI从【cóng】训【xùn】练到投入使用【yòng】的【de】全生命周【zhōu】期的个人信息的【de】处理和数据【jù】保护作出【chū】规【guī】范。另一方面【miàn】，从生成式【shì】AI可【kě】能带来的风险出【chū】发，在【zài】现有法律框架上进一步建立健全生成式AI产业各方主【zhǔ】体治理框架和问责机制【zhì】，落【luò】实生成式【shì】AI相关主【zhǔ】体【tǐ】的权利义务。”王新锐说，下【xià】一【yī】步需要【yào】进一步细化落实平台合规机制、加强科【kē】技伦理要求、确保算法【fǎ】安全【quán】并建立健全【quán】问责机制、促【cù】进高质量数据合法合规【guī】地流通共享。

吴沈括提出，治【zhì】理规则的明确性和确定性需要不断提升【shēng】，努力打造实【shí】时、敏捷、全面的监管机制，最大限度【dù】发挥【huī】监管的引【yǐn】导作用【yòng】及【jí】红线【xiàn】保【bǎo】护的根本价值【zhí】。

生成式AI爆火，涉【shè】及诸多【duō】利益【yì】诉求及关切。对此，王【wáng】新【xīn】锐建议，需要充分观【guān】察产业界和监管机构、大众媒体的互动，建立多方参与的【de】治理机【jī】制。同时，加强公【gōng】众教【jiāo】育和参与【yǔ】，提高公众对生【shēng】成式AI的【de】认识【shí】和理【lǐ】解，共同推【tuī】动【dòng】生成式AI的健康发展。（崔爽）