世界人工【gōng】智能大会：人工智能的应【yīng】用标准【zhǔn】、体系化【huà】监管与安【ān】全伦理应当同步【bù】跟进

在【zài】智能【néng】社会【huì】里，如何建设数字治理生态，一直是【shì】行业的热议话题【tí】。7日，在2023世界【jiè】人工智能【néng】大【dà】会的多【duō】场【chǎng】相关论坛上，业内专家和研究【jiū】人员认为【wéi】，在人工【gōng】智能的发展进【jìn】程中，应用标准、体系化监管与安全伦理应当同步跟进【jìn】。

“负责任”的人工智能

(资料图片仅供参考)

在上海杨【yáng】浦滨江【jiāng】举行【háng】的【de】智能社会【huì】论坛上，发布了多份【fèn】重量级的研究和实践成果。同济大【dà】学研究【jiū】团队发布【bù】了《人工智能大模型伦理【lǐ】规范操作指引》和《生成式人工智能【néng】风险评【píng】估框架【jià】（1.0）》两份【fèn】专【zhuān】题研究成果【guǒ】，旨在应【yīng】对人【rén】工智能大模【mó】型的风险，推【tuī】动伦【lún】理规范落地实【shí】施；同【tóng】济大学与百度研究团队联【lián】合【hé】发布了《面向新商业【yè】模【mó】式的【de】高级别自动驾【jià】驶法律责任白皮书》，关注全自动驾【jià】驶【shǐ】应用场景【jǐng】的法律问题。

同济【jì】大学常务副校长吕培明【míng】等专【zhuān】家【jiā】认【rèn】为【wéi】，人工智能既是【shì】引领当前这一轮科技革命和产业变【biàn】革的战略性技术，也是推动城市治理生【shēng】态【tài】和治理能力现【xiàn】代化的必由【yóu】之路。应主【zhǔ】动整合多学科力量【liàng】，搭建起“技术与社会”畅通【tōng】的对话交【jiāo】流平台【tái】，应对智【zhì】能技术发展潜在【zài】的伦理、法律【lǜ】和治【zhì】理风险与挑【tiāo】战，构建公平【píng】规范【fàn】的数字治理【lǐ】生【shēng】态，超前探索智能社会的【de】运行【háng】模式、法律法规、标准规范、政【zhèng】策体系【xì】和体制【zhì】机制，推动发展“负责任的人工智能”。

上【shàng】海杨浦作为全国首批10个国家智能【néng】社【shè】会治理实验综【zōng】合基【jī】地之一，正加【jiā】强【qiáng】人工【gōng】智能研发与应用【yòng】活动的引【yǐn】导【dǎo】，实现人工智能产【chǎn】业规范与发展的动态平衡，打造【zào】智能治理的新样板。

大模型的风险管理

推进大模型的创新和应用，同步也要加强大模【mó】型的风险【xiǎn】管理与行业治理【lǐ】。在上【shàng】海西岸【àn】举【jǔ】行的“大模型【xíng】时代的通用人工智能产业发展机【jī】遇【yù】以及风险”主题【tí】论【lùn】坛上【shàng】，上海【hǎi】市经济和信息化委员【yuán】会【huì】相关负责【zé】人表示，上海【hǎi】作为人工智能创新高地与“先行区【qū】”，在积极打造具有国际影响【xiǎng】力的世【shì】界级【jí】产【chǎn】业集群的同【tóng】时，坚持科技向善理念，持续推进人工智【zhì】能【néng】健【jiàn】康规范发【fā】展。

据介绍，上海积极推进大模【mó】型【xíng】技术【shù】的创新和【hé】应用，系统性支持技术【shù】攻【gōng】关、算力供给、数据集建【jiàn】设和【hé】公共服务需求；布局科学智【zhì】能，推进科学智能赋能生物【wù】医【yī】药、集【jí】成电【diàn】路【lù】、高端装备和【hé】先进材料等创新应用；提【tí】升【shēng】智能机器人【rén】在复杂场景【jǐng】下的智能【néng】能力。

与【yǔ】此同时，上海正在【zài】加快完善【shàn】行业治理体系，面向【xiàng】人工智【zhì】能【néng】的关键领域，加快制定技术、产品、服务、行【háng】业应用、安全伦【lún】理等标【biāo】准，在【zài】健【jiàn】全法规、标准【zhǔn】、监管体系等方面，努【nǔ】力形成上【shàng】海【hǎi】特色方案。

上【shàng】海目前已经启动高【gāo】风险人工智能产品和服【fú】务清单式管理的相关研究，并积极推【tuī】动大模型相关治【zhì】理研【yán】究；建【jiàn】立健【jiàn】全大模型评测体系，建设大模型评测中心，探索大模【mó】型【xíng】自【zì】动【dòng】化评测【cè】工具；探索适【shì】应【yīng】大模【mó】型特点的创新监管方【fāng】式。

上海将搭建【jiàn】更多研讨平台【tái】，引导产【chǎn】业人士参与科【kē】技创新实【shí】践；积极参与【yǔ】国际人工智【zhì】能治理规【guī】则【zé】的制定【dìng】和实施【shī】，推动人工智能【néng】伦理标准的互认【rèn】和协调，共同【tóng】推进人工智能【néng】造福人类。

扶持与合规并重

为打【dǎ】造【zào】大【dà】模型和生成式人工智能生【shēng】态集聚【jù】和创新应用高地，上海【hǎi】徐汇此次【cì】率先【xiān】推出了面向生成式人工智能【néng】的扶持政策，直面企业需求和【hé】产【chǎn】业关切。

15条具体【tǐ】举措，聚焦技【jì】术强【qiáng】基支撑，支持通用大模型、垂【chuí】类大模型等关键领域自主创新【xīn】，支持具身智【zhì】能、自【zì】主智能体等前沿领域布局；聚焦场景应用【yòng】示范，充分发挥徐汇【huì】特【tè】色产业基础和新赛道【dào】先【xiān】发优势，全面推动生成【chéng】式人工智【zhì】能技【jì】术在【zài】医疗、金【jīn】融【róng】、社交、智能网联汽车等领域融合【hé】赋【fù】能；聚焦【jiāo】创新【xīn】生态构建【jiàn】，针对算力、数据、算法、融资、人【rén】才【cái】、监管等关键环节，强化要素【sù】支撑。

2022年【nián】，上海徐汇【huì】人工智能【néng】产业规模已近千亿元，近五年年均增速【sù】达到30%以上；在大模型【xíng】和生【shēng】成式人【rén】工【gōng】智能细分【fèn】领域，已经汇【huì】聚相关企业近200家，其【qí】中核心【xīn】企业30余家，成为上海【hǎi】乃【nǎi】至【zhì】全国大模型的策源地之一。

在上【shàng】海，智能社会治【zhì】理获得同等的关注。此次，上海杨浦揭【jiē】牌成立了“人工【gōng】智能合【hé】规服【fú】务中心”，将发挥同济大【dà】学的智力与技术【shù】资源【yuán】优势与杨浦【pǔ】区的【de】实践优势【shì】，为企业的人工智能新技【jì】术【shù】新应用，提供合规指引、咨询和【hé】服务【wù】。