这一举措再次将欧盟推到了全球人工智能监管的前沿阵地,但科技公司对于新规的不同反应与看法,揭示了监管与创新之间难以弥合的矛盾。如何回应这一问题,成为人工智能产业化发展的关键。
新规出台的影响是全方位的,因为这可能重塑技术生态、产业格局、社会伦理和国际规则,从而渗透AI发展的全生命周期,引发多维度连锁反应。欧盟的技术与产业在人工智能的全球竞争中并不占优,为何始终执着于规则制定?
01
AI准则:保险还是枷锁?
2019年4月,欧盟委员会推出《可信赖的人工智能伦理准则》,其初稿于2018年12月发布,通过公开咨询收到500多条意见
2021年4月,欧盟委员会正式提出《人工智能法案》草案,开启了全球首部全面监管人工智能法规的立法进程。此后,欧洲议会和欧盟理事会经过了多轮讨论与修订,特别是在ChatGPT等生成式人工智能爆火后,对草案内容进行了针对性调整。
那么《行为准则》主要对通用型AI模型提出了哪些要求?
首先是要求开发者公开训练数据来源及内容生成机制,并明确禁止使用侵权数据进行模型训练,也就是公开模型的“原料”与“生产线”,使公众能了解模型知识的来源可靠性,并从源头杜绝侵权行为,保护创作者权益。
其次,要求企业建立风险监测体系,对高风险应用实施第三方评估和持续审计。哪些应用属于高风险?《人工智能法案》将AI系统划分为“不可接受风险”“高风险”“有限风险”“最小风险”四类,分别对应禁止、严格监管、透明度规制和放任的差异化措施。
社会评分系统、公共场所的远程人脸识别这类极为敏感的应用,就属于不可接受风险,需要彻底禁止。金融、医疗、教育、就业等领域的AI则均为高风险用途,需要通过合规评估、备案、监督机制等严格程序才能使用。我们日常频繁使用的聊天机器人、虚拟主播等属于有限风险,满足透明义务即可。
这种量化风险等级的方式可以促进监管资源的高效配置,也的确回应了人们对隐私问题和伦理风险的关切,但仍面临不少争议。
02
行业竞争走向深水区
就在欧盟《人工智能法案》即将正式生效前夕,Facebook母公司Meta表示拒绝签署欧盟的《行为准则》,其首席全球事务官Joel Kaplan在社交媒体上公开指责该准则为模型开发者带来诸多法律风险。
计算机与通信行业协会也提出了批评,认为该准则对厂商施加了合规负担,且部分措施已超出《人工智能法案》的目标范畴。德国两大科技企业西门子和SAP接着加入发声阵营,认为《人工智能法案》阻碍行业创新,无益于欧洲本土探索AI的商业生态,并呼吁对法案进行实质性改革。
尽管此前多家全球科技公司曾联合呼吁推迟法案的实施,且眼下还遭到头部企业的退出抵抗,欧盟仍坚持按原计划推进法案的落实。为何如此急切?
欧盟积极推进的背后,有着深层的国际竞争考量。人工智能是21世纪的决定性技术已成为普遍共识,而从技术实力看,欧盟在人工智能领域并非处于绝对领先地位,与中国、美国等在技术研发、产业生态等方面存在差距。
但欧盟将不同国家整合为单一市场的路径优势,可集中体现在法律监管层面。对于一个仍在探索中的新兴行业,谁先实现标准化管理,谁就有可能成为参考范本。当影响力扩大到一定程度,就会倒逼企业调整产品输出模式,进而实现对市场端的掌控。
通过“法案+准则”的双轨制设计,欧盟试图构建完备的监管框架,进而在国际规则制定中抢夺话语权。此前的《通用数据保护条例》(GDPR)便是成功先例,其在全球数据保护领域产生了广泛影响,被许多国家和地区借鉴。
此次欧盟在人工智能监管上的先行一步,同样希望将自身标准输出为全球规范,凭借规则主导权坐上新兴领域的牌桌,提升自身在国际人工智能竞争中的地位。这种“监管出口”策略反过来也启发我们:深耕研发的同时也要在技术标准和伦理框架上同步发力,避免陷入规则被动。
欧盟推出准则标志着全球 AI 治理从理念倡导进入制度构建阶段,人工智能的应用背书开始着眼实际。不过建立完备的弹性监管框架,并推动技术标准的全球互认是个漫长的过程,牌局未定,如何平衡创新激励与风险防控,仍在拷问每一位选手。
欢迎通过邮局渠道订阅2025年《电脑报》
邮发代号:77-19
单价:8元,年价:400元
编辑|张毅
主编|黎坤
总编辑|吴新
壹零社:用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子,商业故事。《中国知网》每周全文收录;中国科技报刊100强;2021年微博百万粉丝俱乐部成员;2022年抖音优质科技内容创作者