不久前,特斯拉首席执行官埃隆·马斯克等千名业界和学界人士联署公开信,呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统,暂停至少6个月,以便制定和实施安全协议。

而OpenAI此前也在文档中写道:“GPT-4表现出一些特别令人担忧的能力,例如制定和实施长期计划的能力,积累权力和资源(寻求权力),以及表现出越来越‘代理’的行为。”因此有安全专家建议将 GPT-4 的部署时间推迟 6 个月,到今年秋季再发布,但OpenAI并没有采纳这份建议。

据了解,三星电子引入聊天机器人ChatGPT不到20天,便曝出机密资料外泄。三起机密资料外泄案件中,其中两起与半导体设备有关,另一起于内部会议有关。由此,生成式人工智能技术可能带来的法律和伦理隐患愈发牵动人心。尤其在知识产权侵权、生成和传播虚假信息、数据隐私和商业秘密泄露等方面引发多国担忧。

中美监管

对于ChatGPT等AIGC技术带来的潜在风险,中美两国不约而同地开启了自上而下的监管或者问责举措。

在中国,国家互联网信息办公室4月11日宣布,为促进生成式人工智能技术健康发展和规范应用,国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规起草了《生成式人工智能服务管理办法(征求意见稿)》,向社会公开征求意见。这份文件要求,利用生成式人工智能生成的内容应当体现社会主义核心价值观,防止出现种族、民族等歧视,防止生成虚假信息,防止侵犯知识产权等。

文件要求,利用生成式人工智能产品向公众提供服务前,应当按照相关规定向国家网信部门申报安全评估。文件还提到,产品提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

当地时间4月11日,美国商务部就ChatGPT等人工智能技术相关的问责措施正式公开征求意见,包括具有潜在风险的新型人工智能模型在发布前是否应进行核准认证程序。同日,美国联邦贸易委员会也对监管人工智能表态。美国国家标准与技术研究院则已制定负责任地使用人工智能的方法框架,并试图在政府的AI监管工作方面扮演突出角色。

美国商务部提出,可能采用审计系统,评估人工智能系统是否包含有害偏见或误解,从而传播错误信息或虚假信息。美国商务部下属国家电信和信息管理局局长艾伦·戴维森表示,可能需要新的评估和协议来确保人工智能系统在没有负面影响的情况下运行,就像财务审计确认业务报表的准确性一样。

联邦贸易委员会主席利纳·汗(Lina Khan)的两位前顾问安巴·卡坎德(Amba Kakand)和萨拉·迈尔斯·韦斯特(Sarah Myers West)也在近日呼吁监管机构加强反攻,并在一份新报告中指出,科技行业的资源集中可能会加剧人工智能的危害。报告敦促联邦官员“迅速”使用已经掌握的工具,包括反垄断权力,并制定如何抵制硅谷“人工智能炒作”的路线图。“少数私人行为者在开发和传播人工智能作为关键的社会基础设施的同时,积累了与民族国家相抗衡的权力和资源。”

美国网络司令部司令保罗·中曾根(Paul Nakasone)则告诉议员:“人工智能机器学习是今天引起共鸣的东西,也是我们的对手将继续寻求利用的东西。”一些技术专家警告称,合规负担可能会削弱美国公司的竞争能力。

欧洲分歧

在欧洲,由于民族国家众多,语言文化复杂多样,对AI的监管问题产生了更多不一样的声音。

欧盟在2021年即公布了《人工智能法案(草案)》(Artificial Intelligence Act),在世界范围内率先推进关于规范AI的统一立法,展现出欧盟为人工智能设定全球标准的意图。其中,对于被归类为“不可接受的风险”水平的AI系统,将完全禁止其AI技术的应用。

不久前,欧洲刑警组织(Europol)警告称,智能聊天工具ChatGPT可能被用于网络诈骗、传播虚假信息和网络犯罪。报道称,这增加了对其在法律和伦理领域带来一系列问题的担忧。

而针对AI生成图片引发的混乱,4月3日,欧盟内部市场专员、工业和信息化产业负责人蒂埃里·布雷顿(ThierryBreton)公开表示,欧盟希望对AI生成的内容进行强制性的规定。

布雷顿表示:“欧盟将是首个做出明确规定的政府,人工智能生成的一切,无论是文本还是图像,都有义务告知它们是由人工智能完成的。”

欧盟人工智能法案将于本月起正式进行投票,生成式AI也将作为被监管的重点对象被纳入其中。“如果有人在社交网络上发布由AI生成的图像却不表明是由AI生成的,他们将面临法律诉讼。”布雷顿表示。

国家方面而言,3月31日,意大利打响了禁用(目前只是暂时)ChatGPT第一枪。意大利个人数据保护局宣布从即日起禁止使用ChatGPT,限制OpenAI处理意大利用户信息,并开始立案调查。

意大利个人数据保护局认为,3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。而该平台没有就收集处理用户信息进行告知,且缺乏大量收集和存储个人信息的法律依据。同时,该机构还指责,尽管根据OpenAI的条款声称该服务面对13岁以上的用户,但并没有使用任何过滤机制来验证用户的年龄。

意大利兼基础设施与可持续交通部长马泰奥·萨尔维尼批评了本国监管机构的决定,称其反应过度。

法国财长布鲁诺·勒梅尔(BrunoLeMaire)回应了关于意大利禁止ChatGPT的使用,他表示,人工智能新技术需要监管,因为会面临很多伦理方面的挑战,但法国不希望像意大利那样阻止对ChatGPT的访问。

“我认为我们必须迅速开始反思ChatGPT的最佳监管方式,这必须在国家和欧盟层面进行。”勒梅尔说道。他具体谈到了关于数据的来源,以及使用AI撰写新闻或研究人员的报酬等问题。

当地时间4月3日,据德国《商报》报道,德国数据专员乌尔里希·凯尔伯(Ulrich Kelber)表示,德国可能会效仿意大利,以数据安全方面的担忧为由,屏蔽OpenAI的聊天机器人ChatGPT。凯尔伯透露,德国已请求意大利就其临时禁令提供更多信息。

瑞典的隐私监管机构则表示没有计划禁止ChatGPT,也没有与意大利的监管机构进行接触。西班牙的监管机构表示,它没有收到任何关于ChatGPT的投诉,但不排除未来会进行调查。

其他地区

当地时间4月4日,加拿大隐私专员办公室(OPC)宣布对ChatGPT的开发机构OpenAI展开调查,涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。该机构的一位隐私专员表示,人工智能技术及其对隐私的影响是OPC的优先事项,“我们需要跟上快速发展的技术并保持领先,这是我作为隐私专员重点关注的领域之一。”

而作为区域大国的印度则对AI的监管不太在意。印度电子和信息技术部在一份书面答复中称,该部门已经评估了与人工智能相关的道德问题和偏见与歧视风险,正在实施必要政策和基础设施措施,以在该国培育一个强大的人工智能部门,政府没有考虑制定法律或监管人工智能的发展。

印度电子和信息技术部认为,人工智能的扩展将对印度的创业和商业发展产生“动力效应”。“人工智能是数字经济和创新生态系统的动力提供者。政府正在利用人工智能的潜力,通过数字公共平台提供以公民为中心的个性化和互动服务。”

总结

ChatGPT的问世使得“AI的iPhone时刻”到来。为了抢夺未来技术的主导权,人工智能竞赛已经开场,无论是硅谷还是国内,都有大批企业投入其中,尤其是大模型。然而到最后,依旧是芯片、云计算、高质量数据、模型构架和算法经验的比拼。这其中,适度的监管并非“涸泽而渔”,而将趋利避害,更好地促进科技向善,提升所在国家AIGC技术的人文底色。