澳洲联邦政府计划加强对人工智能(AI)公司的监管,拟引入刑事处罚、强制事故报告制度,并强化政府网络安全防御。此举源于OpenAI人工智能代理入侵联邦政府Medicare统计网站的事件。
据7NEWS报导,11月10日,总理阿尔巴尼斯公布了政府对这一事件展开调查后的审查结果,并宣布设立人工智能安全监管机构。审查共提出18项建议,旨在防止类似网络安全事件再次发生。
此次事件发生于今年6月。OpenAI的一款人工智能代理在执行药品支出数据研究任务时,多次遭到Medicare统计网站的访问限制,却通过其他途径绕过了这些限制,最终进入网站非公开区域,获取了内部文件及统计数据。
阿尔巴尼斯表示,政府既希望把握人工智能带来的经济机遇,也必须建立足够的安全保障。他说:“澳洲在这一领域走在前面,我们希望充分发挥人工智能的潜力,但必须确保方向正确,社会的信任和认可至关重要。”
此次审查提出的主要建议包括:
一是对前沿人工智能开发商实行强制事故报告制度。一旦发生严重安全事件,企业必须在规定时限内向有关部门报告,不能像此次事件一样延迟数月才通知政府。
二是考虑对未能防止人工智能系统造成有害后果的企业引入新的刑事处罚。总检察长部门将研究相关法律改革,包括针对严重违规行为的处罚,以及设立一种可能被称为“未能防止”(failure to prevent)的刑事罪名。
这意味着,如果企业未能采取必要措施防止其人工智能模型造成伤害,可能需要承担更严厉的法律责任。
三是加强人工智能模型的独立评估。根据即将提交议会的国家人工智能标准,相关企业可能被要求允许独立机构对其模型进行安全评估,并公开安全与保障框架。
此外,政府还计划加强各部门之间的信息共享,与国际人工智能开发商加强合作,并全面提升政府网络安全防御能力。
审查特别指出,联邦政府部门需要减少互联网暴露面,整合数字系统,关闭不必要的对外联网基础设施,同时加强员工对人工智能风险的认识。
阿尔巴尼斯没有明确表示OpenAI此次事件是否已经构成违法行为,但强调,法律必须跟上人工智能快速发展的步伐。他还表示,人工智能将对未来工作方式产生巨大影响,如果能够妥善把握和引导,将为澳洲及世界带来一代人难得的机遇。
目前,政府已经公布审查建议,但完整报告尚未公开。