美国、英国等其他10多个国家宣布达成有关人工智能(AI)安全的国际协议。这是各国政府为管理人工智能发展风险而采取的一系列举措中的最新举措,同时在人工智能管理给世界提出许多难题的背景下仍确保这项先进技术的有效性和安全性。
 

面对技术的爆发式发展以及对工业乃至社会的影响力越来越大的人工智能的突破,许多国家都在迫切寻找管理和使用这项技术的方法。除了不可否认的好处之外,超级智能人工智能系统的发展也引发​​了人们的担忧,即如果人工智能不受控制或被用于不良目的,将会产生不可预测的后果。在人工智能管理方面,欧洲在相关法规方面已经领先于美国。欧洲立法者已经在起草人工智能规则。法国、德国和意大利已就如何监管人工智能达成协议。

 

美国总统乔·拜登政府也敦促立法者制定人工智能法规,但分裂的国会在这方面几乎没有取得任何进展。白宫于10月份发布了第一份关于人工智能的全面行政命令,旨在减少人工智能对消费者、劳动者和少数群体的风险,同时巩固国家安全。根据该命令,如果正在开发的人工智能计划对国家安全、当地经济构成风险,或者影响用户的健康,开发人工智能的公司必须根据《国防生产法》(DPA)通知美国政府。

 

新的国际协议是第一个详细说明如何安全使用人工智能技术的协议,敦促科技公司从设计阶段就创建安全的人工智能系统。该协议不具约束力,主要提出一般性建议,例如监控人工智能滥用、数据保护等。

 

美国网络安全和基础设施安全局局长伊斯特利女士表示,人工智能快速发展带来的潜在风险意味着防护措施需要从一开始就被整合于系统中,而不是寻找如何对其进行后处理的措施。

 

人工智能管理是一个备受关注的问题,就该问题探讨的会议连续召开,相关法规不断出台。首届人工智能安全峰会在英国举行,评估人工智能带来的风险,并讨论如何通过国际合作降低这些风险。会议发表了由27个国家代表签署的《人工智能安全宣言》,其中有5个包容性目标,旨发挥人工智能使用和研究安全国际合作的共识和共同责任精神,特别是通过加强科学合作。

 

在西班牙举行的欧洲人工智能联盟会议讨论了“在全球范围内发展可信赖的人工智能”的主题,旨在就联盟欧洲人工智能战略建立策划者之间的公开对话,充分利用人工智能带来的机遇,解决相关的挑战。

 

全球领先的工业国家(七国集团)还就开发人工智能公司的11点行为准则达成一致,指导最先进人工智能系统和生成式人工智能系统的管理。联合国秘书长安东尼奥·古特雷斯宣布成立由39名公司经理、政府官员和学者组成的人工智能咨询委员会,其任务是为国际层面的人工智能管理提供指导方向。

 

除了各国的努力外,还需要更广泛的国际管理合作,以确保人工智能的优越性,并防范这项超级技术在多个领域应用时可能出现的风险。(完)