生成式人工智能(AI)的快速部署为负责任地使用技术创造了一个拐点,也为社会提出了一个关键问题:我们如何才能在促进创新技术带来益处的同时,应对潜在的干扰并确保公共安全?我们认为,这一平衡是可以实现的,但如果没有一个强有力的人工智能国际治理框架,则无法实现。国际社会现在就必须采取行动,建立强有力的治理机制,对人工智能进行有效的道德和法律监督。
根据 2023 年 6 月由Carnegie Council"人工智能与平等倡议"(AIEI)和电气和电子工程师学会(IEEE SA)组织、教科文组织巴黎办事处和国际电信联盟日内瓦办事处主办的两次多学科专家研讨会上讨论的观点和概念,制定了一个正式的人工智能国际治理框架。该框架提出了五项共生内容,我们在此提及其中三项。首先,需要立即建立一个全球人工智能观察站(GAIO),以促进进入人工智能治理领域的众多倡议之间的交流、合作和一定程度的协调。全球人工智能观察站应执行一系列任务,从编制年度报告到维护关键登记册。其次,发展一种规范性的治理能力,并赋予其有限的执行权力,使对人工智能的全球监督合法化--要知道,这可能需要更多的时间来发展。最后,还需要开发各种工具 (有些是技术工具),以确保人工智能应用的安全性和透明度,并促进各国和利益相关者对其进行管理的能力。
我们的目标是使这些建议产生立竿见影的效果。因此,我们特意将注意力集中在实施治理框架的实际方法上,该框架以现有资源为基础,旨在促进理解、合作和实施。这样一个框架将有助于人工智能和相关技术的建设性使用,同时有助于防止不成熟的使用或滥用,以免造成社会混乱或威胁公共安全和国际稳定。
![](https://cdn.carnegiecouncil.org/media/cceia/_1200x700_fit_center-center_none_ns/GAIO_Social_Preview.jpg?v=1721261826)
人工智能国际治理框架
阅读框架展望未来
我们充分认识到,这一骨架框架提出了无数问题,如如何实施和管理此类治理机制,如何建立和保持其中立性和可信性,或如何解决政治和技术分歧,以及如何补救潜在的有害后果。不过,我们提出这个框架是为了激发人们更深入地思考,我们从推广和管理现有技术中学到了什么,还需要什么,以及下一步该怎么走。
我们还认为,这一框架在人工智能领域之外也有很大的潜在应用空间。如果行之有效,所提出的许多内容都可以作为尚未预见的科学发现和技术创新领域的治理模式。虽然人工智能的产生使得建立国际治理成为当务之急,但许多其他现有的、新兴的和预期的科学发现和技术创新领域也需要监督。这些领域正在以难以预测的方式相互扩大发展和融合。
Carnegie Council 国际事务伦理委员会是一个独立的、无党派的非营利组织。本文所表达的观点仅代表作者本人,并不一定反映Carnegie Council 的立场。