概述
要促进创新技术的惠益，就必须解决潜在的社会干扰问题，并确保公共安全和安保。生成式人工智能（AI）应用的快速部署突出表明，迫切需要建立强有力的治理机制，以进行有效的道德和法律监督。本概念说明建议立即建立一个由合作协商机制支持的全球人工智能观察站，以确定和传播人工智能系统全面国际治理的最佳做法、标准和工具。
目的
这一倡议引导人们关注如何在现有资源的基础上建立一个治理框架，并能产生立竿见影的效果。这样一个框架将使人工智能及相关技术的使用具有建设性，同时有助于防止不成熟的使用或滥用，以免造成社会混乱或对公共安全和国际稳定构成威胁。
从原则到实践
目前已有许多关于负责任地使用人工智能的行为守则或原则清单。联合国教科文组织和经济合作与发展组织/20 国集团发布的守则或原则清单是得到最广泛认可的两份。近年来，各种机构一直在努力通过具体领域的标准将这些原则付诸实践。一些国家和地区提出了建议，甚至颁布了对人工智能特定用途的限制。例如，欧盟委员会发布了一项全面的法律框架（《欧盟人工智能法》），旨在确保人工智能系统安全、透明、可追溯、非歧视和无害环境，并由人类进行监督。中国网络空间管理局遵循《北京人工智能原则》，对企业和应用程序做出了新的规定。美国联邦和州一级的各种举措进一步强调了立法框架的必要性。联合国秘书长最近还提议成立一个高级别小组，考虑对人工智能进行类似原子能机构的监督。
拟议框架
人工智能的治理十分困难，因为它几乎影响到现代生活的方方面面。从互操作性到确保应用有助于实现可持续发展目标（SDGs）--而不是削弱可持续发展目标的实现--都存在挑战。
全球治理框架必须建立在现有机构和新倡议的工作基础上，这些机构和倡议应履行关键任务，如监测、验证和强制执行合规性。只有采用真正灵活敏捷的治理方法，才能对不断发展的技术进行持续监督，因为这些技术应用广泛，实现和部署的时间表各不相同，而且有大量不同目的的标准和实践。
考虑到围绕技术政策和管理问题的政治分歧，建立一个新的全球机构需要时间。不过，具体的职能可以而且应该立即得到关注。例如，全球人工智能观察站可以在一个现有的中立中介机构内进行管理，该中介机构能够以分布式方式与其他在人工智能研究及其对社会的影响方面具有资质的非营利性技术组织和机构合作。
要建立有效的国际人工智能治理结构，必须具备五个共生要素：
1.一个中立的技术组织，对哪些法律框架、最佳实践和标准在全球的接受程度最高进行分类。随着技术和监管模式的发展，有必要不断进行重新评估。
2. 全球人工智能观察站 (GAIO)，其任务是在一般和特定领域层面，对已发布和部署的人工智能及相关系统的特征、功能和特点进行标准化报告。这些工作将有助于评估人工智能系统是否符合已商定的现有标准。报告应尽可能接近实时更新，以便在造成重大损害之前协调早期应对措施。已经存在的观察站，如经合组织的观察站，并不代表所有国家和利益相关者，也不提供监督，无法进行足够深入的分析，或完成下文提出的所有任务。
- GAIO 将根据需要召集专家和其他相关的、具有包容性的利益攸关方，协调全球辩论与合作。
- GAIO 将发布一份关于人工智能现状的年度报告，分析上一年出现的关键问题、模式、标准化工作和投资，以及政府、民选领导人和国际组织需要考虑的选择。这将涉及战略前瞻和设想，主要侧重于未来两三年内可能投入使用的技术。这些报告将鼓励就人工智能平台和具体系统的目的和适用规范达成尽可能广泛的一致。
- GAIO 将开发并不断更新四个登记册。不良事件登记册和新的、正在出现的以及（在可能的情况下）预期应用登记册将共同帮助政府和国际监管机构在部署新系统之前关注潜在的危害。
- 第三个登记册将跟踪人工智能系统的历史，包括有关测试、核查、更新的信息，以及已部署这些系统的国家的经验。这将有助于许多缺乏资源来评估此类系统的国家。第四个登记处将维护一个数据、代码和模型出处的全球存储库。
3.具有有限执法权的规范治理能力，以促进遵守以道德和负责任的方式使用人工智能及相关技术的全球标准。这可能涉及建立一个 "技术护照 "系统，以简化跨管辖区和监管环境的评估。联合国等现有国际行为体的支持将为这一能力提供合法性和授权。可通过国际电信联盟、教科文组织和人权高专办之间的合作，并在电气和电子工程师学会等全球技术组织的支持下，在联合国生态系统内开发这一系统。
4. 合规性评估和流程认证工具箱，以促进负责任的行为，协助建立信任措施和透明度工作。此类评估不应由开发人工智能系统的公司或用于评估这些系统的工具来进行。
5.不断开发技术工具（"盒式监管"），无论是嵌入软件或硬件或两者，对于透明度、问 责、验证和审计安全协议都是必要的，并解决与维护所有数字产品中的人权、社会权利和政 治权利有关的问题--其中每一项都是建立信任措施的关键要素。这些工具是与数字空间的其他参与者共同开发的，应不断对其错误活动进行审计，并由科技界进行调整。所有各方都必须能够免费使用这些工具。企业界在提供和开发工具以及技术可行性情报方面的协助至关重要，他们对规范的建议也同样重要。然而，那些在经济上获益最大的企业对监管的攫取是不可接受的。在制定规范、执行规范或向谁提供工具方面，企业不应发挥最终作用。
我们充分认识到，这一骨架框架提出了无数问题，如如何实施和管理此类治理机制，如何建立和保持其中立性和可信性，或如何解决政治和技术分歧，以及如何补救潜在的有害后果。不过，我们提出这个框架是为了激发人们更深入地思考，我们从推广和管理现有技术中学到了什么，还需要什么，以及下一步该怎么走。
新兴技术和融合技术
这一框架在人工智能领域之外也有很大的潜在应用空间。如果行之有效，所提出的许多内容都可以作为尚未预见的科学发现和技术创新领域的治理模式。虽然人工智能的产生使得建立国际治理成为当务之急，但许多其他现有的、新兴的和预期的科学发现和技术创新领域也需要监督。这些领域正在以难以预测的方式相互扩大发展和融合。
本提案由Carnegie Council 国际事务伦理委员会 (CCEIA) 与国际电气和电子工程师学会 (IEEE) 合作制定，借鉴了 2023 年 6 月由Carnegie Council人工智能与平等倡议和国际电气和电子工程师学会 (IEEE SA) 组织、巴黎联合国教科文组织 (UNESCO) 和日内瓦国际电信联盟 (ITU) 主办的两次多学科专家研讨会上讨论的观点和概念。不过，参加这些研讨会并不意味着认可本框架或框架内的任何具体想法。
研讨会与会者（按字母顺序排列）：
Doaa Abu Elyounes, Phillippa Biggs, Karine Caunes, Raja Chatila, Sean Cleary, Nicolas Davis, Cristian de Francia, Meeri Haataja, Peggy Hicks, Konstantinos Karachalios, Anja Kaspersen, Gary Marcus、多琳-博格丹-马丁、普雷塔姆-马鲁尔、迈克尔-默勒、科琳娜-莫马尔-瓦尼安、杰夫-马尔甘、加芙列拉-拉莫斯、南吉拉-桑布利、莱因哈特-烁尔、克莱尔-斯塔克、索菲亚-瓦莱科萨、温德尔-瓦拉赫、弗雷德里克-维尔纳。
Carnegie Council 国际事务伦理委员会是一个独立的、无党派的非营利组织。本文所表达的观点仅代表作者本人，并不一定反映Carnegie Council 的立场。
