人工智能代理在全球治理中的伦理问题

人工智能代理的采用正迅速扩展，尤其在多边和外交领域。这种融合为当今从业者及新一代领导者带来了诸多新的伦理问题与挑战。

在本 “以伦理赋能：领导力实践” 活动中，纽约州首席人工智能官埃莱奥诺尔·富尼耶-汤姆斯将就这一紧迫议题主持讨论。

资源

《道德灰色地带：政治商议中的AI代理》，埃莱奥诺尔·富尼耶Carnegie Council，2024年11月13日

《人工智能在外交中的应用：情景预测》，卡内基伦理加速器Carnegie Council，2024年5月15日

《AGI时代的地缘政治》，《价值观与利益》，Carnegie Council，2025年11月25日

《外交中人工智能的利弊权衡》，Carnegie Council，2024年2月12日

讨论问题

1. 为了建立一个涵盖政府、民间社会和私营部门、既可信又具包容性的AI合作框架，应采取哪些初步措施？
2. 新一代领导者应如何在道德层面妥善运用能够提升透明度的AI工具？
3. 在审议过程中，究竟应该由谁来决定规范人工智能的伦理原则——是部署人工智能的机构、参与其中的社区，还是完全不同的其他主体？
4. 正如与会专家所指出的，人工智能治理必须以人的能动性为核心。在军控、互联网治理或气候外交领域，我们能借鉴哪些案例来确保这一原则始终是首要任务？
5. 有哪些方法可以确保在全球性商讨中使用人工智能代理的个人具备足够的数字素养，从而理解使用这些技术的益处与权衡？
6. 机构在决定是否使用人工智能工具时，应如何平衡隐私与安全原则，并优先保障个人权利？

Carnegie Council 国际事务伦理委员会是一个独立的、无党派的非营利组织。本小组所表达的观点仅代表发言者本人，并不一定反映Carnegie Council 的立场。

由 four_track 提供的图库素材。