定义和介绍
生成式人工智能是指一类人工智能（AI）技术，可根据用户提示生成文本、图像、数据集或其他媒体等输出。这些技术通常利用机器学习（ML）或大型语言模型（LLM）来识别训练数据集中的模式，并利用这些模式生成输出。
在Carnegie Council 的 "人工智能与平等倡议"（AIEI）的一篇题为 "现在是对人工智能和技术治理进行系统性重启的时刻"的文章中，高级研究员温德尔-瓦拉赫（Wendell Wallach）和安雅-卡斯珀森（Anja Kaspersen）强调了生成式人工智能技术近年来取得的 "令人惊叹 "的进展，同时也提出了警告，即这些解决方案背后的算法 "可以找出并重新提出有洞察力的词语和概念，但并不能理解这些词语和概念所蕴含的深刻含义"。
这种技术的快速、易用和可访问性为企业、学校和大学以及个人带来了道德挑战。出于知识产权和版权方面的考虑，亚马逊警告员工不要与 ChatGPT 共享代码。对于学术机构来说，根据学生如何利用生成式人工智能，可接受的研究和家庭作业实践可能会受到影响。
有关此主题的更多信息，请参阅Carnegie Council网络创建和策划的以下文章、播客和站外资源。
人工智能国际治理框架
人工智能生成技术的快速部署凸显了建立有效治理机制进行道德和法律监督的重要性。
本概念说明建议立即建立一个全球人工智能观察站（GAIO），由合作协商机制提供支持，以确定和传播人工智能系统全面国际治理的最佳做法、标准和工具。
现在是对人工智能和技术治理进行系统重置的时刻了
瓦拉赫和卡斯珀森提出了一个重要问题：我们怎样才能确保目前正在开发的技术用于造福大众，而不是为少数人谋利？
当被问及人工智能的进步对人类状况意味着什么时，ChatGPT 是如何回答的？
订阅《卡内基伦理通讯》，了解有关伦理和新兴技术的更多分析
生成式人工智能伦理讨论问题
- 使用生成式人工智能创建内容而不披露使用了生成式人工智能，这样做合乎道德吗？
- 人工智能生成的内容（如图像、视频和其他媒体）是否应受版权法管辖？如果是，版权应该归谁？
- 是否应该对生成式人工智能进行监管，以确保其使用方式符合道德规范？这种监管可能是什么样的？
- 如何设计生成式人工智能工具以尽量减少偏见？
- 在某些情况下，如学生完成家庭作业、用户制造假新闻或宣传、娱乐公司制作深度假图像或视频等，是否应该禁止使用人工智能生成技术？
关于伦理和人工智能的更多信息
2022 年 3 月 29 日 - 播客
你能编写移情代码吗？
2021 年 11 月 3 日 - 播客
是时候与加里-马库斯就人工智能和深度学习展开诚实的科学讨论了
在本期 "人工智能与平等倡议 "播客中，高级研究员安雅-卡斯珀森（Anja Kaspersen）与加里-马库斯（Gary Marcus）讨论了对人工智能进行公开、健康的科学讨论的必要性。我们能从粒子物理学和欧洲核子研究中心学到什么？
2022 年 6 月 22 日 - 播客
安吉拉-凯恩：人工智能正在颠覆地缘政治？
在本期 "人工智能与平等倡议 "播客中，卡内基-上广协会研究员温德尔-瓦拉赫（Wendell Wallach）与联合国大学理事会主席安吉拉-凯恩（Angela Kane）共同探讨了人工智能可能如何颠覆地缘政治。
