定义和介绍
预测性人工智能是指利用统计分析和机器学习算法对未来潜在结果、因果关系、风险暴露等进行预测的人工智能系统。
这类系统已在许多行业得到应用。例如
- 医疗保健：利用患者数据诊断疾病并建立疾病进展模型
- 金融：预测市场走势，分析交易数据以发现欺诈行为
- 执法：在数据融合系统中应用预测性人工智能来调查犯罪并预测谁可能对此负责
- 零售和电子商务：研究销售数据、季节性和非财务因素，以优化定价策略或预测消费者需求
- 保险：简化索赔管理或预测潜在损失，确保维持充足的储备金
虽然人工智能的用途数不胜数，但使用这些功能强大的系统在准确性、透明度和问责制方面也存在问题。欲了解更多有关这一主题以及预测性人工智能所涉及的伦理问题，请浏览以下资源。
数据融合与监控
对自由、安全和人权的影响
数据融合系统通过整理和分析生物识别、闭路电视摄像机画面、车牌读取器输出、社交媒体活动等信息，对我们的身份和行为做出假设。这些假设可能会导致警方错误地推断一个人犯了他们没有犯过的罪。
了解人工智能在外交中的应用
许多人认为，大型语言模型（LLM）可以支持外交领域所需的大量信息处理、媒体制作和文本翻译任务。但是，人工智能在这方面的应用不仅仅局限于生成应用，预测性人工智能也可用于许多外交目的。
这种做法会带来哪些道德上的权衡？
人工智能伦理与管理
2023 年 7 月 5 日 - 文章
人工智能国际治理框架
2023 年 2 月 7 日 - 播客
技术治理与多边主义的作用》，与阿曼迪普-辛格-吉尔合著
在本期 "AIEI "播客中，联合国秘书长古特雷斯的技术特使阿曼迪普-辛格-吉尔（Amandeep Singh Gill）大使与温德尔-瓦拉赫（Wendell Wallach）和安雅-卡斯珀森（Anja Kaspersen）进行了讨论。他们讨论了全球技术治理讨论中一些最关键的政治、技术和伦理问题。
2023 年 2 月 21 日 - 文章
人权应成为人工智能和技术治理的核心
在安雅-卡斯珀森（Anja Kaspersen）和温德尔-沃拉赫（Wendell Wallach）最近发表的一篇文章的基础上，查塔姆研究所的凯特-琼斯（Kate Jones）写道，人权需要成为技术和人工智能治理重启的核心。
有关预测性人工智能伦理的更多信息，请订阅《卡内基伦理通讯
图片来源：Pixabay。
新型人工智能的影响
高级研究员阿瑟-霍兰-米歇尔（Arthur Holland Michel）和克里斯-吉利尔德（Chris Gilliard）讨论了为什么新型人工智能（如预测性人工智能）的弧线会弯曲，导致对社会最弱势群体造成不成比例的伤害。
讨论问题
- 谁应对预测性人工智能系统造成的有害结果负责？
- 是否应该要求预测性人工智能应用提供有关如何做出特定预测的见解？
- 组织如何才能限制偏见和所部署的预测性人工智能的歧视潜力？
- 预测性人工智能会对失业率、机会不平等和社会流动性等经济因素产生什么影响？
- 是否需要一个治理预测性人工智能的国际框架，如果需要，如何才能有效保护全球公民的公民自由？