映射人工智能与平等,第 5 部分:人工智能(去)合法性与分配危机

2022 年 2 月 17 日

在绘制人工智能与平等的图谱时,我们可以对人工智能进行大致的分类,这些分类可以突出显示人工智能如何影响人与人之间的关系,以及人与我们共同的环境之间的关系。本系列博文旨在为进一步思考和反思提供素材。

人类已经进入了人类历史的拐点。气候变化、大流行病、结构性不平等和破坏稳定的技术所引发的各种危机交织在一起,导致了哲学家尤尔根-哈贝马斯(Jurgen Habermas)所说的 "合法性危机",在这场危机中,公民正在失去对政府解决其问题的信心(Habermas, Jürgen, 1975. Legitimation Crisis. 波士顿:灯塔出版社)。国际秩序的不稳定性是显而易见的,玩世不恭或有抱负的独裁领导人正在利用这种不稳定性。   

1930 年,英国经济学家约翰-梅纳德-凯斯(John Maynard Keyes)创造了 "技术性失业"(technological unemployment)一词,以概括长期以来 "卢德主义者"(Luddite)的担忧,即每项新技术都会抢走比它所创造的更多的就业机会。在过去的 200 年里,从工业革命到农业、制造业、化学和医疗保健领域的突破,几乎所有的技术进步所创造的就业机会都多于它们所破坏的就业机会。然而,这些工作岗位的分配方式很少能让那些最有可能被淘汰的职业直接受益。数字经济创造了许多需要高级技能的新的高端工作,但在公民教育方面的投资尚未与之相匹配,以充分建立和扩大必要的人才库。因此,世界上最贫困的地区实际上并没有看到显著的改善。 

随之而来的是一场分配危机,生产力收益越来越多地流向资本所有者,也就是我们这些有能力投资金融工具的人。例如,在大流行病期间投资科技行业的人,他们的投资组合价值大幅增长,而数亿人却失去了工作。提供数字服务的领先企业迅速扩张,为虚拟工作的新方式提供了便利。据微软公司首席执行官萨蒂亚-纳德拉(Satya Nadella)称,他的公司预测将两年内实现 目标在 2020 年春季的两个月内就实现了

各国政府日益陷入对创新的崇拜 ,认为创新本身是好事,不应通过监管限制来破坏。例如,每当立法者或政府机构研究如何约束科技公司或社交媒体平台时,他们往往会被告知,他们不了解技术,如果他们设置限制,就会破坏创新和基本的生产力提高。在某些情况下,政府还担心法规会阻碍基于国家安全考虑的战略目标。如果颠覆性技术的传播者只收获回报而不承担社会成本,结构性不平等就会加剧。这种情况并不健康。 

新技术的实施与伦理/法律监督到位的速度之间总是存在一个节奏问题。正如戴维-科林里奇David Collingridge)在 1980 年所指出的(《技术的社会控制》,纽约:圣马丁出版社;伦敦:伦敦大学出版社):St:Pinter),一项技术的发展最容易在早期形成。不幸的是,在技术发展的早期,我们很少能完全预料到它对社会的影响。当我们意识到采用某项技术所带来的不良社会后果时,它很可能已经在政治/经济环境中根深蒂固,难以改变。"当变革很容易发生时,变革的必要性就无法预见;当变革的必要性显而易见时,变革就变得昂贵、困难和耗时"。(同上)技术应用的速度很快,而我们驯服技术的能力却很差。 

换句话说,数字经济正在加剧不平等,而政府却未能抑制其过度发展,也未能有效解决对那些失去工作、需要培训或受到算法偏见影响的人造成的伤害。正如克里斯蒂娜-科尔克拉夫所说:"我们可以要求企业在投资颠覆性技术时,也有义务投资于员工,投资于他们的再技能培训和技能提升,投资于他们的职业发展道路。"对于那些尚未有意义地(或安全地)融入数字经济的人来说,这不仅增加了他们的机会,而且很可能会继续带来挑战。


Anja Kaspersen 是Carnegie Council of Ethics in International Affairs 的高级研究员。她曾任日内瓦联合国裁军事务厅主任和裁军谈判会议副秘书长。此前,她曾担任红十字国际委员会(ICRC)战略参与和新技术负责人。

温德尔-瓦拉赫是耶鲁大学跨学科生物伦理学中心的顾问、伦理学家和学者。他还是林肯应用伦理学中心(Lincoln Center for Applied Ethics)的学者、伦理学与新兴技术研究所(Institute for Ethics & Emerging Technology)的研究员以及黑斯廷斯中心(The Hastings Center)的高级顾问。

您可能还喜欢

2024 年 7 月 31 日 - 播客

负责任的人工智能与大型模型的伦理权衡,与 Sara Hooker 合著

在本期节目中,高级研究员安雅-卡斯珀森(Anja Kaspersen)与 Cohere for AI 的萨拉-胡克(Sara Hooker)讨论了模型设计、模型偏差和数据表示等问题。

2024 年 7 月 24 日 - 播客

人工智能与战争:军备控制与威慑的新时代》,与保罗-沙尔合著

高级研究员安雅-卡斯珀森(Anja Kaspersen)与新美国安全中心(Center for a New American Security)的保罗-沙雷(Paul Scharre)就技术与战争交叉领域的新问题进行了对话。

2024年7月2 日• 播客

控制论、数字监控和工会在技术治理中的作用,与Elisabet Haugsbø合著

Senior Fellow Anja Kaspersen speaks with Elisabet Haugsbø, president of tech union Tekna, about her engineering journey, resiliency in the AI era, and much more.