技术-军事-工业-学术复合体

2022 年 2 月 18 日

本文原载于 Fortune.com

1969 年春的哈佛大学罢课事件源于我们学生认为大学在越南战争中的同谋行为。在哈佛大学校长内森-普西(Nathan Pusey)出动警察强行驱赶占领中央行政大楼的学生后,随后的罢工得到了学生和教职员工的广泛支持。

1961年,德怀特-艾森豪威尔总统在告别演说中警告说,军工企业的势力越来越大,危害越来越大。在哈佛大罢工时,军工联合体已经给我们留下了一场人为制造的越南战争,为了这场战争,年轻人被要求以 "我们的国家,无论对错 "的名义在战场上献出生命。

作为一名研究生,我在哈佛大学的罢课以及第二年春天越战扩大到柬埔寨时的全国罢课中发挥了微不足道的作用。大学在越战中的同谋行为成为近九百所校园举行罢课和抗议活动的模板。在肯特州立大学校园内的一次抗议活动中,四名年轻人被俄亥俄州国民警卫队杀害,此后这些罢工活动愈演愈烈。

大学被认为是通过奖励制度输送人才的渠道,这种制度有助于识别哪些人具有正确的价值观和目标,因而值得晋升到政府和工业部门的领导岗位。对我们来说,毫无疑问,军工复合体已经演变成了军工-学术复合体。

去年 12 月,当我读到耶鲁大学接受 谷歌前董事长埃里克-施密特(Eric Schmidt)1530 万美元捐赠的消息时,我的心灵受到了极大的震撼。捐赠给耶鲁大学杰克逊全球事务研究所的资金将用于建立施密特人工智能、新兴技术和国家权力项目。

如今,科技产业和科技资金已经在制定当代大学的议程方面发挥了过大的作用。这份礼物似乎是建立技术-军事-工业-学术综合体的重要一步。

在我读到这份礼物的时候,我已经在酝酿对亨利-基辛格、埃里克-施密特和丹尼尔-胡滕罗彻所著的《人工智能时代:和我们人类的未来》一书的评论。 人工智能时代:和我们人类的未来》一书。.在我看来,这本书以及由施密特担任主席的国家人工智能安全委员会的报告,正在煽动人工智能武器化,并加剧中美之间的新冷战。与此同时,施密特正忙于为他拥有既得利益的硅谷公司争取国防合同。尽管对中国的批评是合理的,但我一点也不清楚中国人是否想要一场冷战。他们宁愿主宰世界经济。

此外,"人工智能时代"还鼓吹人工智能系统将不可避免地比人类聪明得多,而我们将无法理解它们是如何做出决定的,因此我们应该准备屈服于人工智能做出的判断。作为一名人工智能伦理学家,我认为这种将责任推卸给机器的做法是人类不道德的最高表现。

比人类更聪明的人工智能和人工智能军事化的必要性被认为是不可避免的。但我们必须记住除了人类的意愿和意图使不可避免之外,任何技术都不是不可避免的。

当我与耶鲁大学国际安全研究执行主任泰德-威滕斯坦(Ted Wittenstein)交谈时,他理所当然地为埃里克-施密特(Eric Schmidt)和温迪-施密特(Wendy Schmidt)的资助感到自豪,因为这笔资助提升了杰克逊研究所的地位。在一次联机通话中,他向我保证,在实现资助目标的过程中需要有批判性的视角。这将确保最起码的学术诚信。我们拭目以待。批判性的声音通常会被收编和边缘化。而将该项目命名为 "人工智能、新兴技术与国家权力"--而不是 "国际合作 "或 "国际安全",甚至不是 "国家安全"--其意识形态取向已经非常明确。

更重要的是,在大学和学者难以获得人文学科项目资助的时候,领先的科技公司和科技富豪却可以随时资助符合他们利益的研究。麻省理工学院(MIT)等大学获得了数百万美元的资金,用于资助那些最有可能为新兴科技经济做出贡献的学生的项目。随着科技与国防机构之间新出现的联盟,科技行业对大学的俘获已接近尾声。


温德尔-瓦拉赫是耶鲁大学跨学科生物伦理学中心的顾问、伦理学家和学者。他还是林肯应用伦理学中心(Lincoln Center for Applied Ethics)的学者、伦理学与新兴技术研究所(Institute for Ethics & Emerging Technology)的研究员以及黑斯廷斯中心(The Hastings Center)的高级顾问。

您可能还喜欢

2024 年 4 月 30 日 - 播客

乔安娜-布赖森:人工智能只是一种人工制品吗?

在本期节目中,主持人安雅-卡斯珀森(Anja Kaspersen)将与赫蒂学院的乔安娜-布赖森(Joanna Bryson)一起讨论计算科学、认知科学、行为科学和人工智能的交叉学科。

危险大师》一书封面。CREDIT: Sentient Publications.

2024 年 4 月 18 日 - 文章

危险的主人欢迎来到新兴技术世界

In this preface to the paperback edition of his book "A Dangerous Master," Wendell Wallach discusses breakthroughs and ethical issues in AI and emerging technologies.

2024 年 3 月 22 日 - 播客

人工智能管理的两个核心问题,与 Elizabeth Seger 合著

在本期 "人工智能与平等 "播客中,卡内基-上广研究员温德尔-瓦拉赫(Wendell Wallach)和 Demos 的伊丽莎白-西格(Elizabeth Seger)讨论了如何让生成式人工智能变得安全和民主。