从精神控制到汤姆少校首个规范使用神经技术的州

2021 年 10 月 29 日

科学的最后疆域之一仍然是人类的大脑--但不会太久了。科学家们已经可以利用一种叫做光遗传学的技术,通过纳米激光器的开关来操纵记忆和恐惧或愤怒等情绪。哥伦比亚大学生物学教授拉斐尔-尤斯特(Rafael Yuste)说,科学家们 "已经成功地在小鼠的大脑中植入了它们实际上并没有看到的事物的图像,从而影响了它们的行为"。再加上神经假体、神经探针、神经组织内植入物以及神经学研究的其他发展,远程控制和操纵大脑的能力已不再是科幻小说。以前,成像技术只允许科学家观察大脑内特定种类的不同活动,而现在,大脑的功能正在被绘制和改变,就像人类基因组一样,科学家也在尝试干预和操纵神经功能,以达到许多不同的目的。

上周,智利众议院在一份声明中说,智利成为第一个就可以操纵人的思想的神经技术立法的国家,重点关注个人身份、自由意志和 "精神隐私 "的权利,引起了人们的关注,"科学和技术的发展必须为人类服务,并在尊重生命和身心健全的前提下进行"。希望这是国家监管部门对保护公民隐私和人权做出的第一项回应。这项立法没有涉及的是在和平时期(即武装冲突或战争期间)之外使用这些技术的问题。

军方有能力并正在积极利用这些技术来操纵人类的行为和记忆,或诱发恐惧或愤怒,这里仅举几个例子。激光技术的最新进展越来越多地超越了 "传统 "武器的范畴,因为它们对神经系统的影响是可逆的。光遗传学提供了在特定时间影响大脑表现出特定行为的机会。人们对记忆、情感和认知如何发挥作用的进一步了解也几乎肯定会导致对这些功能的操纵。在武装冲突中,这些神经干预措施的影响有可能被其他新兴技术放大,特别是与其他新兴技术结合使用时,包括已在使用的发动机、无人机和其他自动化系统。

战争法禁止生物武器和化学武器,以及许多其他类型的武器和战争,但几十年前战争法的起草者并没有预见到对人脑的干预(特别是以可逆的方式),这是一种真实的、具有威胁性的技术应用,需要进一步考虑--并有可能更周到地应用现有法律。审查新武器或改良武器的法律要求应包括传统武器,但也应包括任何被武器化的科学用途,以保护 "个人身份权"、自由意志和 "精神隐私",不仅在和平时期如此,在战争时期更是如此。

本博客最初于 2021 年 10 月 19 日由剑桥大学出版社出版。科比-莱恩斯(Kobi Leins)的著作《新战争技术与国际法》(New War Technologies and International Law)将于 2021 年 11 月出版,请阅读该书中有关新技术对现代战争影响的更多内容。

科比-莱恩斯是墨尔本大学工程与信息技术学院数字伦理学高级研究员,也是联合国裁军研究所的非常驻研究员。

您可能还喜欢

危险大师》一书封面。CREDIT: Sentient Publications.

2024 年 4 月 18 日 - 文章

危险的主人欢迎来到新兴技术世界

在这篇为《危险的主人》一书平装本所写的序言中,温德尔-瓦拉赫讨论了人工智能和新兴技术的突破和伦理问题。

2024 年 3 月 22 日 - 播客

人工智能管理的两个核心问题,与 Elizabeth Seger 合著

在本期 "人工智能与平等 "播客中,卡内基-上广研究员温德尔-瓦拉赫(Wendell Wallach)和 Demos 的伊丽莎白-西格(Elizabeth Seger)讨论了如何让生成式人工智能变得安全和民主。

2024 年 2 月 23 日 - 文章

当我们谈论 "人工智能民主化 "时,我们指的是什么?

在多方呼吁 "人工智能民主化 "的背景下,Demos 的 CASM 数字政策研究中心主任 Elizabeth Seger 讨论了这个词的四种含义。