7月18日,联合国教科文组织(UNESCO)在法国巴黎举行的“国际生物伦理委员会”(IBC)会议发表报告,警告埃隆马斯克首创的脑芯片技术可能会被滥用于“神经监控”,侵犯“精神隐私”,甚至“实施各种形式的强制再教育”,威胁到全世界的人权。
据报道,近两个月前,美国食品药品管理局(FDA)批准马斯克的大脑芯片植入公司Neuralink进行人体试验。
马斯克一直强调Neuralink在治疗多种严重疾病方面的潜力。
马斯克一直强调Neuralink在治疗瘫痪、失明、肥胖症、自闭症、抑郁症和精神分裂症等严重疾病方面的潜力,偶尔也会强调一些比较琐碎的应用,比如网页浏览或“心灵感应”。
但联合国教科文组织国际生物伦理委员会特别提请注意“双重用途”人工智能脑芯片技术带来的威胁,因为这些技术很容易被重新编程或改造,用于对人类大脑不那么有益的应用。
联合国教科文组织在巴黎举行“国际生物伦理委员会”(IBC)会议。
委员会发布的报告警告说,像Neuralink这样的神经技术如果不受监管,将导致“通过神经成像监控和操纵人类心理的新可能性”和“改变人格”的技术。
联合国教科文组织目前正在制定一个全球性的“伦理框架”,以保护人类免受这项技术可能被滥用的影响,他们担心人工智能的进步会加速这种滥用。
联合国教科文组织负责社会和人文科学的助理总干事加芙列拉拉莫斯。
联合国教科文组织负责社会和人文科学的助理总干事加芙列拉拉莫斯(Gabriela Ramos)表示,鉴于神经技术的突破可以“直接操纵”人类的“大脑机制”,“作为其意图、情感和决策的基础”,其影响“深远且可能有害”。
据悉,Neuralink 植入物这样的神经技术通过缝在大脑某些区域的线状电极将大脑与计算机连接起来。
Neuralink通过缝在大脑某些区域的线状电极将大脑与计算机连接起来。
Neuralink的电极将与芯片通信,读取大脑中被称为“神经元”的特殊细胞产生的信号。
由于神经元信号可以直接转化为运动控制,Neuralink 可以让人类用意念控制计算机或智能手机等外部技术,或者控制失去的身体功能或肌肉运动。
马斯克曾表示,这就像用智能手表取代了一块头骨。
但正如联合国教科文组织小组所警告的那样,这些通信途径是双向的。
今年5月,美国得克萨斯大学奥斯汀分校的科学家透露,他们能够训练人工智能有效地读懂人的思想,通过功能性磁共振成像(fMRI)将测试对象的大脑数据转换成书面文字。
联合国教科文组织专门研究人工智能问题的经济学家斯奎恰里尼(Mariagrazia Squicciarini)指出,机器学习算法能够从复杂数据(如fMRI脑部扫描数据)中快速提取模式,这将加速脑芯片进入人类大脑。
事实上,Neuralink 一直是美国国会审查的对象,四年来,FDA曾多次拒绝Neuralink的人体试验审批申请,最近一次是在2022年初。
国际生物伦理委员会在其长达 91 页的报告中提出了大量建议,其中包括呼吁工业界和学术界提高神经技术研究的透明度,以及起草“神经权”以纳入国际人权法。
国际生物伦理委员会的报告将新技术描述为对“人类尊严的某些基本方面,如精神生活隐私或个人能动性”的挑战。
报告认为,必须采取措施防止神经技术被用于双重用途,这样对医学有益的神经技术就不会被黑客、企业暴发户甚至政客所扭曲。
联合国教科文组织会议的大多数发言人都表示强烈支持建立一个类似于联合国教科文组织《人工智能伦理建议书》的神经技术行动框架。
文/南都记者 陈林