新闻报道

讲座综述 | S. Matthew Liao: 科技伦理系列讲座



2023年5月,北京大学外国哲学研究所、哲学系主办的“周五哲坛”系列讲座邀请了S. Matthew Liao教授担任主讲人,以前沿技术的伦理问题为主题,举行了两场学术讲座。

 

Lecture 1.

Erasing Memories “Eternal Sunshine” Style

2023年5月19日晚上7点,第一场讲座在人文学院2号楼115室开讲。在讲座开始前,王昱洲教授首先简要介绍了本场讲座的主题,并对参与会议的师生表达了欢迎与感谢。

在讲座的开始,Liao教授给出了一系列有关创伤性记忆及创伤后应激综合征(Post-Traumatic Stress Disorder,简称PTSD)的案例,并指出:即便随着时间的推移、相关的记忆都变得模糊,人们对于创伤性经验本身的记忆也往往会保持清晰和生动——

记忆总是与自我同一性的确证密切相关,它是一个包含着编码(encoding)、储存(storing)和调用(recalling)功能的复杂神经系统(与海马体的功能密切相关),这个系统的运转有赖于多组神经元之间的有效连接。短期记忆仅仅包含能被保留数日或数周的少量的信息,长期记忆则由更多的神经元参与构成,可以稳定持续数年,(分为declarative/non-declarative两种,前者是概念性的,后者是知觉的)。每一次回忆活动实际上都是对于记忆的重构。对于压力水平较高的经验(特别是创伤性的经验)而言,在对其进行回忆的时候,海马体可能会受到过度的刺激、以至于大脑无法较好地整合其它区域的相关信息,从而使人进入过于敏感的状态,并产生过强的情绪反应。

为了缓解这样的应激反应,一些治疗手段应运而生:通过脑手术、临床心理治疗等手段重构记忆,而这些手段的确能够在一定程度上缓解创伤后应激综合征的症状;近年来在小鼠身上的实验也表明,对特定神经元进行光照同样可以改变小鼠的记忆,使之忘掉特定的不快经历(譬如,遭遇电击的经历),甚至可能建立起某些新的正向记忆。

屏幕快照 2023-05-19 19.16.58.png

然而,这样的治疗方法是否适用于人类?这种技术在人类身上的应用会带来怎样的伦理困境?Liao教授首先给出了一些反对记忆编辑技术的常见理由:

第一,存在这样一些重要的记忆节点,它们在构建信念体系、帮助确证“自我”、形成稳定人格等方面都有着十分重要的作用,而对这些记忆的改变将有很大可能破坏患者原有的人格、破坏其自我同一性;

第二,作为道德主体,我们总要对自己的决定和行动负责,而对于记忆的改变将导致我们不再能够对自己过去的决定和行动进行反思、意识到自己应当承担责任、并作出相应的调整,这会令我们不再是一种“完全意义上的道德主体”。

屏幕快照 2023-05-19 19.28.41.png

但是,Liao教授指出,这或许并不意味着我们应该完全禁止这样的治疗技术——这是因为,并非所有记忆都有助于维持自我的同一性和人格的稳定性;恰恰相反,有一些记忆反而会对其拥有者的自我认知和人格都造成破坏性的影响(这一点在给当事人带来严重应激反应的创伤性记忆上表现得最为明显)。在这种情况下,编辑记忆恰恰有助于维护当事人的自主性,而对当事人“始终记得这件事”的要求反而是一种过度要求;甚至,在一些极端的情形下(譬如,在战争的环境中成长),改变当事人的人格也应该在道德上被允许。总而言之,我们应当对潜在的风险保持警惕,但同时我们也应当积极拥抱技术进步为我们带来的机会。

屏幕快照 2023-05-19 20.14.21.png

在提问环节中,Liao教授围绕“对PTSD患者用记忆编辑疗法是否意味着让患者丧失从记忆中学习的能力”、“临床心理学针对记忆所做的治疗和直接在神经层面改变记忆在伦理上有何区别”、“记忆是否能被全部还原到脑神经层面”等问题王昱洲教授以及线上线下的师生们展开了讨论。

提问结束后,王昱洲教授对本次系列讲座进行了简要的总结,向主讲人以及线上线下参会的师生们表达了感谢,并宣布本次讲座到此圆满结束。

 

Lecture 2.

Ethics of AI and Health Care: Towards a Substantive Human Rights Framework

2023年5月26日晚上7点,第一场讲座在人文学院2号楼115室开讲。在讲座开始前,Sebastian Sunday Grève教授首先简要介绍了本场讲座的主题,并对参与会议的师生表达了欢迎与感谢。

../Downloads/IMG_7722.JPG

在讲座的开始,Liao教授简单介绍了人工智能技术目前在医疗领域的应用(辅助诊断、给出治疗建议、预测疾病在个体或群体层面的发展趋势等),并说明了人工智能技术应用的四大原则:慈善,自主,公正,透明——人工智能技术在医疗领域的应用应当始终以最大化病人的利益为目的。

屏幕快照 2023-05-26 19.04.54.png

为了进一步说明人工智能技术应用应遵循的原则,Liao教授提出了“基础条件方案”(fundamental conditions approach):

首先,我们应该以最大化人的福祉为目标——这些福祉包括:深层次的人际交往、劳动的能力及相关的知识、积极的快乐(譬如主动的创造)、消极的快乐(譬如接受和欣赏美的事物)等。Liao教授指出,它们是使人成为人的基本条件;而在能够自主控制自己身体的情况下,人们将更有可能追求更大的福祉,因此,在医疗领域,我们应该允许算法对身体数据进行自动的或手动的收集,并允许它们给出具体的判断和建议。

屏幕快照 2023-05-26 19.28.46.png

但是,在应用这些算法时,我们也应该以对人的自主性和尊严的尊重为底线,让健康数据在“自愿”的情况下被使用、对算法给出的结论进行审慎的论证,不能让算法凌驾于人的自主性之上。这是因为,算法本身只能以一种“非人的”方式来学习数据、给出结论,而并不能按照人类的逻辑来解释为什么给出这样的结论,这种“黑箱”式的模型的可靠性本身就有赖于人的进一步论证;此外,由于数据收集的不全面性,算法给出的结论可能带来一些隐性的歧视或不公正、甚至在事实上也是错误的(譬如,在某些疾病的数据收集上,系统可能会给出“有色人种比白人更健康”的结论,但实际上这仅仅是因为白人整体上有更好的经济条件、从而能够接受更多的治疗),这也需要人类自己来作进一步的分析。总而言之,在充分控制算法应用范围、并将最终决策权留在人类手中的情况下,人工智能技术在医疗领域的应用将带给我们更好的未来。

屏幕快照 2023-05-26 20.15.31.png

在提问环节中,Liao教授围绕“基础条件方案与功利主义的计算有何区别”、“如何避免健康数据和生物信息的共享带来的道德上不好的后果”、“我们是否能够清楚地区分‘个体完全自主的决定’和‘在算法辅助下作出的决定’”等问题Grève教授以及线上线下的师生们展开了讨论。

提问结束后,Grève教授对本次系列讲座进行了简要的总结,向主讲人以及线上线下参会的师生们表达了感谢,并宣布本系列讲座到此圆满结束。

 

 

供稿 | 孙兆程

校稿 | 刘哲 王昱洲

TOP