AI也会脑损伤?用神经科学原理,精准诊断大模型语言故障原因(图1)

大语言模型在被人为施加了类似“受伤”的操作之后, 所表现出的语言错误竟然和失语症患者所呈现的情形具有非常高的相似性。基于这样的情况, 临床神经病学领域中的那些研究方法, 就这样第一次被引入到了人工智能可解释性的研究范围之内。这一动向随即在学术界内部引发了广泛的关注与讨论。

脑损伤研究跨界AI​

在11月20日, Julius Fridriksson带领的研究团队从南卡罗来纳大学出发, 把一篇论文送到了Cell Press出版的期刊Patterns上, 这篇论文的内容是把过去150年里关于卒中后语言障碍的研究框架, 转移到了大语言模型上面去。

广州域名网

因为这支团队长久以来都把注意力集中在失语症这一块儿的研究领域当中, 所以他们一直都在使用多种多样的脑成像技术, 去分析那些患上了由于卒中引发语言障碍的病人情况。

我们搞这个研究, 动机是很简单的, 源于一个简单的观察。语言模型是在人类语料上训练的。失语症是语言功能的核心障碍。它们之间是有天然的研究接口的。

损伤实验方法揭秘​

团队建立了一种方法, 这种方法的核心在于提出一个基于损伤概念的可解释性框架。他们的做法是有意的。他们选择在大型语言模型的各个层级中引入扰动。这一操作的目的是用来模拟脑部的损伤状况。

在完成模拟之后。他们会施加与失语症患者在临床上完全一样的测试手段。通过这种方式, 他们可以观察到的具体现象是看模型的输出是否出现了类似的症状表现。

合著者Roger Newman-Lund指出, 实验室那边积累了特别多多的患者行为数据, 这个事儿呢, 它就使得那个模型上的“症状”跟真人身上的“症状”, 能够一项接一项地去进行对比, 而这一点, 正是那项研究能够真正变成现实的那个关键的基础。

因果关系的突破​

弗里德里克森强调, 先前人们在语言方面拿人类和人工智能做的那个比较呀, 差不多全都在哪儿说它们的相关性描述, 但是这次这个研究, 它通过损伤和症状相互对应这种方式, 头一回就确定了因果关系。

他同时还进行了提醒, 论文中所揭示的, 并不是脑结构与模型参数之间存在直接的结构映射关系, 而是失效模式与失效模式之间的对应关系, 这一点是完全不可以混淆的。

黑箱内部的线索​

这个损伤的办法能够准准确地把模型里面那些多余的还有不需要的计算模块给找出来, 这就为以后去弄出那种体积更小的、消耗能量也少的大的语言模型, 给了一个能够实际去做的优化的依据。

相关的实验数据以及在上面说的这个方法, 都已经放在了m.hyjdxg.com这个平台上去, 让大家可以开放共享, 这样全球的科学家就可以把它下载下来, 用来做验证的事情, 还可以进行进一步地扩展, 从而就把那些需要重复做的实验的门槛给降低了。

数字孪生助力康复​

团队接着也提出了一个想法, 这个想法就是可以利用LLM去帮失语症患者建立所谓的数字孪生模型, 然后可以在虚拟的环境底下, 去模拟那些关于临床试验的具体流程, 这样做的话, 就可以把药物以及治疗方法, 这些新东西, 从零碎的实验室阶段一直到能够进入医院给病人用的这个转化过程的时间, 大幅度地给缩短掉。

这说明存在沟通障碍的人, 他们有望会更快拿到属于自己一个人的康复方案, 而且也不用等着去经历那种很长很长时间的传统式的、由多个中心一起做的大规模试验周期。

更远的研究愿景​

Fridriksson讲过话, 他说这个框架不是光针对失语症这一个病种的, 在以后的日子里, 它还可以往其他的那些神经系统疾病的领域去延伸, 把这些病症跟人工智能系统放在一起做交叉研究, 这样一来, 就会给学术界打开一个更加宽广的研究空间。

他直言不讳地承认, 真正促成这个方法得以实施的推动力量是能够协助患者获得切实的科学成果, 因为他提到这正好是他本人最为热衷的事情。

大家觉得, 靠打伤AI来研究它的方法, 离真正帮到脑损伤患者还有多远? 欢迎在评论区聊聊你的看法, 也别忘了点赞和分享本文。