脑海⾥总有弹幕飘过?没错,你就是那个天选之⼈

作者: 不周

来源: 环球科学

发布日期: 2023-03-10 06:00:35

本文探讨了字幕联觉(TTS)的现象,即某些人在听到语音时,会在脑海中看到相应的字幕。文章详细介绍了TTS的触发机制、对日常生活的影响以及相关的神经科学研究。此外,还讨论了TTS在语言学习和阅读机制中的作用,以及它如何为理解大脑处理书面语言的神经机制提供了一个特殊的视角。

在⼀阵惊险⽽刺激的狂奔后,他终于和这位试图抓住他的诡异⽆脸⼈发⽣了对话,⽆脸⼈⼀边说着,画⾯下⽅⼀边滑过了同步的字幕。这本该是出现在恐怖电影中的场景,但其实是他的梦境。没错,他为⾃⼰的梦配上了清晰可⻅的字幕。

想象⼀⾏字“我是神奇的脑内弹幕啊!”正飘浮在空中。如果你尝试过,可能会发现这并不容易做到。多数⼈都需要⽤⼒地想象这些字的“脸”,⽽后再费⼼精雕细琢⼀番,否则这⾏字很容易就变成⼀团模糊的字块,难以辨认。

但如果你不费吹灰之⼒就能想象出来,甚⾄在⽣活中也经常会在脑海⾥看到⼀⾏连贯的字幕滚动过去,那么你很可能和上⽂提到的会为梦境配字幕的⼈⼀样,拥有少⻅的字幕联觉。通常情况下,我们在接收⼀种感官信息时,只会体验到⼀种知觉,⽽所谓联觉则是指不同知觉会跨越感官相互连通,⽐如听到颜⾊或是品尝到形状等。

早在19世纪,科学家就惊讶地发现有⼈认为字⺟或数字是有特定颜⾊的。但当时多数⼈都将联觉看作⼀种幻想,或者是格外擅⻓⽐喻,⽽⾮真实的感觉体验。直到20世纪,科学家才通过系统性的实验证实了联觉的真实性。在众多感官交叉——⽐如字素与颜⾊、词汇与味觉、乐曲与画⾯等——带来的各种各样奇幻的联觉体验中,字幕联觉虽然是听觉与视觉的“平凡”交融,却好像并不那么常⻅。

1883年,查尔斯·达尔⽂(Charles Darwin)的表兄弗朗⻄斯·⾼尔顿(Francis Galton)观察到,⼀些⼈会在脑内将对话者讲话的内容形象化,“有些⼈在脑海中会看到对话者说出的每⼀个字在⼀条⻓⻓的纸条上滚动浮现,就像是⾃动收报机上展开的纸条⼀样。”也因此,字幕联觉常被叫做⾃动收报机联觉。

原来我是特别的⼀直以来,有关TTS的实证研究并不多。它很容易被归类到联觉这个⼴泛的标签下,并且不如其他多数联觉那样奇特,引⼈注意。“但TTS这种现象远远超出了轶事的范畴,它能帮助我们更好地理解⼤脑处理书⾯语⾔的神经机制,”法国巴黎⼤脑研究所(Paris Brain Institute)的博⼠⽣法⽐安·奥夫(Fabien Hauw)表示。

奥夫与神经⼼理学家洛朗·科昂(Laurent Cohen)的研究团队⼀同调查了26位具有TTS的志愿者,⾸次系统性地收集了TTS的视觉和字幕出现的时间特征、触发机制、是否能主动控制和如何处理⼲扰性语⾳信息等数据。这项研究于2022年12⽉发表在Cortex期刊上。由于TTS,或者说多数联觉是主观性的体验,从众多志愿者中找出联觉者是极具挑战性的,因为有时候他们根本意识不到⾃⼰是特殊的。

更有趣的是,“最终被招募参与研究的志愿者中,有⼏位是通过招募的海报信息才意识到,并⾮每个⼈⾃带内置字幕,”科昂笑着说。有关TTS在⼈群中出现的概率,由于抽样偏差,不同研究得出的结论各有不同,⾄今未能有定论,只是⼤概估计为百分之⼏的概率。(研究⼈员表示此前研究得出的结论——⼈群中出现TTS的概率为7%——肯定是⾼估的。)

世界是怎样的电影呢?为了深⼊了解TTS,科昂的团队为志愿者设置了⼀份详尽的调查问卷,从多个维度收集了他们的主观感受。⾸先他们需要确定TTS会在何时出现,志愿者是何时以及如何意识到它不常⻅的。在较为粗略的概念⾥,TTS是由外部语⾳触发的,那么它可以由⾃⼰的语⾔触发吗?情感以及性别等听觉参数是否会影响TTS的感知?联觉者对这种现象⾃我控制的程度如何?

TTS的本质是⼀种⽣动的⼼理视觉图像。因此研究⼈员也想探究志愿者是在⾃⼰脑海中感知到字幕,还是会像虚拟现实的画⾯⼀样——将字幕投射到外界?字幕出现的位置是固定的吗?它们多⽤⼤写字⺟还是⼩写字⺟(这项研究的对象是⺟语为法语的志愿者),是否有颜⾊等等问题。

同时,听觉上语⾳感知与字幕出现之间是否有延迟,以及语⾳停⽌后字幕持续的时间,TTS是否会被外语、新词以及不同类别的⾮⾔语声⾳(如打喷嚏,喵喵叫或铃声)触发,以及TTS对⽇常⽣活的影响,这些也都是研究⼈员试图理清的问题。

针对TTS的触发机制,研究⼈员额外使⽤了听觉刺激⽤来辅助评估。他们从⼀个开放的语⾳库中选择了多种类型的声⾳,⽐如同⾳词(类似杂志与杂质)、错⾳词(类似杂志与咱志)、假词(与真词相对,符合语⾳但不符合语义的词汇,如冰箱与冰仙),以及动物叫声、汽⻋引擎声等⾮⾔语性的语⾳,将它们依次播放给志愿者听,并让他们写下可能诱发的任何字幕。

随时随地,⽆法⾃控研究⼈员通过整理收集到的内容发现,19名志愿者(73%)报告从记事起(约8岁)或⾃识字起(约11岁)就⼀直具有TTS,这说明具有初步的读写能⼒是TTS出现的先决条件。对于联觉者⽽⾔,TTS具有明显的优势——能帮他们更快地学会正确拼写单词。此前⼀项研究也表明,10~11岁的TTS联觉者相⽐其他同龄的⼉童,能更好地表达和学习新词汇,这显示了TTS带来的语⾔学习优势。

但与之相对的,他们在拥挤嘈杂的环境下,很难将注意⼒集中在单个对话者身上。约⼀半的志愿者都认为TTS既带来了优势,也造成了障碍。有18位志愿者表示TTS是⼀种⾃动发⽣的现象,他们⼏乎⽆法控制。所有志愿者在听到和观看别⼈说话时,都会触发TTS。⽽在多数情况下,即使说话者远离他们的视线范围,或是志愿者⾃⼰公开说话,甚⾄是隐蔽的内⼼独⽩,TTS也仍会发⽣。

内部的语⾳并不存在真实的声学过程,但它与外部语⾳过程⼀样都能激活TTS,这可能揭示了TTS中存在的脑区共同激活模式,但仍有待进⼀步探索。然⽽,也有志愿者报告⾃⼰讲话时或者视野之外的⼈讲话的声⾳没有触发TTS。对此,研究⼈员认为这两种情况是源于志愿者的注意⼒并未集中在输⼊的语⾳上:视野外的说话者通常是⽆关紧要的,本应被过滤掉;⽽与⼈对话时,⾃⼰关注的更多是交流的意图,⽽⾮⾃⼰的语⾳内容。

这很可能会导致触发TTS的概率降低。⽽另⼀种解释则认为这种现象与唇读受阻存在紧密联系。上述这两种情况都⽆法从视觉上辅助志愿者阅读单词。由此,也有研究⼈员认为TTS的⽣成或许不仅与听觉上的语⾳学相关,可能也与视觉上对⾯部的感知有关。

为猫猫叫配上“喵”在研究TTS的触发机制时,最常⻅的⼼理词典——存储在记忆中的词汇库就像是保存在⼈脑中的⼀部词典——中的真词(具有语⾳和语义),很⾃然地会触发TTS。但研究⼈员同时也发现,假词(只有语⾳没有语义)甚⾄⾮⾔语的声⾳也可能触发TTS。⼀位志愿者讲述道,有⼀只⼩⻦常常清晨在他的花园⾥唱歌。⼏天后,他将这⾸歌翻译成了象声词。从那时起,每当⼩⻦唱歌,就会在他脑海⾥触发⼀串拟声词字幕。

这种情况也类似于外语对TTS的刺激,虽然这些语⾳可能会失去了原来的语义,但仍可通过语⾳编码⽽被收⼊他们脑海的“词库”中。这⼀过程其实也揭示了语⾔学习的过程。

从语⾔学上讲,语⾳(phonology,词汇以抽象的语⾳形式编码在⼼理词典中)与正字法(orthography,规范字词的形体和使⽤规则,因此有真词和假词,正字和错字的概念,包括汉语在内的多数语⾔都会在正字法包含语⾳结构的某些信息)都能结合对语义的理解,增进读写能⼒。

在受不同⾮⾔语性语⾳刺激的志愿者反馈的字幕中,研究⼈员能清晰地辨认出语⾳转为正字法的编码路径,⽐如在所有志愿者中,熟悉的猫猫叫声⼏乎都会触发拟声词“喵~”(法语中则是“MIAOU”),但对于不太熟悉的公鸡叫声,只有少部分⼈触发了“HUHUHU”;⽽⼀些声⾳触发的则不是拟声词,⽽是产⽣噪⾳的物体的名称,⽐如枪声引起志愿者想到的更多是“枪”(“GUN”)或“枪击”(“GUNSHOT”)。

在2022年的一項TTS磁共振成像(MRI)研究中,他们发现相⽐于对照组,当联觉者听⼀段独⽩时,左半球负责语⾳分析的区域和涉及拼写的特定区域——视觉词形加⼯区(Visual Word Form Area,VFWA)会被更强烈地激活,这与阅读时激活的脑区相同。与普通⼈将书⾯⽂字翻译成语⾳相对的是,TTS联觉者是⾃动地将语⾳转换为书⾯⽂字,也就是说,TTS更像是⼀种颠倒的阅读形式。

重在参与的字幕有趣的是,志愿者在阅读或者观看电影期间,TTS也会⼀定程度地参与其中。在安静的地⽅阅读时,约⼀半的志愿者表示他们只会看到印刷的⽂本,⽽另⼀半则会在⽂本之上看到相同版本的联觉版本。⽐较痛苦的情况是,如果有⼈在⼀边说话,88%的志愿者都表示这会导致说话者的语⾳字幕⼊侵书⾯⽂本,“污染”了它。

相似的,看带字幕的电影时,⼀半的志愿者既能看到电影字幕,也能看到演员说话时的联觉版⼆级字幕。少数志愿者还报告说,他们会在梦中也能看到字幕。某种程度上,这也算是为他们的梦添加了电影的维度。

在这些志愿者的描述中,联觉字幕出现的形式也极为丰富。18位志愿者会在脑海中看到字幕,有两位则是将字幕投射到外部世界中,剩下的⼈表示可以⾃由切换。⽽他们的字幕出现的位置也会有所差异,有⼈的字幕会根据声源⽅向向左或向右移动,有些⼈的字幕会像漫画的⽓泡⼀样靠近说话者的嘴,有⼈则是与电影字幕位置相似,像提词器⼀样滚动。

不同志愿者看到字幕的颜⾊、字体以及字号都有所不同。有志愿者表示,“当我感动时,字⺟会有些模糊或摇晃”、“情绪激烈时,单词会变⼤”、“声⾳越⼤、单词越⼤”,在听到⾳乐中的歌词时,“单词似乎会随着旋律起伏”等。事实上,他们有些⼈并不⽌有TTS联觉,有些⼈还会有诸如时空联觉、声⾳颜⾊、绝对⾳准等不⽌⼀种的联觉体验。

TTS联觉是如此特殊,触发它的语⾳和出现的⽂字图像都是语⾔表征,它也因此为我们理解⼈类的阅读机制提供了⼀个⾮常特殊的视⻆。不过联觉本身并没有那么稀奇,很多⼈在听到⼀⾸歌或是闻到某种⽓味时,会感到好像回到了某段记忆⾥,这本质上也是⼀种联觉。⽽⼈类强⼤的想象⼒应⽤在⽂学创作中,便有了所谓通感的修辞⼿法。

在《礼记·乐记》中,“故歌者,上如抗,下如队,曲如折,⽌如槀⽊,倨中矩,句中钩,累累乎端如贯珠”就讲述了⾳乐不仅悦⽿,更能通过听觉与⼈的触觉、视觉和情绪沟通。如果你也想更有代⼊感的体验联觉通感,不如听听⽤⾳乐描绘图画的《图画展览会》钢琴组曲。

UUID: 12f286ae-8bef-4544-974a-e7a4377b7317

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/把科学带回家公众号-pdf2txt/2023/把科学带回家_2023-03-10「转」_脑海里总有弹幕飘过?没错,你就是那个天选之人.txt

是否为广告: 否

处理费用: 0.0128 元