
前沿资讯
1750329725更新
0
一项由麻省理工学院媒体实验室主导的研究发现,使用ChatGPT等大型语言模型辅助撰写论文可能导致"认知负债"的积累,表现为大脑神经连接强度下降、记忆编码能力减弱以及论文原创性降低。
由Nataliya Kosmyna(娜塔莉亚·科斯米纳)博士带领的研究团队招募了54名来自麻省理工学院、哈佛大学等高校的参与者,随机分为三组:LLM组(仅使用GPT-4)、搜索引擎组(仅使用谷歌搜索)和无工具组(仅依靠自身知识)。参与者需完成四阶段论文写作任务,其中第四阶段两组参与者互换工具使用条件,以观察认知适应变化。
研究人员使用32通道EEG设备记录参与者大脑活动,同时通过自然语言处理技术分析论文的命名实体识别(NER)、n-gram词频分布和语义结构。实验发现,LLM组的大脑神经连接强度在阿尔法、西塔等关键频段显著低于无工具组,尤其是在顶叶到颞叶的语义整合网络中,LLM组的动态直接传递函数(dDTF)值较无工具组降低了55%。
EEG数据分析显示,无工具组的大脑呈现最强、最广泛的网络激活,尤其是在负责语义处理的左顶叶(P7)到右颞叶(T8)通路中,dDTF值达到0.053,而LLM组仅为0.009。研究人员解释,这表明无工具写作时大脑需调动更多记忆检索和概念整合资源,而LLM辅助写作则导致大脑进入"节能模式",减少深层认知加工。
在行为测试中,LLM组表现出显著的记忆编码缺陷:83.3%的参与者无法正确引用自己刚完成的论文内容,而无工具组和搜索引擎组的这一比例仅为11.1%。自然语言处理结果进一步显示,LLM组论文的命名实体使用频率是无工具组的2.5倍,但原创n-gram词频降低40%,论文结构和论点呈现出高度同质化特征。
"使用LLM就像借用认知贷款,短期看似高效,长期却会积累债务。"Kosmyna博士指出,当参与者从LLM转向无工具写作时,他们的大脑连接模式未能恢复到初始水平,而是处于中间状态,尤其是在负责工作记忆的贝塔频段,连接强度较无工具组降低34%。这种"认知肌肉萎缩"现象可能导致长期独立思考能力下降。
研究还发现有趣的"工具依赖惯性",原本使用无工具写作的参与者在转向LLM时,大脑激活模式反而比初始LLM组更广泛,显示出一定的认知弹性。而长期LLM使用者在脱离工具后,大脑网络难以重新激活完整的写作认知链,这与他们论文中频繁重复LLM惯用词汇的现象一致。
虽然LLM组论文在AI评分系统中得分较高,但人类教师对其"独特性"和"思想深度"的评分显著低于无工具组。一位参与评分的英语教师描述LLM生成的论文"结构完美但缺乏灵魂,就像用模板拼凑的标准化产品"。
这项研究为教育领域使用AI工具敲响警钟。研究人员建议采用"先自主后辅助"的学习模式:在掌握核心认知技能后再引入AI工具,以避免认知能力退化。Kosmyna强调:"AI应该是认知的放大镜,而非替代品。我们需要培养既能驾驭技术又保持独立思考的新一代学习者。"
参考资料:https://arxiv.org/abs/2506.08872