真实与幻觉：人工智能介入下的新闻用户媒介素养建构

韩正非，王京山

（中国传媒大学信息传播学院，北京100024）

摘要：生成式人工智能技术正重塑传统的内容生产逻辑与信息获取生态，引发用户对人工智能参与内容生产的信任危机。人工智能幻觉造成了新闻用户新的认知困境，技术黑箱化使人工智能决策过程不可追溯，新闻真实性受到冲击；算法推荐加剧信息茧房，弱化用户对异质信息的处理能力；伦理意识缺位，对技术隐性价值观输出的缺少批判警觉。需要建立复合型的媒介素养应对新闻真实与幻觉，在认知方面解构人工智能文本的生产可能性，建立边控意识；在实践方面培养人机协同素养，包括设计提示词、多信源交叉验证等技能，强化用户自身主体性；在伦理方面倡导价值校准机制，推动媒体采用人工智能撰写、人机协作以及作者撰写的分级署名制。人工智能介入下的新闻本质是流动的待验证体系，媒介素养需从传统信息鉴别转向人机共生能力培育。

关键词：人工智能；媒介素养；新闻；技术黑箱；人机协同

                                                                  作者简介 

韩正非，男，山东省枣庄市人，

中国传媒大学信息传播学院2024级

博士研究生。目前主持中国高校科

技期刊研究会项目一项，在《出版

发行研究》《出版广角》《团结报》

等刊物发表学术论文数篇，研究方向

为数字出版与媒介文化。

1.引言

人工智能生成内容（Artificial Intelligence Generated Content，AIGC）正重塑传统的内容生产逻辑与信息获取生态。它催生了一种新型的认知权力模式，技术系统通过形式工整、逻辑流畅的文本表象，构筑起极具迷惑性的文本权威性。这种权威幻觉的实质，是人工智能幻觉在新闻传播领域的具象化延伸。“幻觉”（Hallucination）一词可以追溯到神经科学与心理学领域，原意指感觉信息接收器在处理外界刺激时对客观经验的不准确主观重构【1，Sacks】。人工智能尤其是文本生成和处理领域，可能会存在输出时人工智能所生成的文本可能是无意义、不连贯或者循环重复的内容。【2，刘俣孜等】人工智能所生成或处理的文本，有可能不忠实于文本的来源，这种偏离理想预期的文本成本被称为“幻觉”【3，Raunak ect.】。用户易将算法输出的概率化结果误读为确定性知识，形成对技术系统的非理性依赖。AIGC通过精准情感表达、权威引证等方式越来越逼真地模仿人类叙事模式，导致用户进行事实核查意愿的退化。传统新闻信任建立在记者核查、编辑把关、机构发布的专业化流程中，而人工智能的介入使链条发生断裂，用户既无法确认某条新闻是否经过人工核验，也难以追溯算法生成内容的信息源头，最终陷入真实与幻觉的混沌境地。

在此背景下，重新审视 AIGC 环境与新闻用户认知的互动关系，探索适应性媒介素养的构成维度，具有重要的理论与实践意义。从理论层面看，媒介素养的内涵如何突破文本解读的传统框架，进而纳入技术逻辑、算法风险等新维度？从实践层面看，它为新闻用户提供了认知突围的路径，与真实与幻觉交织的信息场域中，如何建立一套可操作的辨别准则？这不仅对于修复智能时代的新闻信任纽带至关重要，更是对当代媒介素养理论范式时代转向的关键探索。研究的核心问题在于：1.AIGC环境如何具体塑造并加剧了新闻用户的认知困境。2.新闻用户应以何种姿态面对人工智能技术介入的新闻生产，即应具备怎样的适应性媒介素养。通过对以上问题的探索，期望为智能时代新闻信任的修复提供理论支撑，推动媒介素养理论向协同共生的范式迭代。

2.从保护主义到批判性参与的媒介素养研究范式转变

媒介素养的概念自20世纪30年代提出以来，历经多次范式转变，其内涵随媒介技术和学术思潮不断变化。20世纪30年代的保护主义范式是媒介素养的早期形态。英国文学批评家F.R.利维斯（F.R.Leavis）和丹尼斯・汤普生（Denys Thompson）在《文化与环境：批判意识的培养》（Culture and Environment:The Training of Critical Awareness）中首次提出将媒介素养教育引入学校，认为大众媒介传播的通俗文化会侵蚀传统精英文化，主张通过“批评意识的训练”帮助公众抵御媒介的负面影响。这一时期的保护主义立场带有明显的精英文化倾向，教育目标是帮助公众防范媒介侵害【4，陆晔等】。美国的媒介素养教育也受此影响，聚焦于媒介中的暴力、色情内容对青少年的危害，强调提升公众免疫力【5，Buckingham】。20世纪60年代，媒介素养进入强调选择与辨别力的范式。随着大众媒介的快速发展，雷蒙德・威廉斯（Raymond Williams）提出“文化是普通的”【6，Williams】，挑战了精英文化与大众文化的二元对立。这一阶段的媒介素养不再全盘否定媒介内容，而是引导受众区分媒介内容的优劣，根据自身需求进行选择【7.毛富荣等】。使用与满足理论的兴起也为这一转向提供了支撑，认为受众并非被动接受者，而是主动选择媒介内容以满足自身需求，媒介素养的重点随之转向提升受众的内容辨别能力。20世纪80年代，批判性解读成为媒介素养的核心。受符号学、意识形态理论和文化研究的影响，学者们开始关注媒介文本如何建构“虚假意识”（False Consciousness），以及主流意识形态如何通过媒介潜移默化地影响受众【8，Masterman】。20世纪90年代以来，媒介素养迈向参与式社区行动范式。随着新媒介技术的发展，受众不再仅仅是内容的消费者，更是积极的生产者。霍布斯（Renee Hobbs）将媒介素养定义为“使用、批判性分析媒介信息和运用媒介工具创造信息的过程”【9，Hobbs】，强调提升受众的自主权。继而有学者提出媒介素养应超越文本分析，关注媒介制度与社会结构，推动公众参与媒介改革与社区行动【10，Lewis ect.】。这一阶段的媒介素养教育不仅注重批判性思维，还强调受众通过媒介参与社会事务的能力，推动赋权与解放。媒介素养的演进反映了从保护主义到批判性参与的转变。AIGC技术的快速发展及其在新闻生产领域的深度应用，对既有媒介素养理论构成了前所未有的挑战。现有研究虽已敏锐捕捉到技术带来的风险，但多聚焦于单点问题描述，未能系统性地整合技术特征、用户认知偏差与社会伦理规范复合维度，成为当前研究版图中的缺憾。

3.人工智能介入下的新闻用户认知困境

人工智能介入下的新闻内容获取困境，已经不再是数字时代前期信息富余和信息贫困之间的矛盾，而是在真实与幻觉之间徘徊不定的困境。人工智能技术三重相互交织的张力结构，深刻形塑了用户的认知困境。第一重张力是技术黑箱化导致的认知权威偏移。复杂的深度学习模型如同一个无法透视的黑箱，其信息筛选、内容整合、文本生成的决策链条对用户而言不可追溯。Deepseek、豆包等生成式人工智能的深度思考模式，虽然展现了其生成内容的思考逻辑，但依然存在被遮蔽的流程。思考流程的文本与最终生成的文本的逻辑并非紧密对应，即使采用同一指令和同一思考流程文本，也无法生产出完全相同的结果。这种不可知性与文本的流畅性相叠加，会导致新闻用户不自觉地依附于算法生成内容的表面确定性，放大信任幻觉，抑制对其运作逻辑的错误进行质疑的本能。第二重张力是个性化推荐与信息处理能力弱化。智能算法凭借精准的用户画像推送内容，高效地编织出个性化的信息茧房。用户接触多样化、异质性视角的机会被系统性减少，其对异质信息的容忍度、辨识力与批判性反思能力逐步退化，进一步丧失在广泛的语境中验证信息、修正认识的机会。第三重张力表现为深度伦理意识与批判警觉的缺位。新闻用户对AI技术内嵌的价值观倾向，普遍缺乏必要的敏感性，更难主动识别新闻内容中被算法编码的价值立场。这正是近年来学界关注到应当培育“算法素养”的重要原因，因为如果算法应用不当或过度，人可能会在认知与决策、消费、社会位置、劳动等多方面成为算法的囚徒【11，彭兰】。伦理警觉的缺失会导致用户难以洞穿AIGC的表面呈现，无法触及隐藏的权力结构与价值输出，继而成为算法隐形操控的无意识受众。这三重张力共同作用，导致用户认知能力失焦、偏移乃至退化，最终导致认知困境。

4.媒介素养的复合型建立路径

AIGC 将新闻生产从静态事实报道转化为流动的待验证体系，传统的真实性验证策略已无法应对内容本身的模糊性。面对新闻内容中出现的人工智能幻觉，亟须构建用户的复合型素养框架，使公众在算法主导的信息环境中重获认知自主性。在认知维度，要求新闻用户超越对文本表象的习惯性接受，深入理解人工智能新闻的生成逻辑。当前多数用户将 AI 新闻误读为确定性知识产物，却忽视了其本质是海量数据训练后的概率映射。知识生产的特征从前台的“发现”或然率到后台的“生产”或然率【12，周葆华】。即系统对可能性关系的计算推演，而非对客观事实的精准还原。针对或然率的新闻文本生产，用户需要建立两种关键能力。其一是时间线意识，利用技术工具核查信息演变脉络，识破将旧数据拼接为新事实的拼接型幻觉，微博“AI智搜”就提供了这种可视化新闻追踪功能。其二是边界洞察力，认知单条新闻仅是对复杂现实的局部呈现，要结合多方信源发现信息全貌。这种认知训练的核心价值，在于帮助公众将看似确凿的文本重新锚定可证伪的知识图谱中。实践维度聚焦人机交互中的主体性重建，用户必须从被动消费者转型为具备技术驾驭能力的协作者。首先是对提示词工程的精准运用，即通过限定语境背景、指定权威信源、要求标注不确定性等指令设计，约束 AI 生成内容的边界，变随机输出为一定程度上可控的创作；其次是构建交叉验证网络，同时调取多个大模型对同一事件生成报道，并结合权威媒体信源进行验证，破除单一算法的信息茧房；最后通过分析不同大模型对同一事件表述差异，察觉技术背后隐含的价值观导向。将人工智能技术转化为认知延伸的上手工具，在协作中保持人的决策主导权。

伦理维度需要对人工智能技术制度化约束。媒体机构有责任通过透明度建设降低伦理风险，通过实施AI撰写、人机协作以及作者撰写的三级署名制度，清晰标示内容生成中人机角色比例及责任边界。分层标注不仅解决法律归责问题，更成为公众理解人机权力分配的可视化工具。对用户则要求培养价值敏感性质疑习惯，意识算法价值并非中立，对信息中技术立场偏好进行批判性解读。这种伦理意识的目标，是将技术价值观从黑箱中拖拽至公共场域。媒介素养的终极目标并不止于培育用户辨别真假的能力，而是赋予其在持续演化的知识流中不断发现意义的共生能力。通过实现从信息鉴别到认知协作的进化，培育用户在真实与幻觉的语境中成为不被技术操纵的认知主体。

5.结语

人工智能深刻地重构了新闻知识的生产、传播与接收链条，使其从过往基于权威发布的静态文本的结构，转变为由人机持续交互驱动的、不断被验证与更新的流动体系。本研究提出的媒介素养的复合型建立路径，在认知层面打破不确定性的技术幻象，在实践层面强化人机协同的信息掌控技能，在伦理层面构建透明与归责的价值校准系统。人工智能介入下的新闻用户素养教育在于培育用户的人机共生能力，成为拥有批判性思维、技术使用自主性及伦理警觉的主体，而非技术洪流中的他者。推动媒介素养理论从功能导向的工具性适应，向强调人与技术互动哲学与主体性的共生范式发展。在真实与幻觉纠缠共生的智能时代，以协同能力为核心的媒介素养，将成为公众重建新闻信任，实现认知自主不可或缺的生存之锚。

参考文献

【1】Sacks O.Hallucinations[M].London:Pan Macmillan,2012:13.

【2】刘俣孜，赵云泽.人工智能幻觉现象的生成机制与治理策略研究[J/OL].新媒体与社会.1-17[2025-08-07].

【3】Raunak V,Menezes A,Junczys-Dowmunt M.The curious case of hallucinations in neural machine translation[EB/OL].arXiv preprint arXiv:2104.06683,2021.

【4】陆晔等.媒介素养：理念、认知、参与[M].北京：经济科学出版社，2010:3.

【5】Buckingham D.Media Education in the UK:Moving Beyond protectionism[J].Journal of Communication,1998,48(1):33-43.

【6】Raymond Henry Williams.文化与社会[M].吴松江，张文定，译.北京：北京大学出版社，1991.

【7】毛富荣等.媒介素养概论[M].台湾：台湾五南图书出版股份有限公司，2005.

【8】Masterman L.Foreword:The media education revolution[C]//Hart A,编.Teaching the media:International Perspectives.Mahwah,N:Lawrence Erlbaum,1998:vii-xi.

【9】Hobbs R.The Seven Great Debates in the Media Literacy Movement[J].Journal of Communication,1998,48(1):16-31.

【10】Lewis J,Jhally S.The Struggle over Media Literacy[J].Journal of Communication,1998,48(1):109-120.

【11】彭兰.如何实现“与算法共存”——算法社会中的算法素养及其两大面向[J].探索与争鸣，2021,(3):13-15+2.

【12】周葆华.或然率资料库：作为知识新媒介的生成智能ChatGPT[J].现代出版，2023,(2):21-32.