生成式AI正摧毁批判性思维

寂静回声

近期，美国一名女教师在社交媒体上发布了一段视频，愤怒地宣布自己将辞去教职。
她痛斥学生沉迷于TikTok，用ChatGPT写作业，并直言：科技正在摧毁美国的教育系统。
美国教师Hannah Maria：“我决定离开教育界，我要辞职了。周五是我的最后一天。”

在一段长达9分半的视频中，美国一位名叫Hannah Maria的10年级女教师愤怒的表示：现在的美国学生，已经不再渴望学习，而是沉迷于TikTok、电子游戏，甚至依赖ChatGPT来完成作业。
汉娜指出，她所在的学区为六年级到十二年级的所有学生，分配了ipad。学校的本意是促进学习，却反而成了分心的工具。
学生们开始习惯用机器朗读教材和打字。
而且，短视频严重影响着学生们的注意力，他们可以连刷几十条短影片，却无法专心的看完一部电影。

Hannah曾经教授过电脑与数字艺术，她一度自认是个科技派，如今却痛斥科技正在摧毁年轻一代。
她呼吁教育政策制定者，要重视学业成绩、识字能力日益下滑，以及对科技依赖日渐加深的糟糕现状。
Hannah这段愤怒痛斥的视频引发热议，不少美国网友表达对她的支持。一位学生留言说，自疫情期间居家上网课后，感觉自己变笨了，注意力下降了，甚至忘记了如何学习。
还有网友感叹，如果自己从高中时就开始使用AI，现在恐怕什么都不会了。

大模型的火爆也衍生了一个非预期后果——出现对人工智能的过度依赖。所谓“过度依赖”，是指人们对人工智能系统的输出过分信任或依赖，哪怕这些结果是错误的或不可靠的，也会照单全收。
换言之，用户在没有经过充分判断或验证的情况下，盲目采纳AI的建议，从而导致错误——业界称之为“执行性错误”。这种情况通常发生在用户并不完全了解以下内容时：AI能做什么（它的功能与适用范围）；AI能做得多好（它的准确性与局限性）；以及AI是如何工作的（它的逻辑、数据来源或决策机制）。

过度依赖可能导致现实问题和错误丛生，最终令人们丧失对AI系统的信任。不过担忧还不止于此。虽然AI能够提升某些认知能力，但人们害怕，过度依赖 AI，或许会使自己变得懒于思考；遇到问题就求助于AI，可能会对长期认知发展和批判性思维能力造成影响。这一现象有时被称为“认知卸载”（cognitive offloading），指当AI接管更多任务时，人类独立完成这些任务的能力可能会下降。

认知卸载是我们在日常工作和生活中经常采取的一种策略，个体通过利用外部资源来减少完成任务的认知需求。其形式可以很简单（如写购物清单、记笔记），也可以很复杂（如依赖高科技设备处理信息、使用GPS导航）。在今天，把认知负担转移给人工智能已经成为我们的“第二天性”。
例如，在医疗影像诊断中，AI能通过深度学习识别X光片或CT影像中的病变。如果一名放射科医生在看到AI系统标注出“疑似肺癌”区域后，并未仔细复核图像，也没有结合患者的病史，而是直接依据AI结论就下诊断。那么，这位医生就不仅是认知卸载，而且形成了对AI的过度依赖。
这方面的例子我们可以举出很多：企业的HR人员依靠AI系统筛选应聘者；某些智能电动汽车用户过度信任“自动驾驶模式”；学生要求AI生成整篇论文，未加审查便直接提交；客服人员不再阅读用户情绪或问题语气，只是机械采纳AI推荐答案，等等。
随着AI使用频率和依赖程度的增加，人类大脑的思考能力也随之受到限制，导致人类的思维水平迅速下降。人类的智力能力被部分转移到人工系统上，使得人类变得“更加人工化”。此外，与技术的高度互动使我们开始用类似算法的方式思考，却缺乏对过程的真正理解。
另一个问题是人类在生活的几乎所有方面对AI技术的依赖。尽管这提高了生活水平并使生活更加便利，但也对人类活动产生了负面影响，使人变得急躁和懒惰。随着AI深度介入诸如规划与组织等活动，它会逐渐“饿死”人类大脑的思考深度和心理努力。高度依赖AI可能导致技能退化，并在需要身体或脑力操作时产生压力。

在讨论人工智能对我们大脑的影响时，大多数研究都集中在生成式人工智能（GenAI）上，这是一种让我们比以往任何时候都更多地将认知负担转移出去的工具。任何拥有手机或电脑的人，都可以瞬间获取几乎任何答案、撰写论文或编写代码、创作艺术或设计作品。然而，过度依赖AI完成创作等任务，会抑制独立思考，并导致语言和表达方式的多样性下降。
AI对创造力的深层影响同样令人担忧。研究表明，AI确实能帮助个人产生比他们单独思考时更多的创意，但在整个群体层面上，AI生成的创意却较为单一，意味着真正的“灵光一现”的创新时刻变得更少。

康奈尔大学的心理学家Robert Sternberg在《智力学刊》最近的一篇文章中总结了这些担忧：“生成式AI具有复制性。它可以重新组合和重新排序已有的想法，但尚不清楚它是否能产生那种颠覆性范式的创新想法，而这正是世界需要用来解决诸如全球气候变化、污染、暴力、收入差距扩大和渐进式专制等严重问题的关键。”

关于生成式人工智能如何通过提高收入、工作满意度和科学进步等多种方式改善我们生活的潜力，已经有成千上万的文章进行了探讨。然而，令人担忧的是，自动化任务使我们失去了自己练习技能的机会，导致支撑这些技能的神经结构被削弱。正如忽视身体锻炼会导致肌肉萎缩一样，认知努力的外包也会使神经通路退化。

其中最重要的认知技能之一——批判性思维，正面临高风险。当问你喜欢莎士比亚的哪些特点，而你很容易就可以通过搜索大模型予以回答时，为什么要自己绞尽脑汁去思考呢？研究支持了这样的担忧。瑞士克洛滕SBS商学院的Michael Gerlich对666位英国人进行了测试，发现频繁使用人工智能与较低的批判性思维能力之间存在显著相关性——尤其是年轻参与者对AI工具依赖性较高，他们的批判性思维得分就明显低于年长者。

类似地，微软和卡内基梅隆大学的研究人员对319名每周至少使用一次生成式人工智能的专业人士进行了调查。虽然AI提高了他们的工作效率，但同时也侵蚀了批判性判断所需的“认知肌肉”，促使他们对这项技术产生长期依赖。研究人员预测，这可能导致他们在没有AI支持的情况下解决问题的能力下降。

Gerlich研究中的一位参与者表示：“能够随时获取所有信息当然很好，但我有时担心自己其实并没有真正学习或记住什么。我对AI的依赖太大，以至于觉得如果没有它，我根本不知道该如何解决某些问题。”长期依赖AI，可能使人们在没有AI协助的情况下难以独立完成任务，也更难适应没有AI的环境。

这种批判性思维的侵蚀还被AI驱动的社交媒体算法所加剧，Gerlich说：“社交媒体对批判性思维的影响巨大。为了让你的视频被观看，你只有四秒钟的时间去吸引别人的注意力。”结果是，大量易于消化但不鼓励深入思考的碎片化信息蜂拥而来。大量的社交媒体给人的信息，是无需进一步加工处理的。

由于人们更多被动接受信息，而不是通过认知努力主动获取知识，因此对所学内容的意义、影响、准确性和伦理的批判性分析能力极容易被忽视，当他们面对那些看似快速且完美的答案时，就更是如此。

根据2024年TollBit State of the Bots报告，当AI被用来搜寻答案，95%的人会放弃进一步点击。也就是说，人们如果改用AI查询资料，相较于他们以前使用传统搜索引擎查询，为某些网站带来的流量前后减少了95%！不论是Perplexity或ChatGPT，当答案在聊天框里用AI整理出来以后，就算带有链接，人们会继续往下点击来源网站的比例只剩下5%。（我就是那5%）

所以，受此影响，健康信息平台WebMD、知识问答平台Quora、开发者社交媒体Stack Overflow与科技新闻与评论网站CNET等，流量纷纷下降。流量持平或成长的平台，只有Reddit这样的在线论坛（山庄是中国版的Reddit）、线上百科全书Wikipedia以及个人电子报平台Substack等。
受到冲击的平台被迫纷纷调整策略。比如，WebMD从单纯的信息提供者，变身为服务精准客户的健康教育平台。它企图通过用新方向锁定利基市场，让流量不再像以往那么重要。
而Substack的例子，更能反证AI时代批判性分析能力的重要性。这家成立于2017年的平台，让独立写作者毋需架设网站，仅花5分钟就能发行自己的电子报，且可设定付费订阅功能，让内容有价。它很快吸引了一群美国权威媒体人与知识网红进驻。据《福布斯》报道，截至2021年8月，Substack拥有超过25万付费用户，其中前10名创作者的年收入合计高达700万美元。

那么，在ChatGPT问世、AI生成免费内容泛滥后，Substack是否受到冲击？数据显示，2025年2月，Substack的流量达到创立以来的新高，仅次于2023年1月的高峰。
这说明，生成式AI兴起后，反而使人们更想要阅读高品质、甚至需付费的电子报。（国产的有知识星球）Substack的创作者提供个人观点与深度分析，这正是AI难以取代的价值。所以998不去做付费的电子报，反而天天免费提供深度分析，这叫功德圆满。