新华社北京10月28日消息分析|谨防“AI依赖” 人机共生时代如何保持独立思考 新华社记者 彭谦 近日，美国斯坦福大学研究人员策划召开全球首个以人工智能（AI）为论文主要作者和记者的在线公开会议。主办方表示，本次会议旨在打造一个“相对安全的地面测试”，探索人工智能能否以及如何独立生成新颖的科学观点、假设、方法等。如今，人工智能已经成为我们工作和生活的一大帮手，但它也提供了一条“认知捷径”，让人们无需过多思考就能得到自己想要的答案。一开始，我们只是搜索信息、翻译文本，逐渐开始使用AI来帮助撰写电子邮件、工作总结、研究论文，甚至做出重要的决定……过多依赖AI并使用AI“思维外包”可能会让我们逐渐失去思想的主导地位。人机共生时代，人类如何保持独立思考？正如前述会议所讨论的“外包思维”隐忧，大规模模型、智能体等人工智能应用已广泛赋能包括科学研究在内的多个领域的人类劳动和生活，推动学术研究和劳动生活质量和效率的提升。然而，其带来的技术红利背后也隐藏着隐忧。一些新的研究表明，过度忠实于人工智能模型会导致“AI脑雾”并削弱工作动力。美国麻省理工学院的研究表明，长期使用人工智能会导致认知能力下降。对受试者进行脑电图扫描后，研究人员发现，与不使用人工智能工具的人相比，神经元数量长期使用大规模人工智能语言模型的人大脑中的连接减少，影响语言和行为。微软和卡内基梅隆大学的研究也同样发现，人工智能的发展会削弱批判性思维能力，导致过度依赖，并会削弱人们独立解决问题的能力。 Naninleave 研究人员指出，开发人员在设计 AI 工具时，应该支持用户提高批判性思维意识，例如提示需要验证的场景。尤其是在设计法律文书、医疗咨询等高风险任务时，应强制弹出验证提醒（如“请检查AI引用的监管规定”），标记潜在风险，打破用户对“全知全能”的认知偏见。浙江大学管理学院吴素清团队今年在英国杂志《Scientific Reports》上发表的研究也显示，该应用程序人工智能的应用造成了认知需求的“空心化”。当人工智能完成工作中“烧脑”的部分时，人们只剩下机械执行，工作沦为“被动填空”，这会导致心理疏离，失去工作动力。这就要求企业、政府部门等在抛弃AI时要“放慢脚步”。可以先小范围试点，有控制地推广，边使用边观察对员工积极性和创造力的影响。为什么人类会被人工智能“信任”？人们之所以更加依赖人工智能，来自于近年来人工智能专业能力和沟通便利性的飞跃：这种内容的专业性让很多人将其视为专家，而对话式的沟通方式使其像一个知识渊博的“朋友”，每个人都可以与之交谈，很容易让人产生心理上的希望和信任。现在，方便I-Large模型的“开箱即用”使用降低了使用门槛。由于缺乏AI素养基础教育，用户对AI本身的技术缺陷认识不够，更容易“着迷”。今年6月，英国高等法院要求律师立即采取行动，防止人工智能被滥用，因为许多可能由人工智能生成的虚假案例参考被提交给法院。今年由美国卫生与公众服务部和“让美国再次健康”委员会牵头的儿童慢性病报告也因使用生成式人工智能内容而出现重大引用错误。荷兰阿姆斯特丹大学研究员詹姆斯·皮尔森表示，人工智能将显着推动科学研究进程。例如，它可用于绘制蛋白质结构图、开发新抗生素以及加速文献综述和其他流程的发展。然而当AI产生的“幻觉”出现在论文评论或研究中时，令人高度关注。人工智能还可能在其训练数据中携带偏见，从而加剧种族、性别和其他不平等。 “当我们使用人工智能时，我们也外包了我们的判断。我们不再验证人工智能提供的答案，不再反映使用人工智能的过程。无条件接受人工智能提供的任何信息都会导致人们主观能动性的排斥，深度阅读、思考和表达的能力也会变差。”科幻作家、中国作协科幻委员会副主任陈秋帆在接受新华社记者采访时表示。为未来思维建立“人工智能缓冲区”，人工智能必将更加深入地融入我们的工作和生活。在人机共生的新时代，与AI共存需要更多智慧。 Greg Schoff，美国人工智能教育机构Section 4首席执行官公司预测，未来10年，使用AI的知识工作者将分为两类：“AI乘客”和“AI司机”。 AI乘客“会很乐意把所有的认知工作交给AI，短期内可能会因为工作效率的提升而得到认可。但随着AI能力的进化，这些人最终会被AI谭取代。“AI司机”坚持主导AI的运行，把AI生成的内容当作初稿，严格检查结果，有时甚至关掉AI进行独立思考。“我们需要知道在不同的学习和工作情况下，区分哪些场景适合使用AI，以及“哪些场景需要人类辅助来判断和识别人工智能提供的结果。”陈楸帆也持同样的观点。他认为，人们应该在自己的思维和认知中占据主动，有意识地建立一个“人工智能缓冲区”。即在面临新问题时，他们必须首先从自己的角度提供答案，然后寻求深化和扩展人工智能。 “我们还可以进行‘对手生成’，即当AI给出与自己观点一致的答案时，必须批判性地思考，我是否受到了AI的影响，或者AI是否在我的持续训练下变得越来越雷同？我们就不能打破思维的惯性，做出不同的选择，给出AI意想不到的答案吗？”他说。
