尽信AI，不如无AI
成语“尽信书，不如无书“，出自《孟子·尽心下》，原文为：“尽信《书》，则不如无《书》。吾于《武成》，取二三策而已矣。”《尚书·武成》篇中记载了周武王讨伐商纣王的历史，其中描述牧野之战“血流漂杵”，意指战场上鲜血多到能把捣米的木棒都漂浮起来。孟子对此表示怀疑，认为武王是仁义之师，商朝百姓痛恨纣王，纷纷倒戈相迎，战争不会如此惨烈，故而对其记载仅部分采信。此语精髓，在于告诫世人不可盲目迷信书本，而须保有独立的思考与批判精神
古人对书本尚需如此审慎，面对今天新兴的人工智能，我们更应秉持同样的批判精神。 近期看到一则新闻《和AI深入对话6个月，它发来的签约协议让人信以为真。广东保安全先生打印出50万字聊天记录，来杭州讨说法》（网址https://pic.hangzhou.com.cn/hzyx/content/content_9118891_0.html），讲述了广东保安全先生因误信AI生成的‘签约协议’，竟专程从中山赶赴杭州维权。他与一款AI软件深入交流六个月，将其视为可信的合作伙伴，详细探讨诗词授权、稿费分成乃至签约细节，最终却发现约定的见面地点与流程皆为虚构。清华大学教授沈阳对此评论道，当前AI技术下沉的速度远超公众认知教育的普及程度，部分用户容易将算法生成的内容误认为是真实情感与承诺。这背后反映的，正是典型的“AI幻觉”问题。
所谓AI幻觉，根据百度百科的定义，是指大语言模型编造出它自认为是真实存在、看起来合理或可信的信息。 其实就是AI在正儿八经的“胡说八道”。这种现象在大模型的各类生成任务（如文生文、文生图、文生视频等）中均普遍存在。上述新闻即是一个文生文的AI幻觉案例。而在文生图或文生视频中，AI幻觉则表现为图片或视频中出现一些现实世界中不存在的图像或运动方式，比如要生成猫的图片，结果出现的却是猫头狗身的图片。
当今已是AI时代。孙中山先生曾言，世界潮流，浩浩荡荡，顺之则昌，逆之则亡。接受并学会使用各类AI软件，作为我们学习或生活的工具，是大势所趋。然而，就目前AI的水平而言，我们可以套用孟子的话，尽信AI，则不如无AI。在使用各类AI软件时，我们不仅要认真核对其输出的事实，通过多渠道验证关键信息，更要时刻保持清醒的批判性思维。
古人对书本尚需如此审慎，面对今天新兴的人工智能，我们更应秉持同样的批判精神。 近期看到一则新闻《和AI深入对话6个月，它发来的签约协议让人信以为真。广东保安全先生打印出50万字聊天记录，来杭州讨说法》（网址https://pic.hangzhou.com.cn/hzyx/content/content_9118891_0.html），讲述了广东保安全先生因误信AI生成的‘签约协议’，竟专程从中山赶赴杭州维权。他与一款AI软件深入交流六个月，将其视为可信的合作伙伴，详细探讨诗词授权、稿费分成乃至签约细节，最终却发现约定的见面地点与流程皆为虚构。清华大学教授沈阳对此评论道，当前AI技术下沉的速度远超公众认知教育的普及程度，部分用户容易将算法生成的内容误认为是真实情感与承诺。这背后反映的，正是典型的“AI幻觉”问题。
所谓AI幻觉，根据百度百科的定义，是指大语言模型编造出它自认为是真实存在、看起来合理或可信的信息。 其实就是AI在正儿八经的“胡说八道”。这种现象在大模型的各类生成任务（如文生文、文生图、文生视频等）中均普遍存在。上述新闻即是一个文生文的AI幻觉案例。而在文生图或文生视频中，AI幻觉则表现为图片或视频中出现一些现实世界中不存在的图像或运动方式，比如要生成猫的图片，结果出现的却是猫头狗身的图片。
当今已是AI时代。孙中山先生曾言，世界潮流，浩浩荡荡，顺之则昌，逆之则亡。接受并学会使用各类AI软件，作为我们学习或生活的工具，是大势所趋。然而，就目前AI的水平而言，我们可以套用孟子的话，尽信AI，则不如无AI。在使用各类AI软件时，我们不仅要认真核对其输出的事实，通过多渠道验证关键信息，更要时刻保持清醒的批判性思维。
赞过的人