假设你生活中有这样一个朋友，喜欢夸夸其谈，一副无所不能的样子，偏偏说起事情来还头头是道，听起来就让人很是信服，那么你会相信他吗？

(图片由ChatGPT协助生成）

生活中真有这样的朋友，大家一定会觉得他不靠谱，因为没有人是无所不能的，越是表现出一副无所不能样子的人，越是肤浅，真正有能力的人都深藏不露呢（但也不是无所不能）。

但是这事放AI身上，大家就不会怀疑了，AI嘛，高科技的产物，投入动辄几百上千亿，还是美元，那搞出来的东西还能不靠谱嘛？

在早些时间，我就是AI的狂热信仰者，觉得AI无所不能，不会犯错。不过后来和AI打些交道，发现简单的问题它解决得都很好，但是复杂一点的问题，它解决起来就不是那么让人满意了。

不过当时我坚信AI会不断地完善和进化，解决问题的能力会越来越强大，强大、无所不能、又不会犯错的AI，想想就很让人期待。

话说，前两天我让DeepSeek帮我解一道数学题：和DeepSeek聊一道简单的数学题，它不但把我绕晕，甚至把它自己也绕晕了。好吧，问了ChatGPT它也晕。

类似的事情还发生在问它们物理题上，回答的都是头头是道，看似十分严谨，但仔细一琢磨，却是错漏百出。也不知道它们宣称通过了啥啥数学竞赛、物理竞赛考试，并且都得了很高分数，是怎么做到的。

我猜大概率是专门“喂”了它们这些考试的题目（题库），然后生成的模型自然很擅长这个，但是初中的物理题数学题太简单，没喂过它们，所以就不擅长喽。

如果说数学题和物理题它解决都不是很完美，那么其实对我而言并无所谓，毕竟初中的物理也好，数学也罢，我还都能辅导得了，有没有ChatGPT或者DeekSeek或者其它AI产品做家教影响都不大。

但是编码方向上，我还是个大菜鸟，被AI忽悠那可是相当难受了。之前问过它网页格式的问题，SQL的问题，Python的问题，只能说五五开吧，有些网上轻易可以找到答案的问题，它可以轻松解决（算抄袭不？），但若是遇到一些网络上并无标准答案，又稍微复杂点的问题，它就麻爪了。

关键是我们人类（咦，我又从AI阵营回到了人类阵营），遇到自己不会的问题，一般会承认自己不会，或者找些借口拒绝回答。但AI嘛，可不管那套，就是卡卡一通“有理有据”地回答，让你想怀疑都难。

然后，当你照着它的回答去尝试，却会发现实际上完全不是那么回事，它根本就是一派胡言、胡言乱语、语无伦次（咦，想搞个成语接龙，但是发现接不下去了），总之，当你相信它，并按着它的回复去弄，就会撞得头破血流。

(图片由ChatGPT协助生成）

好在AI们自己也知道这个问题，比如ChatGPT问答页面底下就标注着：

ChatGPT can make mistakes. Check important info.

如果问ChatGPT何谓AI幻觉？ChatGPT答案如下：

AI幻觉（AI Hallucination）是指在生成式AI（例如聊天机器人或语言模型）生成的内容中，出现不准确、虚构或完全错误的信息。即使AI模型没有真实的依据或数据支持，它们仍会给出看似合理但实际上并不正确的回答。这种现象的出现与AI模型的设计原理有关，模型并不是从外部数据库中直接检索事实信息，而是基于大量语言数据和概率推测来生成可能的答案。

同时ChatGPT还给出AI幻觉产生的原因：

问DeepSeek，它回答的也很好：

看来，在这些问题上，它们倒是很诚实，没有胡言乱语，哈哈哈。尤其是DeepSeek还给指出了医疗、金融等领域，AI幻觉可能导致严重后果，值得盲目相信AI的人警醒啦。

(图片由ChatGPT协助生成）

这也让我想到之前HIVE上被广泛讨论的一个问题，是否要禁止使用AI生成文本？其实不止是HIVE，整个互联网都面临同样的问题，如果大量AI生成的内容充斥互联网，提供一些似是而非的内容，那么互联网将会被污染成什么样子就可想而知了！

所以，这些事情还用讨论嘛？也许真的有一天AI足够强大，且不会犯错，那时候，自会另当别论喽。

警惕AI幻觉

相关链接