“幻觉”一词,也叫虚构。出现在大语言模型(ChatGPT)上下文中,常指的是模型在生成文本时产生的错误或不准确的信息。这种情况可能发生在模型对某些事实、概念或上下文的理解不足或错误时。

简而言之,当ChatGPT偶然生成完全错误的内容,但它不会告诉你它出错了。

错误情况图如下

它生成的内容都是不准确的,因此我们要小心,ChatGPT生成的内容不一定就是事实