OpenAI证实ChatGPT永远会编造内容大语言模型永远都会编造内容。不是偶尔,也不是等下次更新就能修好,是永远。
o1模型幻觉率16%,o3跳到了33%,最新的o4-mini直接干到48%。也就是说,你问它两个问题,差不多就有一个可能是它编的。模型越“聪明”,编得越起劲。
所以这事挺无解的。三家顶级实验室分别研究,得出一致结论:这是系统底层架构自带的毛病,改不了。那么下次再跟ChatGPT聊天的时候,就要观察一下,创作的内容是真的还是胡编乱造。

OpenAI证实ChatGPT永远会编造内容大语言模型永远都会编造内容。不是偶尔,也不是等下次更新就能修好,是永远。
o1模型幻觉率16%,o3跳到了33%,最新的o4-mini直接干到48%。也就是说,你问它两个问题,差不多就有一个可能是它编的。模型越“聪明”,编得越起劲。
所以这事挺无解的。三家顶级实验室分别研究,得出一致结论:这是系统底层架构自带的毛病,改不了。那么下次再跟ChatGPT聊天的时候,就要观察一下,创作的内容是真的还是胡编乱造。

作者最新文章
热门分类
科技TOP
科技最新文章