新智元报道  编辑：桃子【新智元导读】大模型幻觉，究竟是怎么来的？谷歌、苹果等机构研究人员发现，大模型知道的远比表现的要多。它们能够在内部编码正确答案，却依旧输出了错误内容。到现在为止，我们仍旧对大模型「幻觉」如何、为何产生，知之甚少。最近，来自Te ...

在人工智能领域，大型预训练模型（如 GPT 和 LLaVA）的 “幻觉” 现象常被视为一个难以克服的挑战，尤其是在执行精确任务如图像分割时。然而，最新发表于 NeurIPS 2024 的研究《Leveraging Hallucinations to ...

幻觉是指感知到环境中不存在的虚假事物。 幻觉由大脑创造，可以看到、听到、感觉到、闻到和尝到，是一种非常生动的感官 ...

这款由名为 Nabla 的公司开发的转录工具，已经成功转录了超过700万次医学对话，目前有超过3万名临床医生和40个健康系统在使用它。尽管如此，Nabla 公司也意识到了 Whisper 会产生幻觉的可能性，并表示正在努力解决这个问题。

在人工智能领域，大型预训练模型（如 GPT 和 LLaVA）的 “幻觉” 现象常被视为一个难以克服的挑战，尤其是在执行精确任务如图像分割时。然而 ...

近日，OpenAI的语音转写工具Whisper遭到广泛关注，原因在于其在转写语音时不时会生成虚假的内容。这种现象被称为“AI幻觉”，这是指AI系统在生成结果时出现与实际不符的信息。这一问题不仅引发了开发者和研究人员的担忧，也在多个行业中产生了潜在的负面影响，特别是在对信息准确性要求极高的领域如医疗和法律。这篇文章将深入探讨Whisper工具的背景、存在的问题及对行业的可能影响。

为了应对这一挑战，位于旧金山的初创公司 Patronus AI 宣布推出全球 首个 自助服务平台，旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”，可以在问题发生前将其捕捉到。

而现在，据美联社报道，很多研究人员和工程师反映，在工作中他们经常遇到Whisper产生的幻觉。 例如，密歇根大学的一位研究员在尝试改进模型 ...

近期，OpenAI的语音转写工具Whisper频频出现内容错误，特别是生成了大量虚假信息，引起了广泛的社会关注和讨论。这一现象被众多软件工程师、开发者及科研人员所指责，称之为“AI幻觉”。尽管OpenAI已明确警告用户在高风险领域中应谨慎使用这一工具，Whisper的实际应用范围依然十分广泛，尤其在医疗行业中更是屡见不鲜。

Whisper工具已被广泛应用于全球多个行业，包括翻译、访谈内容转录、生成消费科技文本和视频字幕制作等。这种广泛的应用使得Whisper的“幻觉”问题变得更加严重，因为它可能会在不经意间传播错误信息。

近日，据美联社报道，多位软件工程师、开发人员和学术研究人员指出，OpenAI推出的语音转写工具Whisper存在一个令人担忧的重大缺陷：该工具在转录过程中有时会凭空生成大段甚至整句的虚假内容，业内通常将这一现象称为“AI幻觉”。