OpenAI的Whisper模型,曾被誉为接近“人类水平稳定性和准确性”的AI转录工具,如今却深陷“幻觉”泥潭。这种AI“胡编乱造”的现象,正引发业界对人工智能伦理、应用安全以及未来发展方向的深刻反思。一、Whisper模型的“幻觉”问题:现象与成因“幻觉”,在AI领域指的是模型生成与事实不符、逻辑不通的虚假内容。Whisper模型的幻觉问题表现为在转录过程中凭空捏造文字,甚至出现种族歧视、暴力言论等有害信息。多项研究和用户反馈表明,Whisper的幻觉现象并非个例,其发生概率之高令人担忧。造成...【查看原文】