近期，有報道稱OpenAI的語音轉(zhuǎn)寫工具Whisper存在嚴(yán)重問題，該工具頻繁創(chuàng)造出虛假內(nèi)容，引發(fā)多方關(guān)注。這一問題由多名軟件工程師、開發(fā)人員及學(xué)術(shù)研究人員揭露，并將其稱為“AI幻覺”。
盡管OpenAI已明確警告不宜在高風(fēng)險領(lǐng)域使用Whisper，但該工具仍被廣泛應(yīng)用于全球多個行業(yè)，包括醫(yī)療領(lǐng)域。在醫(yī)療機構(gòu)中，部分機構(gòu)仍使用該工具記錄醫(yī)患咨詢，引發(fā)專家擔(dān)憂。
實際案例顯示，Whisper的“幻覺”現(xiàn)象十分普遍。多名研究人員和開發(fā)人員均發(fā)現(xiàn)，在使用Whisper進行轉(zhuǎn)錄時，大量虛假內(nèi)容被創(chuàng)造出來。
對此，OpenAI表示正在研究減少“幻覺”現(xiàn)象的方法，并感謝研究者的發(fā)現(xiàn)。公司承諾將在未來的模型更新中采納相關(guān)建議。
