OpenAI語音轉(zhuǎn)寫工具被曝嚴重缺陷：憑空捏造大段虛假內(nèi)容
快科技10月28日消息，據(jù)報道，OpenAI旗下的AI語音轉(zhuǎn)寫工具Whisper被曝存在嚴重缺陷，竟會無中生有地創(chuàng)造大段乃至整句的虛假信息，這一消息引起了廣泛關(guān)注。
尤為引人注目的是，有醫(yī)療機構(gòu)公開承認采用了Whisper來記錄醫(yī)生與患者間的會診內(nèi)容，此舉迅速在網(wǎng)絡(luò)上掀起了軒然大波。
目前，包括美國明尼蘇達州曼卡托診所、洛杉磯兒童醫(yī)院在內(nèi)的眾多醫(yī)療機構(gòu)，已有超過30000名臨床醫(yī)生和40個衛(wèi)生系統(tǒng)開始使用法國AI診療公司Nabla基于Whisper開發(fā)的工具。
然而，值得注意的是，OpenAI此前已明確發(fā)出警告，指出Whisper不宜在“高風險領(lǐng)域”內(nèi)應(yīng)用。
一位機器學習工程師在初步分析超過100小時的Whisper轉(zhuǎn)錄數(shù)據(jù)時，驚人地發(fā)現(xiàn)其中約有一半的內(nèi)容存在“幻覺”現(xiàn)象，即轉(zhuǎn)寫內(nèi)容與原始語音嚴重不符。
關(guān)于Whisper這一嚴重缺陷的具體成因，目前仍不得而知。但有軟件開發(fā)者推測，這些虛構(gòu)內(nèi)容的產(chǎn)生往往與語音中的停頓、背景噪音或音樂播放等因素有關(guān)。
針對此問題，OpenAI方面表示，公司正在積極研究如何有效降低虛構(gòu)內(nèi)容的產(chǎn)生，并對研究人員的發(fā)現(xiàn)表示感謝。同時，OpenAI還承諾將在后續(xù)的模型更新中融入相應(yīng)的反饋機制，以期進一步提升轉(zhuǎn)寫的準確性和可靠性。
作者：鹿角來源：快科技
原文標題 : OpenAI語音轉(zhuǎn)寫工具被曝嚴重缺陷：憑空捏造大段虛假內(nèi)容
分享
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」？
- 2 大廠紛紛入局，百度、阿里、字節(jié)搶奪Agent話語權(quán)
- 3 深度報告｜中國AI產(chǎn)業(yè)正在崛起成全球力量，市場潛力和關(guān)鍵挑戰(zhàn)有哪些？
- 4 上海跑出80億超級獨角獸：獲上市公司戰(zhàn)投，干人形機器人
- 5 國家數(shù)據(jù)局局長劉烈宏調(diào)研格創(chuàng)東智
- 6 下一代入口之戰(zhàn)：大廠為何紛紛押注智能體？
- 7 百億AI芯片訂單，瘋狂傾銷中東？
- 8 Robotaxi新消息密集釋放，量產(chǎn)元年誰在領(lǐng)跑？
- 9 格斗大賽出圈！人形機器人致命短板曝光：頭腦過于簡單
- 10 “搶灘”家用機器人領(lǐng)域，聯(lián)通、海爾、美的等紛紛入局
