近日，一起發(fā)生在Facebook蘑菇愛好者群組的事件，再次引發(fā)了對AI應(yīng)用安全性的擔(dān)憂。據(jù)404Media報(bào)道，一個名為"FungiFriend"的AI代理潛入了擁有1.3萬成員的"東北蘑菇識別與討論"群組，并給出了具有潛在致命風(fēng)險的錯誤建議。

當(dāng)被詢問如何烹飪含有高濃度砷的Sarcosphaera coronaria蘑菇時，F(xiàn)ungiFriend不僅錯誤地表示該蘑菇"可以食用"，還詳細(xì)介紹了包括煎炒、燉煮等多種烹飪方法。而事實(shí)上，這種蘑菇已經(jīng)造成過致命案例。

消費(fèi)者安全組織Public Citizen的研究主管Rick Claypool指出，利用AI自動化識別可食用和有毒蘑菇是一項(xiàng)"高風(fēng)險活動"，目前的AI系統(tǒng)尚無法準(zhǔn)確完成這項(xiàng)任務(wù)。

這并非個案。過去一年，AI應(yīng)用在食品安全領(lǐng)域頻頻出現(xiàn)嚴(yán)重失誤:-有AI應(yīng)用推薦制作含驅(qū)蚊劑的三明治，某AI系統(tǒng)給出包含氯氣的食譜，甚至出現(xiàn)建議食用石頭的荒謬指導(dǎo)- 谷歌AI還曾聲稱"狗會運(yùn)動"，并建議用膠水制作披薩等。

盡管AI錯誤頻出，但美國企業(yè)仍在快速推進(jìn)AI客服的普及。這種"重速度輕質(zhì)量"的做法背后，反映出企業(yè)過分關(guān)注成本節(jié)約，而對用戶安全考慮不足的問題。專家呼吁，在特定領(lǐng)域，尤其是涉及安全的領(lǐng)域，應(yīng)謹(jǐn)慎使用AI技術(shù)，確保信息的準(zhǔn)確性和可靠性。