近日，微軟提交了一項專利申請，旨在通過一種技術方法減少或消除人工智能生成的虛假信息。該專利的名稱為 “利用外部知識和反饋與語言模型互動”，于去年向美國專利商標局（USPTO）遞交，并于10月31日公開。

這一提案的核心是為 AI 模型提供一種 “響應增強系統”（RAS），使其能夠根據用戶的查詢自動提取更多信息，并檢查其回答的 “有效性”。

具體來說，響應增強系統能夠識別是否有來自 “外部來源” 的信息能夠更好地回答用戶的問題。如果 AI 的回答沒有包含這些信息，該系統會將其判定為不夠有用。此外，RAS 還可以向用戶提示其回答是否存在不足之處，用戶也可以對此進行反饋。這一方案的優點在于，不需要開發者或公司對現有模型進行細致的調整。

目前，USPTO 網站尚未顯示該申請的專利編號，這意味著該專利仍在審查之中。我們聯系了微軟以了解更多信息，包括該專利是否與微軟此前宣布的降低 AI 幻覺的工具 ——Azure AI 內容安全工具有關。該工具為企業 AI 聊天機器人提供了 AI 驅動的驗證，能夠在后臺進行事實核查，判斷 AI 的回答是否 “無根基” 或 “有根基”，在向用戶提供答案之前，只提供有實際數據支持的回答。

AI 幻覺問題是生成性 AI 面臨的最大挑戰之一，嚴重影響了 AI 聊天機器人的可信度。在這方面，谷歌和推特的 AI 系統都曾產生過令人矚目的錯誤，例如建議用戶將膠水涂在披薩上或食用石頭，甚至傳播選舉虛假信息。蘋果公司首席執行官蒂姆?庫克也承認，蘋果的智能技術同樣無法避免幻覺問題。近期，OpenAI 的 “Whisper” 音頻轉錄工具也被發現頻繁出現幻覺，令其在美國醫院的使用受到關注。

盡管 AI 幻覺問題突出，科技巨頭們對 AI 數據中心的需求依然強烈，包括谷歌、微軟和 Meta 在內的公司正考慮將核能作為滿足 AI 高能耗需求的潛在解決方案。

劃重點:

?? 微軟申請了一項新專利，旨在減少 AI 生成的虛假信息。

?? 該專利的核心是為 AI 模型引入響應增強系統，自動提取更多信息。

? 盡管 AI 幻覺問題嚴重，但科技公司對 AI 數據中心的需求依然強勁。