SFR-RAG是由Salesforce AI Research推出的一款大型語言模型，專注于提升機器在理解和生成文本方面的應(yīng)用能力。模型特別強調(diào)對上下文的忠實理解，在檢索增強生成領(lǐng)域進行優(yōu)化。SFR-RAG包含90億參數(shù)，規(guī)模相對較小，但在特定任務(wù)中的表現(xiàn)超越更大型的同類產(chǎn)品，如Command-R+ (104B)、GPT-4o等。SFR-RAG能有效處理信息不足或矛盾的上下文場景，執(zhí)行復(fù)雜的多跳推理，可靠地生成引用。SFR-RAG集成函數(shù)調(diào)用功能，能與外部工具動態(tài)交互，檢索高質(zhì)量的上下文信息。
SFR-RAG的主要功能上下文理解：理解和分析提供的上下文信息，生成準(zhǔn)確和相關(guān)的文本。檢索增強生成：結(jié)合外部信息源，通過檢索相關(guān)文檔增強生成文本的事實準(zhǔn)確性。幻覺最小化：設(shè)計用來減少生成與現(xiàn)實不符或完全捏造的信息。多跳推理：執(zhí)行復(fù)雜的推理任務(wù)，通過綜合多個上下文信息來推斷答案。可靠引用：在生成文本時提供準(zhǔn)確的來源引用。函數(shù)調(diào)用：集成函數(shù)調(diào)用功能，與外部工具交互以檢索高質(zhì)量的上下文信息。SFR-RAG的技術(shù)原理指令調(diào)整：SFR-RAG通過指令調(diào)整（instruction-tuning）進行訓(xùn)練，強調(diào)上下文生成和幻覺最小化。聊天模板：引入新的聊天模板，包括“Thought”（思考）和“Observation”（觀察）角色，改進模型的內(nèi)部推理和外部信息檢索。檢索器集成：與知識檢索器協(xié)同工作，從大量文檔中檢索與用戶查詢最相關(guān)的信息。多模態(tài)學(xué)習(xí)：通過多模態(tài)學(xué)習(xí)，模型能處理和理解來自不同來源的信息。偏好學(xué)習(xí)：用偏好學(xué)習(xí)（preference learning）技術(shù)微調(diào)模型，以便更好地模仿人類對信息的評估和選擇。SFR-RAG的項目地址項目官網(wǎng)：blog.salesforceairesearch.com/sfr-ragGitHub倉庫：https://github.com/SalesforceAIResearch/SFR-RAGarXiv技術(shù)論文：https://arxiv.org/pdf/2409.09916SFR-RAG的應(yīng)用場景客戶服務(wù)：作為聊天機器人，提供基于上下文的準(zhǔn)確回答，提高客戶滿意度。知識問答：在問答系統(tǒng)（如TriviaQA、HotpotQA）中，提供基于復(fù)雜上下文的詳細回答。內(nèi)容創(chuàng)作：輔助撰寫文章、報告或營銷材料，確保內(nèi)容的準(zhǔn)確性和相關(guān)性。教育輔導(dǎo)：作為教學(xué)輔助工具，提供個性化的學(xué)習(xí)建議和答案解析。市場研究：分析市場數(shù)據(jù)和趨勢，生成基于最新信息的報告。法律咨詢：提供基于法律文檔和案例的咨詢，幫助解讀法律條文。醫(yī)療咨詢：輔助醫(yī)生和患者理解復(fù)雜的醫(yī)療信息，提供基于最新研究的建議。 
