CAMPHOR是蘋果團隊推出的端側小語言模型（SLM）多智能體框架，能提升移動設備的隱私保護和響應速度?？蚣芑谠谠O備本地處理多個用戶輸入并進行個人上下文推理，確保用戶隱私安全。CAMPHOR基于分層架構，其中高階推理智能體負責分解復雜任務，并協(xié)調專家智能體執(zhí)行個人上下文檢索、工具交互和動態(tài)計劃生成。基于智能體間的參數(shù)共享和提示壓縮技術，CAMPHOR顯著減少模型的體積、延遲和內存占用。
CAMPHOR的主要功能多用戶輸入處理：能同時處理多個用戶的輸入。本地上下文推理：在設備本地進行個人上下文的推理，保護隱私。復雜任務分解：將復雜任務分解為更小的子任務，便于管理和執(zhí)行。工具交互：與設備上的工具和應用程序進行交互，執(zhí)行特定任務。動態(tài)計劃生成：根據(jù)用戶的需求和上下文動態(tài)生成執(zhí)行計劃。參數(shù)共享：在不同智能體之間共享參數(shù)，減少模型大小和提高效率。CAMPHOR的技術原理分層架構：用分層的智能體架構，包括高階推理智能體和多個專家智能體。高階推理：高階推理智能體負責規(guī)劃和協(xié)調整個任務的執(zhí)行流程。專家智能體：專家智能體負責特定任務，如個人上下文檢索、工具交互等。參數(shù)共享：在智能體之間實現(xiàn)參數(shù)共享，減少模型的存儲和計算需求。提示壓縮：基于將功能定義壓縮為單個令牌，減少提示的長度，能在有限的資源下工作。本地執(zhí)行：所有處理都在用戶設備上完成，無需與服務器通信，保護隱私并減少延遲。CAMPHOR的項目地址項目官網：machinelearning.apple.com/research/collaborative-agentsarXiv技術論文：https://arxiv.org/pdf/2410.09407CAMPHOR的應用場景個性化移動助手：在智能手機上，作為個性化的移動助手，處理用戶的日常任務，如日程管理、提醒設置、信息檢索等。隱私保護的數(shù)據(jù)處理：適用于需要保護用戶隱私的場景，如健康數(shù)據(jù)管理、財務信息處理等。多任務并行處理：適合于需要并行處理多個請求的環(huán)境，比如家庭自動化系統(tǒng)。本地化服務：在沒有穩(wěn)定網絡連接的情況下，提供基于本地數(shù)據(jù)的服務，如導航、本地信息檢索等。智能設備交互：與各種智能設備交互，如智能家居設備，實現(xiàn)設備間的協(xié)同工作。 
