MATRIX-Gen是上海交通大學和牛津大學研究團隊推出的多智能體模擬系統，基于模擬1000多個具有獨立身份和人格的AI智能體組成的社會，生成多樣化且高質量的訓練指令數據。訓練指令數據用在大型語言模型（LLMs）的后訓練，提升模型遵循人類指令的能力，在多個任務中展現出優異的性能。MATRIX-Gen根據不同需求合成指令，包括通用和特定領域的數據集，推動了大模型自我進化和性能提升。
MATRIX-Gen的主要功能數據合成：MATRIX-Gen根據特定需求合成多樣化且高質量的訓練指令數據，用在大型語言模型（LLMs）的后訓練。場景模擬：基于模擬1000多個AI智能體的社會互動，MATRIX-Gen生成真實且豐富的場景，場景覆蓋從軟件開發到商業活動的廣泛領域。指令生成：基于模擬出的場景，MATRIX-Gen能生成符合人類意圖的指令，確保合成指令的真實性和可控性。性能提升：MATRIX-Gen合成的數據能提升LLMs在多個領域的性能，包括代碼生成、多輪對話和安全性任務。自我進化：用MATRIX-Gen合成的數據，LLMs能實現自我進化，在數據量較少的情況下也能超越傳統訓練方法。MATRIX-Gen的技術原理多智能體模擬：MATRIX-Gen基于多智能體模擬技術，創建包含1000多個智能體的AI社會模擬器（MATRIX），每個智能體都有基于真實人類檔案的獨特身份和人格。真實世界檔案初始化：智能體基于匿名化的真實人類檔案進行初始化，由大型語言模型（LLM）生成其個性和人生目標，目標被分解為可執行的步驟，形成智能體的行動計劃。結構化通信機制：MATRIX-Gen基于結構化的通信機制，用分組和模調制器管理智能體間的溝通，提高模擬的可擴展性和真實性。場景生成：基于智能體的交互，MATRIX-Gen生成大規模真實場景，場景被用作后訓練數據合成的基礎。指令生成器：MATRIX-Gen作為場景驅動的指令生成器，根據模擬場景和特定用戶需求合成后訓練數據，包括監督微調（SFT）數據集、偏好調優（DPO）數據集和特定領域的SFT數據集。MATRIX-Gen的項目地址GitHub倉庫：https://github.com/ShuoTang123/MATRIX-GenarXiv技術論文：https://arxiv.org/pdf/2410.14251MATRIX-Gen的應用場景軟件開發：生成用在代碼生成、代碼審查、調試和測試的指令數據，訓練和優化LLMs在軟件開發任務中的表現。商業活動：模擬商業決策、市場分析、客戶服務等場景，生成數據提升LLMs在商業智能和策略規劃方面的應用能力。醫療診斷：創建與醫療診斷、病例分析和治療方案討論相關的指令數據，提高LLMs在醫療領域的輔助決策能力。教育和培訓：生成教學內容、課程設計和學習路徑規劃的指令數據，改善LLMs在個性化教育和在線學習平臺的應用。客戶服務：模擬客戶咨詢、問題解決和服務流程優化的場景，生成數據提升LLMs在自動化客戶服務系統中的應用效果。 
