Meta Platforms今日發(fā)布其Llama模型的全新精簡(jiǎn)版本，包括Llama3.21B和3B兩款產(chǎn)品，首次實(shí)現(xiàn)了大規(guī)模語(yǔ)言模型在普通智能手機(jī)和平板電腦上的穩(wěn)定運(yùn)行。通過(guò)創(chuàng)新性地整合量化訓(xùn)練技術(shù)與優(yōu)化算法，新版本在保持原有處理質(zhì)量的同時(shí)，將文件體積縮減56%，運(yùn)行內(nèi)存需求降低41%，處理速度更是提升至原版4倍，單次可連續(xù)處理8，000字符文本。

在 Android 手機(jī)上進(jìn)行測(cè)試時(shí)，Meta 的壓縮 AI 模型（SpinQuant 和 QLoRA）與標(biāo)準(zhǔn)版本相比，速度和效率都有顯著提升。較小的模型運(yùn)行速度提高了四倍，而內(nèi)存占用卻減少了

在OnePlus12手機(jī)的實(shí)際測(cè)試中，這款壓縮版本展現(xiàn)出與標(biāo)準(zhǔn)版本相當(dāng)?shù)男阅鼙憩F(xiàn)，同時(shí)大幅提升了運(yùn)行效率，有效解決了移動(dòng)設(shè)備算力不足的長(zhǎng)期困擾。Meta選擇采取開放合作的市場(chǎng)策略，與高通、聯(lián)發(fā)科等主流移動(dòng)處理器制造商展開深度合作，新版本將通過(guò)Llama官方網(wǎng)站和Hugging Face平臺(tái)同步發(fā)布，為開發(fā)者提供便捷的接入渠道。

這一策略與行業(yè)其他巨頭形成鮮明對(duì)比。當(dāng)谷歌和蘋果選擇將新技術(shù)與其操作系統(tǒng)深度整合時(shí)，Meta的開放路線為開發(fā)者提供了更大的創(chuàng)新空間。此次發(fā)布標(biāo)志著數(shù)據(jù)處理模式正從集中式服務(wù)器向個(gè)人終端轉(zhuǎn)變，本地處理方案不僅能更好地保護(hù)用戶隱私，還能提供更快捷的響應(yīng)體驗(yàn)。

這項(xiàng)技術(shù)突破可能引發(fā)如同個(gè)人電腦普及時(shí)期的重大變革，盡管仍面臨設(shè)備性能要求、開發(fā)者平臺(tái)選擇等挑戰(zhàn)。隨著移動(dòng)設(shè)備性能的持續(xù)提升，本地化處理方案的優(yōu)勢(shì)將逐步顯現(xiàn)。Meta期望通過(guò)開放合作的方式，推動(dòng)整個(gè)行業(yè)向更高效、更安全的方向發(fā)展，為移動(dòng)設(shè)備的未來(lái)應(yīng)用開發(fā)開辟新途徑。