最近注意到 LiquidAI 發布了 LFM2.5-2.6B 模型。在大家都正競爭參數量更大、邏輯更強的雲端模型時，這款模型反其道而行，專攻「裝置端（On-device）」的代理人（Agents）能力。這讓人開始思考，本地端模型是否也正在如火如荼、暗潮洶湧的展開。
新聞重點
根據 LiquidAI 官方發布的技術文件，LFM2.5-2.6B 是一款參數規模僅 26 億的小型模型，但其核心目標非常明確：讓強大的 AI 代理人能在日常硬體（如筆電或手機）上流暢運行。
以下是這款模型的核心技術規格與表現：
* 極致的推論速度：在 Apple M5 Max 上可達每秒 220 個標記（tok/s），在 AMD Ryzen CPU 上也有 113 tok/s。即使在手機上，也能維持約 30 tok/s 的運行速度。
* 低硬體門檻：記憶體佔用低於 2.5 GB，這意味著大多數現代行動裝置都能輕鬆負擔。
* 特殊的訓練流程：模型經歷了四階段後訓練，包含監督式微調（SFT）、教師專業化、多領域在線策略蒸餾（MOPD），以及最關鍵的「代理人強化學習（Agentic RL）」。這讓它在工具調用與多步驟工作流的表現，能與體積大其四倍的模型（如 Gemma-4 或 Qwen3.5 的較大版本）競爭。
* 能力取捨：雖然在指令遵循與工具使用上表現優異，但官方也坦承，在程式碼（Coding）編寫能力上，LFM2.5-2.6B 仍明顯遜於較大的模型。
我的觀察
從 LiquidAI 的這項技術進展中，我認為 AI 產業也準備迎來新的競爭場域：除了雲端資料中心的前沿模型，本地端（On-Device）的比拚也準備拉開序幕。
1. 從「拼參數」轉向「端側流暢度」
雲端大模型的參數膨脹已面臨算力與成本瓶頸，而 2.6B 級別的小模型開啟了「本機端流暢體驗」的全新戰場。目前端側 AI 尚處於發展早期，我認為隨著軟硬體生態完善，誰能搶佔手機與筆電的終端進入點，誰就能掌握下一個龐大的使用者入口。
2. 能力轉向：重「工具調用」勝於「百科全書」
對於消費層級的端側模型來說，使用者需要的可能不是博學多聞或極致的邏輯推導，而是「精準執行」。核心需求在於極高的指令遵循，以及能像穿針引線般處理個人數據、行事曆調度、檔案處理與日常自動化任務。
3. 商業模式的典範轉移
當本機端模型足夠成熟，商業模式可能會從「賣算力」轉向「賣體驗與隱私」。例如，硬體廠商可能透過高記憶體與 NPU 的軟硬整合帶動換機潮；或是出現「混合式訂閱」，由本地 Agent 處理 80% 的日常任務（免費且無延遲），只有超高難度任務才付費呼叫雲端模型。
這件事值得繼續觀察什麼
1. 硬體與 AI 的協同進化：文中提到的 M5 Max 與 Ryzen AI Max+ 數據反映了硬體對 AI 的優化程度。未來裝置端 AI 普及的門檻，很大程度取決於 NPU 與記憶體規格的普及速度。
2. 邊緣調度與雲端支援的協作模式：未來的 AI 趨勢可能不再是單一模型包辦所有事，而是「邊緣調度，雲端支援」。本地小模型作為「數位管家」負責日常自動化，這對隱私保護與降低推論成本有極大意義。
原文連結：https://huggingface.co/blog/LiquidAI/lfm2-5-2-6b
