模型定位
Cola DLM 是 ByteDance Seed 等研究者提出的分層連續潛在空間擴散語言模型,主要面向研究與技術驗證。Cola-DLM-2000-EFLOPs 指論文擴展曲線中約 2000 EFLOPs 訓練計算量對應的開放權重檢查點;這是訓練計算量,並非推論速度。(arxiv.org)
能力與用途
- **文字生成:**使用 Text VAE 建立文字與連續潛在表示之間的映射,再以分塊因果 Diffusion Transformer(DiT)及 Flow Matching 建模潛在先驗,最後透過條件解碼生成文字。(github.com)
- **研究用途:**適合探索潛在變數語言模型、文字擴散、Flow Matching,以及基準測試式文字生成。論文比較了約 20 億參數規模的模型與基線。(arxiv.org)
- **部署:**官方提供模型權重與推論程式碼,並提供可自行部署的 OpenAI 相容介面;這不表示已有官方託管 API。開源程式碼採 Apache License 2.0。(huggingface.co)
限制
- 此檢查點未經指令微調或 RLHF,不應視為生產級聊天機器人,也不適用於安全關鍵決策。輸出可能包含錯誤、偏見或不適當內容。(huggingface.co)
- 訓練文字主要為英文;其他語言的能力尚未充分評估。生成品質對提示格式和長度敏感。(huggingface.co)
- 開源版本涵蓋純文字流程;論文討論的文字與影像整合仍屬初步研究,未包含在此版本中。(github.com)
發布日期
論文初版於 2026 年 5 月 7 日提交 arXiv;該日期不應視為已核實的開源權重發布日期。(arxiv.org)
價格
截至 2026 年 11 月 16 日,已查閱中國大陸火山方舟及國際 BytePlus ModelArk 官方定價資料,未核實到此模型的官方託管 API 輸入或輸出價格;因此無法確認適用幣種、計費單位或費率。自行部署可能產生運算與基礎設施成本,不能據此推定為免費託管服務。(console.volcengine.com)
官方來源
- 論文初版:Continuous Latent Diffusion Language Model
- ByteDance Seed 模型卡與權重
- 官方程式碼庫
- 火山方舟模型價格;查詢日期:2026 年 11 月 16 日。
- BytePlus ModelArk 價格;查詢日期:2026 年 11 月 16 日。