概要
Cola DLMは、ByteDance Seedなどが発表した、研究向けの階層型連続潜在空間拡散言語モデルです。対象の公開チェックポイントは、論文のスケーリング実験における学習計算量約2000 EFLOPsのものです。これは推論速度を示す数値ではありません。(arxiv.org)
能力と用途
- 入力・出力:テキストを入力し、テキストを生成します。Text VAEでテキストと連続潜在表現を変換し、ブロック因果型Diffusion Transformer(DiT)とFlow Matchingで潜在空間の事前分布をモデル化します。
- 用途:潜在変数言語モデル、テキスト拡散、Flow Matching、およびベンチマーク形式のテキスト生成に関する研究・技術実験。
- 公開形態:モデル重みと推論コードが公開されています。ライセンスはApache License 2.0です。自己ホスト用のOpenAI互換アダプターも提供されますが、これはByteDanceが提供する有料ホストAPIの存在を意味しません。(huggingface.co)
制限
主に英語テキストで学習され、他言語の能力は十分に評価されていません。指示チューニングやRLHFは行われておらず、生成結果には事実誤認、偏見、攻撃的表現、幻覚が含まれる可能性があります。プロンプトの形式や長さにも結果が左右されます。公式モデルカードは、製品用チャットボットや安全性が重要な意思決定に用いないよう注意しています。(huggingface.co)
公開日
2026年5月7日:論文の初版がarXivに提出された日です。モデル重みの公開日と同一であることは確認できません。(arxiv.org)
価格
2026年11月16日確認。中国国内の火山引擎および国際向けBytePlus ModelArkの公式価格表では、本モデルの入力・出力API料金を確認できませんでした。したがって、CNY・USDともに価格は未確認です。自己ホスト時の計算資源などの費用は利用環境に依存します。(docs.volcengine.com)