← 전체 모델

Cola DLM

발표일 발표 기관 ByteDancecola-dlm

모델 개요

Cola DLM은 ByteDance Seed 등이 발표한 계층적 연속 잠재공간 확산 언어 모델이다. 공개 체크포인트는 논문의 확장 실험에서 학습 연산량이 약 2,000 EFLOPs인 지점에 해당한다. 이는 학습에 사용된 연산량이지 추론 속도를 뜻하지 않는다. 모델 규모는 약 20억 파라미터다. (arxiv.org)

능력과 용도

  • Text VAE가 텍스트를 연속 잠재 표현으로 변환하고, 블록 인과 확산 트랜스포머(DiT)가 Flow Matching으로 잠재공간의 사전분포를 모델링한 뒤 조건부 디코더가 텍스트를 생성한다. (huggingface.co)
  • 주요 용도는 잠재공간 텍스트 확산 및 언어 모델 연구, 텍스트 생성, 질문 응답과 벤치마크 평가다. 공개 가중치와 추론 코드를 사용해 직접 배포할 수 있으며, 코드와 모델은 Apache License 2.0으로 제공된다. (huggingface.co)
  • cola-dlm은 공식 저장소의 자체 호스팅 HTTP 어댑터에서 사용하는 기본 모델 ID다. 해당 어댑터는 비스트리밍 완성을 지원한다. (github.com)

제한사항

  • 이 체크포인트는 지시 튜닝이나 RLHF를 거치지 않았으며, 운영용 챗봇이나 의료·법률·금융 등 안전에 중요한 의사결정에 사용하도록 만들어지지 않았다.
  • 학습 데이터는 주로 영어이므로 한국어를 포함한 다른 언어의 성능은 충분히 평가되지 않았다. 결과에 사실 오류, 편향, 유해한 내용 또는 환각이 포함될 수 있다.
  • 논문의 내부 평가 구현과 공개 구현은 세부적으로 달라 작업별 평가 결과가 다소 달라질 수 있다. 공개 저장소에는 학습 코드가 아닌 추론 코드가 포함된다. (huggingface.co)

발표일

논문 초판 제출일은 2026년 5월 7일이다. 이 날짜가 공개 가중치의 배포일과 같은지는 확인되지 않았다. (arxiv.org)

가격

2026년 11월 16일 기준, 중국 내 화산방주 공식 모델 가격표와 국제 BytePlus ModelArk 공식 가격표에서 이 모델에 해당하는 공식 API 가격을 확인하지 못했다. 따라서 CNY/RMB 및 USD의 입력·출력 토큰별 과금액은 미확인이다. 자체 배포 시 발생하는 컴퓨팅 등 운영 비용은 별도다. (console.volcengine.com)

공식 자료