모델 소개
Nemotron-Labs-Diffusion is a tri-mode language model that supports both AR decoding and diffusion-based parallel decoding by simply switching the attention pattern of the same model during inference. The synergy between these two modes enables a third mode, called self-speculation: the same model performs diffusion-based parallel drafting and AR verification with shared KV cache, achieving high acceptance lengths and decoding efficiency. The seamless mode switching by simply changing attention patterns enables high efficiency at different concurrency levels in varying deployment scenarios with one single model. An optional LoRA adatper can be applied to the diffusion drafter in the linear self-speculation mode to further increase the acceptance length: NVIDIA believes Trustworthy AI is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. When downloaded or used in accordance with our terms of service, developers should work with their internal model team to ensure this model meets requirements for the relevant industry and use case and addresses unforeseen product misuse. For more detailed information on ethical considerations for this model, please see the bias, explainability, safety & security, and privacy subcards.
주요 특징
特点摘要待依据来源补齐,不凭模型名称推断能力。
한계 및 유의 사항
구체적 한계를 판단할 출처가 부족합니다. 실제 성능, 지연, 데이터 정책, 라이선스와 버전 수명을 확인하세요.
출처별 요금 및 비용 분석
요금은 채널, 지역, 설정에 따라 다릅니다. 각 채널 요금은 개별 표시되며 제공사의 통일 공식 요금이 아닙니다.
| 출처 / 채널 | 입력 | 출력 | 과금 단위 | 수집 시간 |
|---|---|---|---|---|
| 확인된 요금이 없습니다. 출처를 확인하세요. | ||||
월간 기본 토큰 비용 추정
추정치에는 캐시 할인, 구간 요금, 멀티모달 추가 요금, 검색, 세금 및 추가 추론 출력이 포함되지 않습니다.
공개 평가 및 실행 설정
暂无已采集的可核验公开评分。模型未上榜不代表能力较低。
등록된 전체 순위 보기 →자주 묻는 질문
오픈 웨이트면 무료 상업 이용이 가능한가요?
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 조건과 정책을 확인하세요. 자체 배포에는 연산 및 유지 비용도 듭니다.
실시간 결제 요금인가요?
수집 시간이 기록된 요금 스냅샷입니다. 최신 버전, 지역, 할인과 과금 방식은 해당 채널에서 확인하세요.
출처 및 추적 기록
许可证:other。模型介绍与第三方评测均以原来源的具体版本和方法为准。