MiniCPM5-2B-cmf
infosave基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
언어부터 이미지, 오픈 웨이트부터 API까지. 기능과 실제 비용을 비교하세요.
다음 아이디어에 맞는 AI를 찾아보세요.
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
Nanbeige/Nanbeige4.2-3B converted to the CMF format: a single mmap-served file executed by a pure-Rust runtime. Nanbeige 4.2 is a **Looped Transformer**: 22 physical layers applied twice (44 virtual layers) with a re-norm at each loop boundary — the engine executes the loop natively — and a reasoning model that thinks before it answers. Measured on a **fanless MacBook Air (Apple M4)** — 10-core CPU (4 performance + 6 efficiency), 10-core GPU, 24 GB unified memory, macOS 27. No external cooling, no overclock, nothing plugged in.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
Qwen3.8-27B (48 GatedDeltaNet linear-attention layers + 16 full-attention layers, 262k context, thinking mode) packaged as a single CMF file. It runs with `cortiq`, a Rust inference engine with no Python and no ML framework: NVIDIA, AMD and Intel GPUs through Vulkan/DX12, Apple silicon through Metal, and the CPU. Use cortiq 0.8.15 or later for fast prompt processing; prebuilt binaries for Linux, macOS and Windows are on the releases page. The engine picks the GPU and its settings itself. `--no-think` asks for a direct answer; without it the model reasons first, so raise `--max-tokens` (default 256). The 4-bit files are quantized directly from the bf16 checkpoint. Perplexity: twelve 512-token windows of wikitext-2.
번역 대기 중 · 원문 표시
Qwen3.8-Flash-Next — a 125B hybrid mixture-of-experts model, 6B active per token (36 Gated DeltaNet + 12 sparse-attention layers, 512 experts per layer, 51B n-gram table, 262k context, thinking mode) — as CMF files, text only. It runs with `cortiq`, a Rust engine with no Python. Experts stream from the memory-mapped file as tokens need them, so the default 77 GB file runs on one GPU (measured from a 12 GB VRAM budget up to a whole 32 GB card) with the rest in system RAM. **RTX 3090 (24 GB), cortiq 0.8.15: 49.1 tok/s decode; first token after a 1,000-token prompt in 9.9 s.** RTX 5090 (cortiq 0.8.8): 81.7 tok/s, 108.6 with speculative decoding. Use cortiq 0.8.15 or later (prebuilt binaries). Without `--no-think` the model reasons first; raise `--max-tokens` (default 256). Each `cortiq run` loads the model again (10–30 s to the first token); for chat, keep it loaded with `cortiq serve`.
번역 대기 중 · 원문 표시
Spark-X2.5-4B and Spark-X2.5-1.7B (hybrid attention: three 512-token sliding-window layers per full layer, 1M-token context, thinking mode, tool calling, 200+ languages) packaged as single CMF files. They run with `cortiq`, a Rust inference engine with no Python and no ML framework: NVIDIA, AMD and Intel GPUs through Vulkan/DX12, Apple silicon through Metal, and the CPU. Use cortiq 0.8.12 or later; prebuilt binaries for Linux, macOS and Windows are on the releases page. The engine picks the GPU and its settings itself. `--no-think` asks for a direct answer; without it the model reasons in a ` ` block first, so raise `--max-tokens` (default 256). All files are quantized from the bf16 checkpoints. Perplexity: the first 4096 tokens of wikitext-2 test with the BOS token in front; the unquantized models score 10.61 (4B) and 14.49 (1.7B; transformers in float32 gives the same 14.49). Spark is sensitive to 4-bit attention and down projections, so only gate/up are 4-bit in the compact files.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
GGUF, introduced by the llama.cpp team on August 21st, 2023, is a new format designed to replace the outdated GGML, which is no longer maintained by llama.cpp. GGUF boasts several improvements over GGML, such as enhanced tokenization, support for special tokens, and metadata capabilities. It is also designed with extensibility in mind. The NT-Java-1.1B GGUFs are supported by llama.cpp and are compatible with a range of third-party user interfaces and libraries. For a detailed list, please refer to the beginning of this README. **Note**: the above RAM figures assume no GPU offloading. If layers are offloaded to the GPU, this will reduce RAM usage and use VRAM instead.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
> **Custom fork required.** This model uses a novel architecture (MLA + MoE with identity experts + N-gram embeddings) that is not supported by upstream llama.cpp. You must build from the `longcat-flash-ngram` branch of the linked fork. LongCat-Flash-Lite is a 68.5B parameter Mixture-of-Experts language model from Meituan, with only 3–4.5B parameters activated per token. It combines three architectural innovations that make it unusually efficient: Two upstream llama.cpp PRs attempted to add this architecture: - PR #19167 (ngxson) — N-gram embedding support, blocked by base model not yet being supported - PR #19182 (ngxson) — LongCat-Flash base architecture, abandoned after maintainers deemed identity experts too complex
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
제공사, 분류, 입출력 조건을 조정하세요. 새 모델이 계속 등록됩니다.
월간 토큰 사용량으로 예상 API 비용을 비교하세요.
수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.
입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.
순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.