MiniCPM5-2B-MLX-8bit
abenzerps基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
언어부터 이미지, 오픈 웨이트부터 API까지. 기능과 실제 비용을 비교하세요.
다음 아이디어에 맞는 AI를 찾아보세요.
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
Mixed-precision **GSQ-RCO** GGUF quantizations of Nanbeige/Nanbeige4.3-33B, optimized for efficient, high-fidelity local inference in `llama.cpp`. **64k Long-Context (Low-VRAM)** Using 4-bit KV cache (`-ctk q4_0 -ctv q4_0`) allows 65k context to run within **< 12 GB total VRAM** on consumer 12 GB GPUs (e.g. RTX 3060 12GB, RTX 4070):
번역 대기 중 · 원문 표시
Mixed-precision **GSQ-RCO** GGUF quantizations of nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-BF16, optimized for efficient, high-fidelity local inference in `llama.cpp`. The model supports a context length of up to 65,536 tokens (64K). Standard quantization severely degrades hybrid sliding-attention models with shared Key-Value caches, multimodal projections, and speculative draft targets. **GSQ-RCO** solves this through two targeted techniques: - **RCO:** Preserves all 54 shared `k_proj`, `v_proj`, and `norm` tensors across layers 24–41 in high precision (`Q5_K`/`Q6_K`), maintaining structural attention geometry, visual projection alignment, and DFlash draft compatibility. - **GSQ:** Optimizes per-layer precision guided by Hessian sensitivity calibration.
번역 대기 중 · 원문 표시
Mixed-precision **GSQ-RCO** GGUF quantizations of TokenRhythm/NeoHorse-1-9B, optimized for efficient, high-fidelity local inference in `llama.cpp`. The model supports a context length of up to 262,144 tokens (262K). Standard quantization severely degrades hybrid SSM-Transformer models (e.g. stock low-bit quantizations cause recurrent state drift and degradation in reasoning coherence). **GSQ-RCO** solves this through two targeted techniques: - **RCO:** Keeps all 48 critical SSM parameters in unquantized **BF16**. - **GSQ:** Optimizes per-layer precision guided by Hessian sensitivity calibration.
번역 대기 중 · 원문 표시
GGUF files for Nex-N2.5-mini, a long-context agentic model for coding, tool use, computer use, and multimodal workloads. The source checkpoint supports a native context length of **262,144 tokens (256K)**. *Benchmark results reported by Nex-AGI for the original Nex-N2.5 family. These figures are not measurements of this GGUF conversion.* The projector is optional for text-only use. Use it with a current llama.cpp build that supports the model's multimodal path.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
Mixed-precision **GSQ-RCO** GGUF quantizations of ornith-ai/Ornith-1.5-9B, optimized for efficient, high-fidelity local inference in `llama.cpp`. The model supports a context length of up to 262,144 tokens (262K). Standard quantization severely degrades hybrid SSM-Transformer models (e.g. stock IQ3_M perplexity drops to ~75.2). **GSQ-RCO** solves this through two targeted techniques: - **RCO:** Keeps all 48 critical SSM parameters in unquantized **BF16**. - **GSQ:** Optimizes per-layer precision guided by Hessian sensitivity calibration.
번역 대기 중 · 원문 표시
> [!IMPORTANT] > **Compatibility:** These GGUF files require `llama.cpp` **b10828** or later, which includes official support for the Spark-X2.5 (`spark2_5`) architecture. Applications with a bundled runtime must use an equivalent or newer build. llama.cpp support GGUF quantizations of XHToken/Spark-X2.5-4B, a 4B general-purpose language model for reasoning, coding, tool use, and agentic workflows. Native context: **1,048,576 tokens (1M)**. Includes the upstream chat_template.jinja. Checksums: SHA256SUMS.txt.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
제공사, 분류, 입출력 조건을 조정하세요. 새 모델이 계속 등록됩니다.
월간 토큰 사용량으로 예상 API 비용을 비교하세요.
수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.
입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.
순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.