DeepSeek-V4-Flash-180B-ROCmFP4-STRIX_LEAN-GGUF
kingjones777基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
언어부터 이미지, 오픈 웨이트부터 API까지. 기능과 실제 비용을 비교하세요.
다음 아이디어에 맞는 AI를 찾아보세요.
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
Four ROCmFP4/ROCmFPX tiers of `IFM/K2-Horizon-MoVA-36B-A4B`, quantised from the official BF16 GGUF and measured on a Ryzen AI Max+ 395 (Radeon 8060S, gfx1151, 128 GB unified, ROCm 7.2.4). This is the **dual-expert** `k2_horizon` MoVA architecture — 36B total parameters, **~4B active** — with two independent expert systems: a 64-way MoVA value-expert bank (top-4) alongside a 100-way MoE feed-forward (top-8), 48 layers, hidden 2560, and it is a **reasoning** model. **Every number on this card was measured on these exact files.** Nothing is estimated. As an A4B MoE, it decodes far faster than a dense 32B on the same hardware. **Start with `FAST`** — fastest on both axes here, all four answer correctly. Take `AGENT` only if you specifically want 8-bit weights.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
`inclusionAI/Ling-3.0-flash-VL` (124B total / 5.5B active, native multimodal) quantized to ROCmFP4 for AMD Strix Halo, **with a multi-token-prediction head grafted in** from its text sibling — and with the server fix that lets **MTP and images work at the same time**, which they do not in stock llama.cpp. Everything below was measured on the shipped files on one Ryzen AI Max+ 395 (Radeon 8060S, 128 GiB unified). Numbers come from the built GGUFs and from server logs, never from estimates. ⚠️ **COHERENT is the worst of the three on this model** even though it is the largest and the highest bit-width (4.70 bpw vs 4.38). Its PPL is 0.80 worse than STRIX_LEAN — roughly 3.5σ against the ±0.23 error bars — and it is slower on both prefill and decode. It ships for completeness; it is not the "quality" option here. Tier ranking is model-dependent and has to be measured, not assumed.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
> ### ⚠️ STOCK `llama.cpp` WILL NOT LOAD THIS MODEL > 🚀 **37.86 tok/s** on a 119B MoE — **63.07 GiB**, 7 GiB smaller than UD-Q4_K_XL. A 4-bit **ROCmFP4** quantization for **AMD gfx1151 (Ryzen AI MAX+ 395 / Strix Halo)**, quantized from **BF16 (222 GiB)** — a lossless source, not a requantization of a lower-bit build. `Q4_0_ROCMFP4_COHERENT` (ftype 102) exists only in `charlie12345/ROCmFPX`, not upstream llama.cpp. Ignore the auto-generated "Use this model" commands above.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
The ROCmFP4 files already in this repository (STRIX, STRIX_LEAN and FAST) are built without importance weighting. This file keeps the STRIX recipe but adds importance-matrix weighting from an agentic calibration imatrix, and raises the output head and the token embedding to Q6_K. The numbers below pair it with the DFlash2 draft head rather than the in-repo MTP head. **How it was built:** - Tool: `gufo-quant`, recipe STRIX, weighted with the agentic imatrix. - Tensor overrides: `output.weight` and `token_embd.weight` at Q6_K; census 866 tensors (82 at type 100, 421 at type 101). - The exact command line was not recorded. **Measured on Super ROC** (AMD Ryzen AI Max+ 395 (Radeon 8060S, gfx1151), 128 GB, ROCm 7.2.4; one request at a time, temperature 0, cold prompt cache):
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
Uncensored ROCmFP4 quantisations of Qwen/Qwen3.8-27B, built with the **same ROCmFPX pipeline and the same card ftypes** as `kingjones777/Qwen3.8-27B-ROCmFP4-STRIX-MTP-GGUF`. **Research artifact.** Abliteration removes content-refusal. It does not add capability. Do not ship this as a product default. The aligned repo remains the serving default. The aligned card's finding still stands: **the lever is MTP depth, not the ftype.** llama.cpp's default `--spec-draft-n-max 16` is about half the achievable throughput on this model. The knee is **n=4**. These uncensored files are the card's FAST (103) and STRIX_LEAN (106) from an abliterated BF16, plus Q6 AGENT/LEAN.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
제공사, 분류, 입출력 조건을 조정하세요. 새 모델이 계속 등록됩니다.
월간 토큰 사용량으로 예상 API 비용을 비교하세요.
수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.
입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.
순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.