clef-vision-0.8b-coreml
FluidInference基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
언어부터 이미지, 오픈 웨이트부터 API까지. 기능과 실제 비용을 비교하세요.
다음 아이디어에 맞는 AI를 찾아보세요.
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
The queued trunk quants are uploaded. Each one passed a short Vulkan generation test. `CYBER-FROST-3.8-Q2_K_S.gguf` now carries the MTP head inside the file. The separate `mtp-` files still do not load. Source checkpoint: Blackfrost-AI/CYBER-FROST-3.8-BF16. Architecture `qwen4exp` (`Qwen4ExpForConditionalGeneration`), from `Qwen/Qwen3.8-Flash-Next`. The vision tower is in `mmproj-CYBER-FROST-3.8-f16.gguf`. One mmproj works with every trunk. About 180B parameters, about 6B active. 48 layers, 512 experts, 10 experts per token, one shared expert. Configured context is 262144. Smoke tests used 512 tokens of context. Long context is not tested.
번역 대기 중 · 원문 표시
GGUF conversion of Blackfrost-Research/MiniMax-3.1-Flash-DeRisked, converted with llama.cpp `convert_hf_to_gguf.py`. Vision tower and multimodal projector are included as a separate mmproj GGUF — image understanding works through `llama-mtmd-cli` / `llama-server`. The upstream DeRisked checkpoint ships experts pre-quantized to NVFP4 (compressed-tensors `nvfp4-pack-quantized`) and the rest as MXFP8. This conversion repacks the NVFP4 expert tensors losslessly into GGUF's native NVFP4 layout (per-expert `weight` + `.scale` + `.input_scale` companions) and dequantizes MXFP8 blocks to BF16 in the F16 master before quantizing. *Approximate; experts dominate size at every quant level. All language-model files are split GGUF — download **every** `-0000N-of-0000M` shard of the quant you want.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
**1. Architecture-aware uncensoring.** Qwen 3.6 uses a hybrid attention design — linear (DeltaNet-style) *and* traditional softmax blocks, mixed 3:1. Most abliteration tools treat them the same. llmfan46 applied **separate parameters** for each attention type using the Heretic tool, yielding one of the lowest KL divergences (0.0015) of any uncensored Qwen variant — 88% fewer refusals with negligible capability loss. **2. A fixed chat template.** The official Qwen 3.6 template is broken on every C++ runtime (LM Studio, llama.cpp, MLX). Tool calls crash, the `developer` role throws errors, and empty thinking blocks waste your context window. This model ships with a rewritten template that fixes all five issues and adds a thinking toggle (` ` / ` `) you can drop into any message. **3. Vision, fixed and working.** The source model had 333 vision tower keys with incorrect prefixes, breaking image inputs. Those were corrected before conversion, so text, image, and video inputs all work out of the box.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
INT4 (W4A16) AutoRound quantization of Qwen/Qwen3.8-27B — **18 GB**, with the **MTP speculative-decoding head quantized and working**. The MTP head is quantized along with the model, so `--speculative-config` in vLLM works out of the box and roughly **doubles decode throughput** (measured +98 % on temp-0 prose vs the same GPU without MTP; draft acceptance 41–67 % depending on content). At the time of upload, the available 4-bit options either dropped the MTP tensors (no speculative decoding) or kept hundreds of tensors in bf16 (28 GB — no longer fits a 24–32 GB GPU next to a useful KV cache). This one follows the recipe that served Qwen3.6-27B in production for months:
번역 대기 중 · 원문 표시
제공사, 분류, 입출력 조건을 조정하세요. 새 모델이 계속 등록됩니다.
월간 토큰 사용량으로 예상 API 비용을 비교하세요.
수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.
입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.
순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.