Qwen3.6-35B-A3B-MTP-GGUF
prithivMLmods基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
언어부터 이미지, 오픈 웨이트부터 API까지. 기능과 실제 비용을 비교하세요.
다음 아이디어에 맞는 AI를 찾아보세요.
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
> **Qwen3.8-27B-abliterated-GGUF** is a GGUF-quantized conversion of huihui-ai/Huihui-Qwen3.8-27B-abliterated, an uncensored variant of Qwen/Qwen3.8-27B produced through abliteration — a crude, proof-of-concept activation-editing technique that removes refusal behavior directly from model weights without relying on TransformerLens. The underlying Qwen3.8-27B is a 27-billion-parameter dense causal language model with a native vision encoder, built on the Qwen3.5 architectural foundation, featuring a 64-layer hybrid design interleaving Gated DeltaNet linear-attention blocks with periodic Gated Attention layers, Multi-Token Prediction (MTP) training, a native 262,144-token context window extensible to 1M via YaRN, native image/video understanding, and flexible thinking control through a `reasoning_effort` parameter, delivering strong results on benchmarks like SWE-bench Pro (61.7), OSWorld-Verified (84.3), and GPQA Diamond (89.2). This GGUF release packages the abliterated weights across the standard quantization sweep for efficient local deployment via llama.cpp and compatible runtimes; note that, as with GGUF conversions generally, **the Multi-Token Prediction (MTP) heads are not preserved** in this format — the model runs as a standard single-token-per-step autoregressive decoder, so any latency or quality benefits tied to MTP-based speculative decoding in the original checkpoint do not carry over to these quantized builds. File Name | Quant Type | File Size | File Link | |-----------|------------|-----------|-----------| | Qwen3.8-27B-abliterated.BF16.gguf | BF16 | 53.8 GB | Download | | Qwen3.8-27B-abliterated.F16.gguf | F16 | 53.8 GB | Download | | Qwen3.8-27B-abliterated.Q2_K.gguf | Q2_K | 10.7 GB | Download | | Qwen3.8-27B-abliterated.Q3_K_L.gguf | Q3_K_L | 14.3 GB | Download | | Qwen3.8-27B-abliterated.Q3_K_M.gguf | Q3_K_M | 13.3 GB | Download | | Qwen3.8-27B-abliterated.Q3_K_S.gguf | Q3_K_S | 12.1 GB | Download | | Qwen3.8-27B-abliterated.Q4_0.gguf | Q4_0 | 15.5 GB | Download | | Qwen3.8-27B-abliterated.Q4_K_M.gguf | Q4_K_M | 16.5 GB | Download | | Qwen3.8-27B-abliterated.Q4_K_S.gguf | Q4_K_S | 15.6 GB | Download | | Qwen3.8-27B-abliterated.Q5_0.gguf | Q5
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
> **Qwen3.8-27B** is a 27-billion-parameter dense causal language model with a native vision encoder from the Qwen team, built on the Qwen3.5 architectural foundation as a compact, deployment-friendly member of the newly introduced Qwen3.8 generation — the most capable in the Qwen open-model family to date. Its 64-layer hybrid architecture interleaves Gated DeltaNet linear-attention blocks with periodic Gated Attention layers, trained with Multi-Token Prediction, and supports a native 262,144-token context window (extensible to 1M via YaRN scaling), native image and video understanding from STEM diagrams to hour-scale videos, and flexible thinking control via a `reasoning_effort` parameter (xhigh/medium/low) with thinking enabled by default and historical reasoning preserved across turns. It delivers substantial gains over its predecessor Qwen3.6-27B and often rivals or exceeds larger models like Muse Glimmer-30B and even Opus 4.6 Max on several benchmarks — scoring 73.0 on Terminal-Bench 2.1, 61.7 on SWE-bench Pro, 84.3 on OSWorld-Verified computer-use, 81.9 on AndroidWorld mobile-use, and 90.3 on LiveCodeBench v6 — reflecting particular strength in agentic coding, computer/browser/mobile-use tasks, and multimodal tool use, while remaining competitive on general reasoning benchmarks like GPQA Diamond (89.2) and IFBench (79.5). It's compatible with Hugging Face Transformers, vLLM, SGLang, and TokenSpeed out of the box, released under Apache-2.0. > [!NOTE] Multi-Token Prediction (MTP) GGUF is a specialized GGUF model file format extension that integrates speculative decoding directly into the model weights to significantly accelerate local inference. Unlike traditional speculative decoding which requires a separate, smaller "draft" model, MTP GGUF files include additional output heads within the main model architecture that predict multiple future tokens in a single forward pass. File Name | Quant Type | File Size | File Link | |-----------|------------|-----------|-----------| | Qwen3.8-27B.BF16.gguf | BF16 | 54.7 GB | Download | | Qwen3.8-27B.F16.gguf | F16 | 54.7 GB | Download | | Qwen3.8-27B.Q2_K.gguf | Q2_K | 10.9 GB | Download | | Qwen3.8-27B.Q3_K_L.gguf |
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
> The Qwen3-VL-8B-Abliterated-Caption-it model is a fine-tuned version of Qwen3-VL-8B-Instruct, tailored for Abliterated Captioning / Uncensored Image Captioning. This variant is designed to generate highly detailed and descriptive captions across a broad range of visual categories, including images with complex, sensitive, or nuanced content—across varying aspect ratios and resolutions. (sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
제공사, 분류, 입출력 조건을 조정하세요. 새 모델이 계속 등록됩니다.
월간 토큰 사용량으로 예상 API 비용을 비교하세요.
수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.
입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.
순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.