A **mixed-precision 4–6-bit quantization** of the multimodal projector (`mmproj` — the vision encoder and projector tensors) for `Qwen/Qwen3.8-27B`, built to be close to **a third of the size** of the upstream BF16 checkpoint (331 MiB vs 888 MiB) while staying within ~0.5% of its accuracy on an 11-benchmark vision suite. `Q5_K-MIX` is a mixed-precision quant that keeps the attention and FFN projections at 5-bit, holds the large FFN down-projection at 6-bit, and compresses the small vision-to-LM projectors hardest. The measured gap to the reference (net +18 failing documents, -0.0035 mean) is smaller than the run-to-run noise band the test protocol shows on reference-quality models, so we read it as within the measurement noise of the evaluation rather than a real degradation. Sub-4-bit variants of the same recipe were evaluated and showed regressions beyond that band, so the 5/6-bit mix is the smallest configuration that stayed within it on every benchmark. Both projectors served with `llama-server` against the `Qwen3.8-27B` target on a 24 GB NVIDIA GPU, evaluated with `lmms-eval` at temperature 0 (deterministic): 5,251 paired documents across 11 vision benchmarks (TextVQA, OCRBench-v2, GQA, ScienceQA, MMStar, ChartQA, and five BLINK perception categories), identical rows for both checkpoints.

翻訳待ち・原文を表示

画像質問応答

入力テキスト · 画像→ 出力テキスト

料金未確認マルチモーダル・チャネル料金は個別に確認

詳細を見る ↗

比較に追加出典・文書 ↗

Hy-Memory-30B-A3B-MLX-Mixed4-6

hermitdave

基础档案已收录，详细介绍后续补充。可先查看厂商、分类与来源。

基本情報を収録・詳細は順次追加

テキスト生成

入力テキスト→ 出力テキスト

料金未確認マルチモーダル・チャネル料金は個別に確認

詳細を見る ↗

比較に追加出典・文書 ↗

LFM2.5-24B-A2B-MLX-DWQ-3bit

hermitdave

基础档案已收录，详细介绍后续补充。可先查看厂商、分类与来源。

テキスト生成

入力テキスト→ 出力テキスト

料金未確認マルチモーダル・チャネル料金は個別に確認

詳細を見る ↗

比較に追加出典・文書 ↗

COST EXPLORER

モデル選びに、費用の視点も。

コスト分析

月間トークン数を調整してAPI費用を比較。

月間入力トークン 10 M月間出力トークン 2 M1 M = 100万トークン・米ドル
同一チャネルの基本テキスト料金を比較

収集済みの比較可能な100万トークン当たり米ドル料金です。キャッシュ割引、段階料金、追加推論出力、税金は含みません。最新料金は出典で確認してください。

MODEL HANDBOOK

モデルを理解して選ぶ

選び方とよくある質問

API料金はどう比較しますか？+

入力・出力・キャッシュ料金を分け、同じ用途と使用量で総費用を比較します。画像・音声・動画は枚数、時間、解像度で課金される場合があります。

オープンウェイトは無料で商用利用できますか？+

必ずしもそうではありません。バージョンごとのライセンス、商用制限、ポリシーを確認してください。自前運用には計算資源と保守費用も必要です。

ランキング1位が最適ですか？+

順位はテスト、バージョン、評価方法によります。実際の業務データで精度、遅延、安定性、費用を比較してください。

あなたに合う AIモデルを。

AIモデルを探す 84999

Gemma-4-26B-A4B-it-JANG_4M-GGUF

pixai-tagger-v1.0-onnx-1008-672-336-ft

Huihui-Qwen3-VL-32B-Instruct-FP8-abliterated

Qwen3.5-4B-GGUF

Kolibri-1-MLX-3bit

LFM-2.5-2.6B-heretic

LFM2.5-VL-3B-heretic

Qwen-3-VL-2B-Instruct-heretic

Qwen3-4B-Instruct-2507-heretic

Qwen3.8-27B-heretic-ara

voxtream2

Comfyui

dolphin-2.2.1-AshhLimaRP-Mistral-7B-GGUF

Llama-3.2-1B-Instruct-imatrix-GGUF

Llama-3-8B-Instruct-GGUF

Meta-Llama-3-70B-Instruct-GGUF

Mistral-7B-Instruct-v0.3-imatrix-GGUF

Phi-3-medium-128k-instruct-imatrix-GGUF

WizardLM-2-8x22B-imatrix-GGUF

Qwen3.6-35B-A3B-heretic-MTP-IQ4_XS-GGUF

Qwen3.8-27B-DFlash2-Q2_K_S-MIX-GGUF

Qwen3.8-27B-mmproj-Q5_K-MIX-GGUF

Hy-Memory-30B-A3B-MLX-Mixed4-6

LFM2.5-24B-A2B-MLX-DWQ-3bit

該当するモデルがありません

モデル選びに、費用の視点も。

モデルを理解して選ぶ

ニュースで知り、ツールで効率化、モデルで可能性を。