THE AI MODEL DIRECTORY ここからモデルを探す

あなたに合う AIモデルを。

言語から画像、オープンウェイトからAPIまで。能力と実際の費用を比較。
次のアイデアに合うAIを見つけましょう。

人気の検索

84,996 件のモデル13202 社の提供元・公開者45 件の機能分類465件の比較可能な料金・30件の公開評価

Tテキスト生成 ▧画像生成 ▷動画生成 ⌘コード生成 ◖音声合成 ♫音楽生成 ⬡3Dモデリング ▤文書分析

DISCOVER & COMPARE

AIモデルを探す 3

提供元入力出力ライセンス

注目のモデルを見つける

qwen3.8-flash-coder-26gb-gguf

Jab1718

This repository provides **GGUF** quantized formats of **`Jab1718/qwen3.8-flash-coder-85gb-bf16`**, a 160-expert coding subnet sliced from `Qwen3.8-Flash-Next` (335GB) using the **`moe-slice`** toolkit.

翻訳待ち・原文を表示

テキスト生成

入力テキスト→ 出力テキスト

料金未確認マルチモーダル・チャネル料金は個別に確認

詳細を見る ↗

比較に追加出典・文書 ↗

qwen3.8-flash-coder-44gb-selective-int8

Jab1718

**`Qwen3.8-Flash-Coder-44GB-Selective-INT8`** is a high-performance, selective-quantized Mixture-of-Experts (MoE) coding model. Sliced down from the monolithic **`Qwen/Qwen3.8-Flash-Next` (335GB)** and quantized from the **`Qwen3.8-Flash-Coder-85GB-BF16`** parent checkpoint, this model reduces disk and VRAM footprint to exactly **44.29 GB** (a **44.2% VRAM reduction** and **86.8% reduction from base**), enabling full zero-offload deployment on **only 2x 32GB GPUs** (e.g. 2x NVIDIA RTX 5000 Ada, 2x RTX 4090/3090, or 1x A100/H100 80GB). Traditional MoE post-training quantization often quantizes all layers uniformly, which severely degrades the Router Gate and causes **Routing Collapse** (routing tokens to sub-optimal experts). This checkpoint introduces **Selective MoE Quantization**: 1. **Critical High-Precision Modules (Kept in 100% Native BF16):** - **Router Gates:** Retain 100% floating-point routing fidelity across all 48 layers. - **Multi-Head Self-Attention & Linear Attention:** `q_proj`, `k_proj`, `v_proj`, `o_proj`. - **Shared Expert, RMSNorms, Embeddings & LM Head:** Zero quantization loss in embedding projections. 2. **High-Capacity Sparse Experts (Quantized to Symmetric Per-Channel INT8):** - 160 MoE Experts across 48 layers (`gate_up_proj`, `down_proj`). - Symmetrically quantized per-channel with dynamic scaling vectors (`gate_up_proj_scale`, `down_proj_scale`).

翻訳待ち・原文を表示

テキスト生成

入力テキスト→ 出力テキスト

料金未確認マルチモーダル・チャネル料金は個別に確認

詳細を見る ↗

比較に追加出典・文書 ↗