Logics-STEM-8B-RL-IQ4_XS-GGUF
dark-pen基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
言語から画像、オープンウェイトからAPIまで。能力と実際の費用を比較。
次のアイデアに合うAIを見つけましょう。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
AWQ **W4A16** (4-bit weights, group size 128) quantization of `Qwen/Qwen3-Coder-30B-A3B-Instruct`, produced with llm-compressor for serving on a single 24 GB GPU with vLLM. Qwen3-Coder-30B-A3B is a Mixture-of-Experts model (128 experts, 8 active per token) using standard **GQA** attention — so it serves on consumer Ada GPUs with the stock attention backends, no special kernels required. Notes: - At `--max-model-len 65536` on a 24 GB card the KV pool holds ~118K tokens (~1.8x concurrency). The base model's native context is 262K; 64K is the practical cap at 24 GB. - Tool calling works via vLLM's first-class `qwen3_coder` parser. - Non-thinking model — no reasoning parser needed. - Pass `--override-generation-config` if your client doesn't send sampling params, or vLLM will default to `temperature=1.0`, which is far too hot for coding.
翻訳待ち・原文を表示
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
This model has achieved the highest CEA-100 Criminal Enablement Assessment score of any Qwen 3.8 27B model I’ve tested to date. This is a linear merge of: - `darkc0de/RICO` (orcarouter/Qwen3.8-27B-Uncensored finetuned on XORTRON SFT Data) - `darkc0de/RICO-v2` (DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU finetuned on XORTRON SFT Data) Thinking: temperature=1.0, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0
翻訳待ち・原文を表示
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基本情報を収録・詳細は順次追加
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
This is a DELLA merge of the following finetuned & post-trained models: | Model Repo | Purpose | | --- | --- | | EryriLabs/Ornith-1.5-35B-A3B-BigBang-MTP-GGUF | The base model, for terminal use, coding, software architecture, planning. Also provides MTP support | | Kwaipilot/KAT-Coder-V2.5-Dev | Contributes efficient coding with fewer tokens over more languages | | Accio-Lab/occamy-1.0 | Contributes general agent abilities, also a semi-official finetune | | AllSpark-Research/CompoWorld | Also contributes general agent abilities, different strengths/weaknesses from occamy | The result is an intelligent and efficient hybrid model for coding, terminal agent work, planning, designing, and conversation. Although most of this model's weights were merged with with a method that drops weights, more sensitive tensors such as the router gates and shared experts, were protected by using a density of 1.0 and epsilon of 0.0 to disable sparsification.
翻訳待ち・原文を表示
This model is ISTA-DASLab's GSQ-RCO IQ3_XXS quant of Qwen3.8-Flash-Next, but with the PLE (ngram) table pruned to 50% of its original parameters. This reduces the total size of the model further in return for an increase in perplexity. If using mmap without mlock, this probably won't make any noticable difference in VRAM usage, but with mmap *and* mlock (which boosts prefill speeds and lowers latency), there should be significantly less VRAM usage compared to the unpruned PLE table. The resulting model is ~61 GB (20% smaller than the original quant which is ~76GB), fitting nicely on 128 GB systems with ample room for the KV cache and other resources, even with mlock enabled. It is capable of chat, reasoning, basic tool calls & coding, but may stumble on more complex tasks. Compared to DarkKitsune/Qwen3.8-Flash-Next-UD-IQ3_XXS-PLE-25pct, this quant offers higher accuracy, and slightly higher performance.
翻訳待ち・原文を表示
提供元・分類・入出力の条件を変更してください。新しいモデルを随時追加しています。
月間トークン数を調整してAPI費用を比較。
収集済みの比較可能な100万トークン当たり米ドル料金です。キャッシュ割引、段階料金、追加推論出力、税金は含みません。最新料金は出典で確認してください。
入力・出力・キャッシュ料金を分け、同じ用途と使用量で総費用を比較します。画像・音声・動画は枚数、時間、解像度で課金される場合があります。
必ずしもそうではありません。バージョンごとのライセンス、商用制限、ポリシーを確認してください。自前運用には計算資源と保守費用も必要です。
順位はテスト、バージョン、評価方法によります。実際の業務データで精度、遅延、安定性、費用を比較してください。