Logics-STEM-8B-RL-IQ4_XS-GGUF
dark-pen基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
从语言到影像,从开源到 API。读懂模型能力、比较真实成本,
为你的下一个想法,找到合适的智能引擎。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
AWQ **W4A16** (4-bit weights, group size 128) quantization of `Qwen/Qwen3-Coder-30B-A3B-Instruct`, produced with llm-compressor for serving on a single 24 GB GPU with vLLM. Qwen3-Coder-30B-A3B is a Mixture-of-Experts model (128 experts, 8 active per token) using standard **GQA** attention — so it serves on consumer Ada GPUs with the stock attention backends, no special kernels required. Notes: - At `--max-model-len 65536` on a 24 GB card the KV pool holds ~118K tokens (~1.8x concurrency). The base model's native context is 262K; 64K is the practical cap at 24 GB. - Tool calling works via vLLM's first-class `qwen3_coder` parser. - Non-thinking model — no reasoning parser needed. - Pass `--override-generation-config` if your client doesn't send sampling params, or vLLM will default to `temperature=1.0`, which is far too hot for coding.
译文排队中 · 当前显示来源原文
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
This model has achieved the highest CEA-100 Criminal Enablement Assessment score of any Qwen 3.8 27B model I’ve tested to date. This is a linear merge of: - `darkc0de/RICO` (orcarouter/Qwen3.8-27B-Uncensored finetuned on XORTRON SFT Data) - `darkc0de/RICO-v2` (DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU finetuned on XORTRON SFT Data) Thinking: temperature=1.0, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0
译文排队中 · 当前显示来源原文
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
This is a DELLA merge of the following finetuned & post-trained models: | Model Repo | Purpose | | --- | --- | | EryriLabs/Ornith-1.5-35B-A3B-BigBang-MTP-GGUF | The base model, for terminal use, coding, software architecture, planning. Also provides MTP support | | Kwaipilot/KAT-Coder-V2.5-Dev | Contributes efficient coding with fewer tokens over more languages | | Accio-Lab/occamy-1.0 | Contributes general agent abilities, also a semi-official finetune | | AllSpark-Research/CompoWorld | Also contributes general agent abilities, different strengths/weaknesses from occamy | The result is an intelligent and efficient hybrid model for coding, terminal agent work, planning, designing, and conversation. Although most of this model's weights were merged with with a method that drops weights, more sensitive tensors such as the router gates and shared experts, were protected by using a density of 1.0 and epsilon of 0.0 to disable sparsification.
译文排队中 · 当前显示来源原文
This model is ISTA-DASLab's GSQ-RCO IQ3_XXS quant of Qwen3.8-Flash-Next, but with the PLE (ngram) table pruned to 50% of its original parameters. This reduces the total size of the model further in return for an increase in perplexity. If using mmap without mlock, this probably won't make any noticable difference in VRAM usage, but with mmap *and* mlock (which boosts prefill speeds and lowers latency), there should be significantly less VRAM usage compared to the unpruned PLE table. The resulting model is ~61 GB (20% smaller than the original quant which is ~76GB), fitting nicely on 128 GB systems with ample room for the KV cache and other resources, even with mlock enabled. It is capable of chat, reasoning, basic tool calls & coding, but may stumble on more complex tasks. Compared to DarkKitsune/Qwen3.8-Flash-Next-UD-IQ3_XXS-PLE-25pct, this quant offers higher accuracy, and slightly higher performance.
译文排队中 · 当前显示来源原文
可以调整厂商、分类或输入输出条件;新模型正持续收录。
调整月度 Token 用量,直观比较不同模型的预估 API 开支。
使用已采集且单位可比的 USD / 百万 Token 渠道报价。报价为采集时快照;不计缓存优惠、阶梯价、推理额外输出与税费,请以来源的当前报价为准。
先区分输入、输出和缓存价格,再使用同一任务和用量估算总费用。图像、音频和视频可能按张、时长或分辨率计费,不能直接与 Token 单价比较。
不一定。必须逐一核对具体模型版本的许可证、商用限制及使用政策。自己部署还需要考虑显存、推理资源和运维费用。
榜单取决于测试任务、版本与评测方法。建议用实际业务样本比较准确性、时延、稳定性和成本,再选择模型。