DynamicRAG-8B
gasolsun基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
从语言到影像,从开源到 API。读懂模型能力、比较真实成本,
为你的下一个想法,找到合适的智能引擎。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
> **First publicly available uncensored/abliterated GGUF of LFM2.5-8B-A1B.** > Base model released May 28, 2026. This release: May 29, 2026. LFM2.5-8B-A1B is Liquid AI's latest edge model — a hybrid **convolution + attention MoE** architecture with: The architecture is **not a standard Transformer**. It combines: - 18 layers of gated short convolutions (LIV blocks) — O(n) complexity - 6 layers of Grouped Query Attention (GQA) — O(n²) for global context - MoE feed-forward with sparse expert routing
译文排队中 · 当前显示来源原文
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
> **The 27B model that every abliteration tool said couldn't be touched — edited anyway, with its brain intact.** > A new liberation technique: refusal-steering **compiled straight into the weights**. No fine-tuning. No reference model. No lobotomy. > > Refusal reflex removed at the weight level · MTP draft head grafted · runs on a single RTX 3090 · **honestly measured** — no inflated numbers. See *How we measured*. Bonsai-2 is built to be **un-abliteratable** by every existing tool: its weights are **ternary and Hadamard-rotated**, and it **cannot be fine-tuned** in llama.cpp (there is no backward pass for its state-space layers). Subtract the refusal direction the normal way and **nothing happens**. This release edits it anyway, with a different method entirely. What that buys you, measured rigorously on a single RTX 3090:
译文排队中 · 当前显示来源原文
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
**Qwen3.6 35B-A3B 剪枝版(REAP 0.25)GGUF 量化模型**,混合 SSM + Attention + MoE 架构, 配合 **llama.cpp b10537(macOS ARM64 / Metal)** 全套工具链打包发布——`git clone` / `huggingface-cli download` 拉取后**无需编译、无需安装任何依赖**,直接运行脚本即可启动 OpenAI 兼容服务。 - **开箱即用**:仓库内自带 `llama-server` / `llama-cli` / `llama-bench` 及全部 Metal 动态库(`libggml*.dylib` 等),一键脚本零配置启动。 - **超长上下文**:原生支持 262,144(256K)token 上下文。 - **MoE 高效**:192 专家每 token 仅激活 8 个(约 3B 激活参数),单机即可推理。 - **体积可控**:15.15 GiB,Q3_K_M + Q4_K_S + F32 混合量化。 - **平台**:macOS(Apple Silicon,ARM64),依赖 Metal 后端。 - **内存**:建议 ≥ 32 GiB 统一内存;模型权重 15.15 GiB,另需 KV cache(256K 上下文下显著,请按内存下调 `-c`)。 - 非 macOS 平台可忽略 `bin/`,改用任意支持 GGUF 的 llama.cpp 构建自行加载权重。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
Mini BERT models from https://arxiv.org/abs/1908.08962 that the HF team didn't convert. The original conversion script is used.
译文排队中 · 当前显示来源原文
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
This model was converted from https://huggingface.co/deepseek-ai/DeepSeek-V2-Lite-Chat to Block FP8 quantization (128x128) to be used as testing for DeepSeek-V3/R1. Dense's `intermediate_size` was padded to be a multiple of 128. Last week, the release and buzz around DeepSeek-V2 have ignited widespread interest in MLA (Multi-head Latent Attention)! Many in the community suggested open-sourcing a smaller MoE model for in-depth research. And now DeepSeek-V2-Lite comes out: DeepSeek-V2, a strong Mixture-of-Experts (MoE) language model characterized by economical training and efficient inference. DeepSeek-V2 adopts innovative architectures including Multi-head Latent Attention (MLA) and DeepSeekMoE. MLA guarantees efficient inference through significantly compressing the Key-Value (KV) cache into a latent vector, while DeepSeekMoE enables training strong models at an economical cost through sparse computation.
译文排队中 · 当前显示来源原文
This is the QAT INT4 Flax checkpoint (from Kaggle) converted to HF+AWQ format for ease of use. AWQ was NOT used for quantization. You can find the conversion script `convert_flax.py` in this model repo. NOTE: this is NOT the same as the official QAT INT4 GGUFs released here https://huggingface.co/collections/google/gemma-3-qat-67ee61ccacbf2be4195c265b Below is the original Model card from https://huggingface.co/google/gemma-3-12b-it
译文排队中 · 当前显示来源原文
This is the QAT INT4 Flax checkpoint (from Kaggle) converted to HF+AWQ format for ease of use. AWQ was NOT used for quantization. You can find the conversion script `convert_flax.py` in this model repo. NOTE: this is NOT the same as the official QAT INT4 GGUFs released here https://huggingface.co/collections/google/gemma-3-qat-67ee61ccacbf2be4195c265b Below is the original Model card from https://huggingface.co/google/gemma-3-27b-it
译文排队中 · 当前显示来源原文
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础资料已收录 · 缺失资料后续补充
可以调整厂商、分类或输入输出条件;新模型正持续收录。
调整月度 Token 用量,直观比较不同模型的预估 API 开支。
使用已采集且单位可比的 USD / 百万 Token 渠道报价。报价为采集时快照;不计缓存优惠、阶梯价、推理额外输出与税费,请以来源的当前报价为准。
先区分输入、输出和缓存价格,再使用同一任务和用量估算总费用。图像、音频和视频可能按张、时长或分辨率计费,不能直接与 Token 单价比较。
不一定。必须逐一核对具体模型版本的许可证、商用限制及使用政策。自己部署还需要考虑显存、推理资源和运维费用。
榜单取决于测试任务、版本与评测方法。建议用实际业务样本比较准确性、时延、稳定性和成本,再选择模型。