Holo4-35B-A3B-FP8
Hcompany基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
언어부터 이미지, 오픈 웨이트부터 API까지. 기능과 실제 비용을 비교하세요.
다음 아이디어에 맞는 AI를 찾아보세요.
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
> [!IMPORTANT] > *Holo4* family: > > - Holo4-27B: Qwen3.8 dense architecture. BF16, FP8, NVFP4, and Q4 GGUF. > - Holo4-35B-A3B: Qwen3.6 MoE architecture. BF16, FP8, NVFP4, and Q4 GGUF [current]. > - Holotron4-30B-A3B: NemotronH Nano Omni architecture. BF16 and FP8. *Holo4*-35B-A3B-GGUF is a vision-language model (VLM) for Computer Use, built on Qwen3.6-35B-A3B and developed by H Company. Used with the hai-agents harness, it can send screenshots and tool results to the model, then execute its requested clicks, typing, code, and tool calls. Model ID Hcompany/Holo4-35B-A3B-GGUF Architecture Qwen3.6 MoE Checkpoint format Q4_K_M GGUF Maximum context length in config 262,144 tokens
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
A **mixed-precision 4–6-bit quantization** of the multimodal projector (`mmproj` — the vision encoder and projector tensors) for `Qwen/Qwen3.8-27B`, built to be close to **a third of the size** of the upstream BF16 checkpoint (331 MiB vs 888 MiB) while staying within ~0.5% of its accuracy on an 11-benchmark vision suite. `Q5_K-MIX` is a mixed-precision quant that keeps the attention and FFN projections at 5-bit, holds the large FFN down-projection at 6-bit, and compresses the small vision-to-LM projectors hardest. The measured gap to the reference (net +18 failing documents, -0.0035 mean) is smaller than the run-to-run noise band the test protocol shows on reference-quality models, so we read it as within the measurement noise of the evaluation rather than a real degradation. Sub-4-bit variants of the same recipe were evaluated and showed regressions beyond that band, so the 5/6-bit mix is the smallest configuration that stayed within it on every benchmark. Both projectors served with `llama-server` against the `Qwen3.8-27B` target on a 24 GB NVIDIA GPU, evaluated with `lmms-eval` at temperature 0 (deterministic): 5,251 paired documents across 11 vision benchmarks (TextVQA, OCRBench-v2, GQA, ScienceQA, MMStar, ChartQA, and five BLINK perception categories), identical rows for both checkpoints.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
huihui-ai/Huihui-Qwen3.5-27B-abliterated is an uncensored version of Qwen/Qwen3.5-27B created with abliteration (see remove-refusals-with-transformers to know more about it). This is a crude, proof-of-concept implementation to remove refusals from an LLM model without using TransformerLens.
번역 대기 중 · 원문 표시
This repository contains the GGUF quantized versions of huihui-ai/Huihui-Qwen3.5-35B-A3B-abliterated huihui-ai/Huihui-Qwen3.5-35B-A3B-abliterated is an uncensored version of Qwen/Qwen3.5-35B-A3B created with abliteration (see remove-refusals-with-transformers to know more about it). This is a crude, proof-of-concept implementation to remove refusals from an LLM model without using TransformerLens.
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
This is an **UNOFFICIAL** GPTQ-Int4 quantized version of the `Qwen2.5-VL` model using `gptqmodel` library. The model is compatible with the latest `transformers` library (which can run non-quantized Qwen2.5-VL models). Response: > 这张图片展示了一个中文和英文的标志,内容为“中文LLaMA & Alpaca大模型”和“Chinese LLaMA & Alpaca Large Language Models”。标志左侧有两个卡通形象,一个是红色围巾的羊驼,另一个是白色毛发的羊驼,背景是一个绿色的草地和一座红色屋顶的建筑。标志右侧有一个数字3,旁边有一些电路图案。整体设计简洁明了,使用了明亮的颜色和可爱的卡通形象来吸引注意力。
번역 대기 중 · 원문 표시
基础档案已收录,详细介绍后续补充。可先查看厂商、分类与来源。
기본 정보 등록 · 상세 정보 보완 예정
제공사, 분류, 입출력 조건을 조정하세요. 새 모델이 계속 등록됩니다.
월간 토큰 사용량으로 예상 API 비용을 비교하세요.
수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.
입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.
순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.