DISCOVER & COMPARE
AI 모델 탐색 1
주목할 모델을 찾아보세요 > **本仓 = 开箱即用**:权重 + 引擎二进制 + 一键启动脚本全都在这里。 > 下载整个仓,装好 NVIDIA 驱动,双击 `start.bat` 就能跑。不需要装 CUDA 工具包(cudart 已静态内嵌进引擎 exe)。 **Ternary Bonsai 2 27B**:1.58-bit 三元量化(w ∈ {−1,0,+1} + Hadamard 旋转基)的 27B 模型, 底座 Qwen3.8-27B(64 层:16 纯注意力 + 48 GDN),全精度权重约 18.2 GB → 量化后 **7.74 GB**。 引擎侧把三元格式 + 运行时折叠基变换接进了 **NInfer** 单卡推理引擎,并拼入了同族 **MTP 投机头**(K=2)。 1. 装好 NVIDIA 驱动(本仓引擎编译于 CUDA 13.3,驱动 610+ 即可,**不用装 CUDA Toolkit**) 2. 把整个仓拷到任意目录(建议 SSD,权重 7.7G) 3. 双击 `start.bat` → 服务起在 `http://127.0.0.1:8080/v1`(OpenAI 兼容) - 如果你的 3080 不是 `--device 1`(看 `nvidia-smi` 里的 index),改 `start.bat` 里那一行
번역 대기 중 · 원문 표시
분류 준비 중
입력 미확인→ 출력 미확인
일치하는 모델 없음
제공사, 분류, 입출력 조건을 조정하세요. 새 모델이 계속 등록됩니다.
COST EXPLORER
좋은 모델, 명확한 비용.
비용 분석월간 토큰 사용량으로 예상 API 비용을 비교하세요.
수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.
API 요금은 어떻게 비교하나요?+
입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.
오픈 웨이트는 무료 상업 이용을 뜻하나요?+
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.
1위 모델이 나에게 가장 적합한가요?+
순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.