THE AI MODEL DIRECTORY 모델 탐색을 시작하세요

나에게 맞는 AI 모델을 찾아보세요.

언어부터 이미지, 오픈 웨이트부터 API까지. 기능과 실제 비용을 비교하세요.
다음 아이디어에 맞는 AI를 찾아보세요.

AI 모델 탐색 1

제공사 입력 출력 라이선스

주목할 모델을 찾아보세요

CodeRankEmbed-flash-attn

handwoven8588

A **bf16 quantization of `nomic-ai/CodeRankEmbed`** with a custom `modeling_hf_nomic_bert.py`, shipped in this repo, that **picks one of three attention implementations for the hardware it runs on.** It is not a finetune — the weights are the original CodeRankEmbed weights cast to bf16 (no further training). Two of the three replace the original's padded `O(seq²)` attention with an `O(N)` unpadded path; the third keeps the original's algorithm as the correctness reference and universal fallback. `nomic-ai/CodeRankEmbed` loads through `trust_remote_code`, and its attention path is **eager only** — activation memory grows as `batch × heads × seq²`, which runs out of memory at large batches even though the model is only 137M params. This repo adds two attention paths that compute the same attention in `O(N)` memory by packing unpadded sequences, so the large batches that the eager path cannot fit run comfortably — with **parity embeddings** (no quality change): - `torch_varlen` — `torch.nn.attention.varlen.varlen_attn`, shipped in torch itself (no extra package), available from torch **2.10.0** onward. - `flash_attn` — the `flash_attn` package's varlen kernel. Kept as a fallback for older torch builds that don't yet have `torch.nn.attention.varlen` but do have `flash_attn` installed. This package is **optional**.

번역 대기 중 · 원문 표시

분류 준비 중

입력 미확인→ 출력 미확인

요금 미확인멀티모달 및 채널 요금 별도 확인

자세히 보기 ↗

비교 추가출처 / 문서 ↗

COST EXPLORER

좋은 모델, 명확한 비용.

비용 분석

월간 토큰 사용량으로 예상 API 비용을 비교하세요.

월간 입력 토큰 10 M월간 출력 토큰 2 M1 M = 100만 토큰 · USD
동일 채널의 기본 텍스트 토큰 요금 비교

수집된 백만 토큰당 USD 요금입니다. 캐시 할인, 구간 요금, 추가 추론 출력, 세금은 제외됩니다. 최신 요금은 출처에서 확인하세요.

MODEL HANDBOOK

이해하고 선택하세요

선택 가이드 및 FAQ

API 요금은 어떻게 비교하나요?+

입력, 출력, 캐시 요금을 구분하고 동일 작업량으로 비교하세요. 이미지, 음성, 영상은 개수, 시간, 해상도로 과금될 수 있습니다.

오픈 웨이트는 무료 상업 이용을 뜻하나요?+

반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 제한, 정책을 확인하세요. 자체 호스팅에는 연산 및 유지 비용도 듭니다.

1위 모델이 나에게 가장 적합한가요?+

순위는 작업, 버전, 평가 방식에 따라 다릅니다. 실제 업무로 정확도, 지연, 안정성, 비용을 비교하세요.

나에게 맞는 AI 모델을 찾아보세요.

AI 모델 탐색 1

CodeRankEmbed-flash-attn

일치하는 모델 없음

좋은 모델, 명확한 비용.

이해하고 선택하세요

뉴스로 흐름을, 도구로 효율을, 모델로 가능성을.