AI NEWS.ccAIが動く、未来が変わる
♡ 保存済み 0
AI NEWS・モデル情報能力を知り、根拠ある選択を。 ↗基本情報を先に収録・詳細を随時追加
THE AI MODEL DIRECTORY ここからモデルを探す

あなたに合う AIモデルを。

言語から画像、オープンウェイトからAPIまで。能力と実際の費用を比較。
次のアイデアに合うAIを見つけましょう。

人気の検索
84,936 件のモデル13159 社の提供元・公開者45 件の機能分類465件の比較可能な料金・30件の公開評価
Tテキスト生成▧画像生成▷動画生成⌘コード生成◖音声合成♫音楽生成⬡3Dモデリング▤文書分析
DISCOVER & COMPARE

AIモデルを探す 15

注目のモデルを見つける

基础档案已收录，详细介绍后续补充。可先查看厂商、分类与来源。

基本情報を収録・詳細は順次追加

分類準備中
入力 未確認→ 出力 未確認
料金未確認マルチモーダル・チャネル料金は個別に確認
詳細を見る ↗
出典・文書 ↗

The TinyLlama project aims to **pretrain** a **1.1B Llama model on 3 trillion tokens**. With some proper optimization, we can achieve this within a span of "just" 90 days using 16 A100-40G GPUs 🚀🚀. The training has started on 2023-09-01. We adopted exactly the same architecture and tokenizer as Llama 2. This means TinyLlama can be plugged and played in many open-source projects built upon Llama. Besides, TinyLlama is compact with only 1.1B parameters. This compactness allows it to cater to a multitude of applications demanding a restricted computation and memory footprint. This is the chat model finetuned on top of TinyLlama/TinyLlama-1.1B-intermediate-step-955k-2T. **We follow HF's Zephyr's training recipe.** The model was " initially fine-tuned on a variant of the `UltraChat` dataset, which contains a diverse range of synthetic dialogues generated by ChatGPT. We then further aligned the model with 🤗 TRL's `DPOTrainer` on the openbmb/UltraFeedback dataset, which contain 64k prompts and model completions that are ranked by GPT-4."

翻訳待ち・原文を表示

テキスト生成
入力 テキスト→ 出力 テキスト
料金未確認マルチモーダル・チャネル料金は個別に確認
詳細を見る ↗
出典・文書 ↗

The TinyLlama project aims to **pretrain** a **1.1B Llama model on 3 trillion tokens**. With some proper optimization, we can achieve this within a span of "just" 90 days using 16 A100-40G GPUs 🚀🚀. The training has started on 2023-09-01. We adopted exactly the same architecture and tokenizer as Llama 2. This means TinyLlama can be plugged and played in many open-source projects built upon Llama. Besides, TinyLlama is compact with only 1.1B parameters. This compactness allows it to cater to a multitude of applications demanding a restricted computation and memory footprint. This is the chat model finetuned on top of TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T. **We follow HF's Zephyr's training recipe.** The model was " initially fine-tuned on a variant of the `UltraChat` dataset, which contains a diverse range of synthetic dialogues generated by ChatGPT. We then further aligned the model with 🤗 TRL's `DPOTrainer` on the openbmb/UltraFeedback dataset, which contain 64k prompts and model completions that are ranked by GPT-4."

翻訳待ち・原文を表示

テキスト生成オープンウェイト
入力 テキスト→ 出力 テキスト
料金未確認マルチモーダル・チャネル料金は個別に確認
詳細を見る ↗
出典・文書 ↗

The TinyLlama project aims to **pretrain** a **1.1B Llama model on 3 trillion tokens**. With some proper optimization, we can achieve this within a span of "just" 90 days using 16 A100-40G GPUs 🚀🚀. The training has started on 2023-09-01. We adopted exactly the same architecture and tokenizer as Llama 2. This means TinyLlama can be plugged and played in many open-source projects built upon Llama. Besides, TinyLlama is compact with only 1.1B parameters. This compactness allows it to cater to a multitude of applications demanding a restricted computation and memory footprint. This collection contains all checkpoints after the 1T fix. Branch name indicates the step and number of tokens seen.

翻訳待ち・原文を表示

テキスト生成
入力 テキスト→ 出力 テキスト
料金未確認マルチモーダル・チャネル料金は個別に確認
詳細を見る ↗
出典・文書 ↗

The TinyLlama project aims to **pretrain** a **1.1B Llama model on 3 trillion tokens**. With some proper optimization, we can achieve this within a span of "just" 90 days using 16 A100-40G GPUs 🚀🚀. The training has started on 2023-09-01. We adopted exactly the same architecture and tokenizer as Llama 2. This means TinyLlama can be plugged and played in many open-source projects built upon Llama. Besides, TinyLlama is compact with only 1.1B parameters. This compactness allows it to cater to a multitude of applications demanding a restricted computation and memory footprint. We will be rolling out intermediate checkpoints following the below schedule. We also include some baseline models for comparison.

翻訳待ち・原文を表示

テキスト生成
入力 テキスト→ 出力 テキスト
料金未確認マルチモーダル・チャネル料金は個別に確認
詳細を見る ↗
出典・文書 ↗

- **Codebase:** github.com/jzhang38/TinyLlama - **Technical Report:** arxiv.org/pdf/2401.02385 We adopted exactly the same architecture and tokenizer as Llama 2. This means TinyLlama can be plugged and played in many open-source projects built upon Llama. Besides, TinyLlama is compact with only 1.1B parameters. This compactness allows it to cater to a multitude of applications demanding a restricted computation and memory footprint. In this project, rather than only training a single TinyLlama model, we first train TinyLlama on a corpus of 1.5 trillion tokens to obtain foundational language capabilities. Subsequently, we take this model and turn it into three different models by continual pre-training with three distinct data sampling. For a visual representation of this process, please refer to the figure below.

翻訳待ち・原文を表示

テキスト生成
入力 テキスト→ 出力 テキスト
料金未確認マルチモーダル・チャネル料金は個別に確認
詳細を見る ↗
出典・文書 ↗
COST EXPLORER

モデル選びに、費用の視点も。

コスト分析

月間トークン数を調整してAPI費用を比較。

1 M = 100万トークン・米ドル
同一チャネルの基本テキスト料金を比較

収集済みの比較可能な100万トークン当たり米ドル料金です。キャッシュ割引、段階料金、追加推論出力、税金は含みません。最新料金は出典で確認してください。

MODEL HANDBOOK

モデルを理解して選ぶ

選び方とよくある質問
API料金はどう比較しますか？+

入力・出力・キャッシュ料金を分け、同じ用途と使用量で総費用を比較します。画像・音声・動画は枚数、時間、解像度で課金される場合があります。

オープンウェイトは無料で商用利用できますか？+

必ずしもそうではありません。バージョンごとのライセンス、商用制限、ポリシーを確認してください。自前運用には計算資源と保守費用も必要です。

ランキング1位が最適ですか？+

順位はテスト、バージョン、評価方法によります。実際の業務データで精度、遅延、安定性、費用を比較してください。

AI NEWS・情報から選択へ

ニュースで知り、ツールで効率化、モデルで可能性を。

AIニュースを読む ↗AIツールを探す ↗