AI 業界エコシステム
AIツールを選ぶとき、実際には技術路線を選んでいることになる。
クローズドソースかオープンソースか?クラウドサービスかローカル導入か?米国企業か中国企業か?これらの選択は、仕事の効率、データセキュリティ、長期的なコストに影響する。
さらに重要なのは、キャリア開発を考えているなら、どの企業が技術をリードし、どの方向が未来を代表するのかを知る必要があるということだ。
この記事は退屈な業界ニュースを詰め込むのではなく、AI業界を理解するための枠組みを構築するのに役立つ。
業界エコシステムを理解するのは、話題に乗るためではなく、意思決定の際に確信を持つためである。
主要AI企業の全体像
AI業界のプレイヤーはいくつかのタイプに分類できる:米国のトップ企業、中国のトップ企業、ユニコーン企業だ。
各タイプの企業には異なる技術路線と製品戦略がある。
米国のトップ企業
米国は大規模モデル技術でリードしており、4社が最も代表的である。
| 企業 | 中核モデル | 特徴 | 代表製品 |
|---|---|---|---|
| OpenAI | GPT-4、GPT-4o | 技術がリードし、商業化が成熟 | ChatGPT、GPTs |
| Anthropic | Claude 3、Claude 3.5 | 安全性優先、長文処理能力に優れる | Claude.ai |
| Google DeepMind | Gemini | マルチモーダルに強く、研究力が豊富 | Gemini アプリ |
| Meta AI | Llamaシリーズ | オープンソースの主力、無料で利用可能 | Llama 3、Llama 3.1 |
OpenAIChatGPTの開発元であり、AIを大衆に広めた立役者だ。特徴は技術の更新が速く、製品体験が良いことだが、データプライバシーと価格戦略をめぐってしばしば論争を引き起こしている。
Anthropic元OpenAI社員によって設立され、「安全なAI」を掲げている。Claudeモデルは長文書(数万字)の処理に優れ、コンテンツ審査も比較的緩やかである。
Google DeepMindAlphaGoの生みの親であり、現在はGeminiシリーズモデルに注力している。強みはマルチモーダル能力(画像、動画、音声)と深い研究蓄積である。
Meta AIまったく異なる路線——オープンソース——を歩んでいる。Llamaシリーズのモデルは開発者に無料で提供されており、誰でもダウンロード、修正、デプロイができる。これによりMetaはオープンソースコミュニティで大きな影響力を持っている。
中国のトップ企業
中国のAI企業も急速に追い上げており、独自のエコシステムを形成している。
| 企業 | 中核モデル | 特徴 | 代表製品 |
|---|---|---|---|
| 百度(バイドゥ) | 文心大規模モデルシリーズ(ERNIE) | 国内で大規模モデルの展開が最も早く、マルチモーダル、検索、企業サービスに注力し、政府・企業での導入事例が豊富 | 文心一言、文心千帆、文心一格 |
| 阿里巴巴(アリババ) | 通義千問シリーズ(Qwen) | オープンソースへの取り組みが先行し、軽量/超大パラメータモデルが揃い、EC・クラウドコンピューティングエコシステムと深く連携 | 通義千問、通義万相、阿里雲百煉 |
| 騰訊(テンセント) | 混元大規模モデル(Hunyuan) | ソーシャル、ゲーム、動画事業を基盤とし、画像・テキスト、動画生成、デジタルヒューマン、消費者向けソーシャル融合シーンに強い | 騰訊混元助手、混元絵画、騰訊智影 |
| 字節跳動(バイトダンス) | 豆包大規模モデル(Doubao) | マルチモーダルとショート動画コンテンツ生成に優れ、個人対話、AI創作、オフィス支援も兼ね備える | 豆包AI、Dreamina、Coze(扣子) |
| 月之暗面 Moonshot AI | Moonshotシリーズ大規模モデル | 超長コンテキストウィンドウを特徴とし、100万字級のテキストをロスレスで読み取り可能。ドキュメント・ナレッジベースのシーンで強みを発揮 | Kimiスマートアシスタント |
| 智譜AI(Zhipu AI) | GLM 智譜清言 | 学術的背景が深く、汎用対話、コード、研究シーンに対応し、企業向けプライベートデプロイが成熟 | 智譜清言、智譜Code、智譜清言企業版 |
| MiniMax 稀宇科技 | 01大規模モデル | 音声、デジタルヒューマン、動画生成能力に優れ、海外での商業展開が整っている | 海螺AI、デジタルヒューマン動画生成プラットフォーム |
| DeepSeek 深度求索 | DeepSeek大規模モデル | コード大規模モデルの性能が最高水準で、全シリーズを大規模にオープンソース化。開発者と研究グループ向け | DeepSeek Chat、DeepSeek Coder |
百度(バイドゥ)国内で最も早く大規模モデルに取り組んだ企業の一つであり、文心一言は中国語理解に強みがある。
阿里(アリババ)の通義千問(Qwen)シリーズはオープンソース化に非常に積極的で、18億から720億パラメータまで揃っており、オープンソースコミュニティでの利用率が高い。
月之暗面(Moonshot)スタートアップ企業であり、超長コンテキストを特徴とする。Kimiアシスタントは100万字以上の文書を一度に処理でき、書籍やコードベースの処理に非常に役立つ。
ユニコーン企業
他にも、設立から間もないが技術的特徴が明確で、評価額が高いスタートアップ企業がいくつかある。
| 企業 | 中核モデル | 特徴 | 本社 |
|---|---|---|---|
| Mistral AI | Mistralシリーズ | 技術革新、効率優先 | フランス |
| Cohere | Command R+ | 企業サービス、検索拡張 | カナダ |
| xAI | Grok | マスクが設立、真実を追求 | 米国 |
Mistral AIフランスの企業で、モデルは小型ながら高性能で知られている。Mistral 7Bは同じパラメータ規模で性能がリードし、MoE(混合エキスパート)アーキテクチャも発表しており、効率が非常に高い。
どの会社の製品を選ぶかは、主にニーズ次第だ。最高の能力を求めるならOpenAIやAnthropic、無料のオープンソースを求めるならDeepSeek、智譜などを選ぶとよい。
オープンソース vs クローズドソースモデル
これはAI業界で最も重要な路線論争である。
一方はOpenAI、Anthropicに代表されるクローズドソース路線——モデルはAPIやウェブページ経由でのみアクセスでき、モデルの重みを見ることはできない。
もう一方はDeepSeek、阿里(アリババ)に代表されるオープンソース路線——完全なモデルをダウンロードして、自分のデバイス上で実行できる。
オープンソースモデルとは
オープンソースにはソフトウェア分野で明確な定義があるが、AI分野では状況が少し異なる。
真のオープンソースとは、以下のことを自由に行えることを意味する:
- モデルの重みをダウンロードする
- 商業用途に使用する
- モデルアーキテクチャを変更する
- 派生バージョンを再公開する
しかし、いわゆるオープンソースモデルの多くは実際にはオープンウェイトであり、ダウンロードして使用できるが、商業利用には制限がある。
代表的なオープンソースモデル
| モデルシリーズ | 開発元 | ライセンス | 特徴 |
|---|---|---|---|
| Llama 3/3.1 | Meta | 商業利用に友好的 | エコシステムが最も整っており、コミュニティサポートが充実 |
| Mistral | Mistral AI | Apache 2.0 | 効率が高く、革新が多い |
| Qwen | 阿里(アリババ) | Apache 2.0 | 中国語能力が高い |
| Yi | 零一万物(01.AI) | 商業利用に友好的 | 中英語のバランスが良い |
クローズドソース vs オープンソースの比較
両方の路線にはそれぞれ長所と短所があり、絶対的な良し悪しはなく、あなたのシーン次第である。
| 次元 | クローズドソースモデル | オープンソースモデル |
|---|---|---|
| 能力の上限 | 通常はより強力(GPT-4、Claude 3) | 追従中だが、差は縮まっている |
| データプライバシー | データは第三者に送信 | データはローカルに留まる |
| 利用コスト | Token単位の従量課金 | 一時的なハードウェア投資 |
| カスタマイズ能力 | 限定的(Promptの微調整のみ) | 完全に制御可能(微調整、量子化可能) |
| デプロイの難易度 | デプロイ不要(APIを直接使用) | 技術力が必要 |
| 更新速度 | ベンダーが継続的に更新 | 自分で新バージョンを追う必要がある |
選び方
クローズドソースを選ぶケース:
- 最高の性能を追求しており、技術的な細部に手間をかけたくない
- データが機密ではなく、第三者に渡してもよい
- 利用量が少なく、Token単位課金の方がお得
- 素早くリリースする必要があり、デプロイに時間をかけたくない
オープンソースを選ぶケース:
- データが非常に機密で、社外に出せない
- 利用量が多く、Token単位課金は高すぎる
- モデルの動作を深くカスタマイズする必要がある
- デプロイとメンテナンスができる技術チームがいる
推奨される戦略:少量利用や探索段階ではクローズドソース(低コスト、迅速なリリース)、大規模・本番環境ではオープンソース(制御性が高く、長期的なコストが低い)を検討する。
クラウドAI vs ローカルAI
もう一つの重要な選択:クラウドのAIサービスを使うか、自分のパソコンでモデルを動かすか?
クラウドAI:すぐに使える
クラウドAIとは、WebやAPIを通じてクラウド上のAIサービスを呼び出すこと。
モデルがどこにデプロイされているか、どれだけのGPUを使っているか、どう更新されるかを気にする必要はない——入力して結果を得るだけでよい。
代表的なクラウドAI製品:
| 製品 | 種類 | 課金方法 |
|---|---|---|
| ChatGPT | Web対話 | サブスクリプション $20/月、または従量課金 |
| Claude.ai | Web対話 | サブスクリプション $20/月、または従量課金 |
| OpenAI API | APIインターフェース | Token単位で課金 |
| Anthropic API | APIインターフェース | Token単位で課金 |
ローカルAI:完全に制御可能
ローカルAIは、自分のパソコンやサーバー上でオープンソースモデルを動かすこと。
データはデバイスから出ず、継続的な支払いも不要。
ただし、良いグラフィックカードが必要——通常はNVIDIAのGPUで、VRAMが大きいほど良い。
ローカルAIの一般的なツール:
| ツール | 特徴 | 対象ユーザー |
|---|---|---|
| Ollama | ワンクリック起動、コマンドライン操作 | 開発者、技術ユーザー |
| LM Studio | GUI、モデルライブラリが豊富 | 一般ユーザー、初心者 |
| vLLM | 高性能推論サービス | 本番環境デプロイ |
| Text Generation WebUI | 機能が最も充実、微調整可能 | 上級ユーザー |
クラウドAI vs ローカルAIの比較
| 観点 | クラウドAI | ローカルAI |
|---|---|---|
| 初期コスト | ゼロ、使った分だけ支払い | 高い(GPU購入が必要) |
| 利用コスト | 利用量に応じて継続的に支払い | 電気代 + ハードウェア減価償却 |
| データプライバシー | データはサービス事業者に送信 | データは完全にローカル |
| デプロイの難易度 | 无 | ある程度の技術力が必要 |
| 応答速度 | ネットワーク次第 | ローカル計算、速度は安定 |
| 能力の上限 | 最大のモデルを使用可能 | グラフィックカードのVRAMに制限される |
ハイブリッド戦略:両方の長所を活かす
多くの企業がハイブリッド戦略を採用:
- 機密データはローカルモデルを使用
- 通常のクエリはクラウドAPIを使用
- 昼間のピークはクラウドサービス、夜間のバッチ処理はローカル
これによりデータの安全性を確保しつつ、コストも抑えられる。
個人ユーザーへの推奨:まずクラウドAIで試し、慣れたらプライバシー要件がある場合や利用量が増えた場合にローカルデプロイを検討する。
AIインフラストラクチャ
AIはモデルだけではない——基盤となる計算能力、チップ、クラウドサービスが業界全体のインフラを構成している。
GPU計算能力:なぜNVIDIAが市場を支配しているのか
大規模モデルの訓練には膨大な計算が必要で、GPU(グラフィックスプロセッサ)は現在最も適したハードウェア。
NVIDIAはこの分野でほぼ独占状態にあり、理由は3つある:
| 優位性 | 説明 |
|---|---|
| CUDAエコシステム | CUDAはNVIDIAのプログラミングフレームワークであり、ほぼすべてのAIフレームワークが優先的にサポート |
| VRAM容量 | H100、A100などのプロフェッショナルカードは80GB以上のVRAMを搭載 |
| ソフトウェアサポート | 最適化されたライブラリ、コンパイラ、ツールチェーンが最も充実 |
一般的なNVIDIA GPUの位置づけ:
| カード型 | VRAM | 位置づけ | 適用シーン |
|---|---|---|---|
| RTX 3090/4090 | 24GB | コンシューマー向け | 個人学習、小規模モデル推論 |
| A10G | 24GB | エントリー向けプロフェッショナル | 軽量推論、微調整 |
| A100 | 80GB | プロフェッショナル向け | モデル訓練、大規模推論 |
| H100 | 80GB | フラッグシップ級 | 大規模モデル訓練(70B+) |
VRAM容量が重要な指標。一般的に:
- 7Bモデルには8〜16GBのVRAMが必要
- 13Bモデルには16〜32GBのVRAMが必要
- 70Bモデルには60〜80GBのVRAMが必要
クラウドベンダー:計算力をサービスとして提供
誰もが数十万元のGPUを購入できるわけではない——クラウドベンダーは「時間単位のレンタル」モデルを提供している。
| クラウドベンダー | 特徴 | 代表的なインスタンス |
|---|---|---|
| AWS | インスタンスタイプが最も豊富 | p4d、p5、g5シリーズ |
| Azure | エンタープライズサービスが充実 | NC、ND、NVシリーズ |
| GCP | TPUサポートが良好 | A3、T4シリーズ |
| Alibaba Cloud | 中国国内からのアクセスが速い | gn6、gn7シリーズ |
国産計算能力の代替ソリューション
チップ輸出規制により、中国国内では国産計算能力の開発を積極的に進めている。
主要プレイヤー:
| ベンダー | チップ | 特徴 |
|---|---|---|
| Huawei Ascend | Ascend 910 | エコシステムが比較的充実、大規模モデル訓練をサポート |
| Cambricon | 思元590 | AIアクセラレーションに特化 |
| Hygon | DCU | CUDAエコシステムと互換性 |
国産チップはまだ追従中であり、主な問題はソフトウェアエコシステム——多くのAIフレームワークが専用の適応を必要とする。
個人開発者には、まずNVIDIAのコンシューマー向けGPU(RTX 4090など)から始めることを推奨。エコシステムが最も成熟しており、資料も最多。
AIビジネスモデル
AI企業はどうやって収益を得るのか?現在主に3つのモデルがある。
B2C:サブスクリプション制
個人ユーザー向け、月額支払い。
| 製品 | 料金 | 含まれる内容 |
|---|---|---|
| ChatGPT Plus | $20/月 | GPT-4への優先アクセス、より高速な応答 |
| Claude Pro | $20/月 | Claude 3への優先アクセス、より長いコンテキスト |
| GitHub Copilot | $10/月 | コード補完、コード解説 |
サブスクリプション制の利点は、キャッシュフローが安定し、ユーザーのロイヤルティが高いこと。ただし、継続的に価値を提供しないとユーザーは解約する。
B2B:API呼び出し
使用量に応じて支払い——APIを呼び出した回数だけ支払う。
料金単位は「Token」で、「語」や「文字」と理解できる。
代表的な料金(2025年半ば時点):
| モデル | 入力価格 | 出力価格 |
|---|---|---|
| GPT-4o | $5/100万Token | $15/100万Token |
| Claude 3.5 Sonnet | $3/100万Token | $15/100万Token |
| GPT-4 | $30/100万Token | $60/100万Token |
| Llama 3.1 405B(セルフホスト) | ハードウェアコスト + 電気代 | |
計算してみよう:あるアプリが毎日10万回のクエリを処理し、各クエリで1000Tokenを使用すると仮定する。
GPT-4oを使う場合、1日のコストは$5(入力) + $15(出力) = $20、月額$600です。
利用量が増えると、コストは急速に上昇します——だからこそ多くの企業が最終的にセルフホストのオープンソースモデルを選ぶのです。
オープンソースエコシステムの収益化
オープンソースモデル自体は無料ですが、企業は周辺サービスで収益を得られます:
- ホスティングサービス:デプロイと運用保守を支援
- エンタープライズ版:追加機能とサポートを提供
- コンサルティングサービス:カスタマイズと最適化を支援
- トレーニングサービス:お客様のデータでモデルをファインチューニング
Mistral AIはこのモデルの代表例です——モデルはオープンソースですが、企業がより大きなモデルやより良いサービスを利用するには有料が必要です。
3つのモデルの比較
| モデル | ターゲットユーザー | 収益の安定性 | 技術的要件 |
|---|---|---|---|
| サブスクリプション制 | 個人ユーザー | 中 | 優れた製品体験が必要 |
| API呼び出し | 開発者、企業 | 高い(使用量ドリブン) | 安定したサービスが必要 |
| オープンソースエコシステム | 企業、開発者 | 遅い(エコシステムの構築が必要) | コミュニティ運営能力が必要 |
AI規制と政策
AIの発展が速すぎるため、各国は規制政策を策定しています。これらの政策を理解することで、リスクを回避できます。
EU AI法
EUの規制は最も厳格で、中核となる考え方は「リスクに応じた分類」です。
| リスクレベル | 定義 | 規制要件 |
|---|---|---|
| 許容できないリスク | ソーシャルスコアリング、リアルタイム顔認識 | 禁止 |
| ハイリスク | 医療機器、司法判断、採用 | 厳格なコンプライアンス、高い透明性 |
| ミドルリスク | チャットボット、コンテンツ生成 | AI生成であることを表示 |
| ローリスク | ゲーム、画像編集 | 基本的に要件なし |
EU AI法案の影響は世界的です——あなたの製品がEUユーザーにサービスを提供する限り、遵守する必要があります。
中国のAI規制枠組み
中国の規制政策も段階的に整備されており、中核となる文書は以下の通りです:
- 『生成的人工知能サービス管理暫定措置』
- 『人工知能法』(意見公募草案)
主な要件:
- 生成コンテンツは真実かつ正確であるべきで、虚偽情報を捏造してはならない
- コンテンツ審査メカニズムを整備する必要がある
- データの出所は合法的である必要がある
- アルゴリズムは透明で説明可能である必要がある
米国のAI政策の動向
米国の規制は比較的緩やかで、主に大統領令と業界の自主規制を通じて行われます。
重点的に注目すべき点:
- 国家安全保障:AIが悪意ある目的に使用されるのを防ぐ
- 公平性:アルゴリズムによる差別を防ぐ
- 透明性:AI生成コンテンツには表示が必要
個人開発者にとって最も注意すべき点:AI生成コンテンツには明確な表示を付け、人間の創作を装わないこと。個人データに関わる場合は、データ保護規制を遵守すること。
2025年のAI業界トレンド展望
2026年半ばの時点で、いくつかのトレンドはすでに明確になっています。
トレンド1:モデル能力は向上し続けるが、限界効果は逓減する
GPT-5、Claude 5、Gemini 3.0、DeepSeek 4、GLM 5はすべて登場しましたが、アップグレードごとの驚きは徐々に小さくなっています。
技術が限界に達したのではなく、「十分使える」シナリオがすでに多いからです。
トレンド2:オープンソースモデルが追い上げ、クローズドソースとの差を縮める
Llama 3.1 405Bの性能はGPT-4の水準に近づいており、しかも無料で利用できます。
今後さらに多くの企業がオープンソース陣営に加わり、オープンソースモデルのエコシステムはますます充実していくでしょう。
トレンド3:アプリケーション層が爆発的に増加し、エージェントが実用化へ
ここ数年はモデル層の競争でしたが、現在はアプリケーション層に移りつつあります。
AIエージェント(インテリジェントエージェント)——複雑なタスクを自律のに完了できるAI——はコンセプトから実用へと進むでしょう。
トレンド4:マルチモーダルが標準になる
テキストのみのモデルは減少し、文字、画像、音声、動画を同時に処理できるマルチモーダルモデルが標準になるでしょう。
トレンド5:規制の常態化
各国の規制フレームワークが順次導入され、AI業界は「無秩序な成長」から「規範的な発展」段階に入ります。
| トレンド | 個人への影響 | 対応のアドバイス |
|---|---|---|
| モデル能力の向上 | ツールがますます強力になる | 新機能に注目するが、盲目的に追わない |
| オープンソースモデルの追い上げ | ローカルデプロイがより現実的になる | オープンソースのツールスタックを学ぶ |
| アプリケーション層の爆発 | チャンスはアプリケーション層にある | AIを自分の分野と組み合わせる |
| マルチモーダル標準 | できることが増える | マルチモーダル応用のアイデアを広げる |
| 規制の常態化 | コンプライアンス要件が高くなる | 関連する規制を理解する |
コード例:オープンソースモデルAPIの呼び出し
Pythonを使って、オープンソースモデルのAPIを呼び出す方法を示す簡単な例を書きましょう。
ここではOllamaをローカル推論サービスとして使用します。Llama 3、Qwen、Mistralなどのさまざまなオープンソースモデルをサポートしています。
Ollama関連の参考情報:https://www.example.com/ollama/ollama-tutorial.html。
例
# オープンソースモデルAPI呼び出しの例
# デモ:Ollamaを使ってLlama 3モデルをローカルで実行
# ============================================
import requests
import json
def call_ollama_model(prompt: str, model: str = "llama3") -> str:
"""
OllamaのAPIを呼び出してモデルの応答を取得する
パラメータの説明:
prompt: あなたの質問または入力テキスト
model: 使用するモデル名(デフォルトはllama3)
選択可能な値:llama3, qwen2, mistral, yi など
戻り値:
モデルの応答テキスト
"""
# Ollamaはデフォルトでローカルの11434ポートで実行
url = "http://localhost:11434/api/generate"
# リクエストデータを構築
payload = {
"model": model, # 使用するモデル
"prompt": prompt, # ユーザー入力
"stream": False, # ストリーミング出力を使用しない(一度に返す)
"options": {
"temperature": 0.7, # 温度パラメータ:高いほどランダム、低いほど決定的
"top_p": 0.9, # サンプリングパラメータ:多様性を制御
"num_predict": 512, # 最大生成トークン数
}
}
try:
# POSTリクエストを送信
response = requests.post(url, json=payload, timeout=60)
response.raise_for_status() # リクエストが成功したか確認
# 返された結果を解析
result = response.json()
return result.get("response", "応答を取得できませんでした")
except requests.exceptions.ConnectionError:
return "エラー:Ollamaサービスに接続できません。Ollamaを起動してください。"
except requests.exceptions.Timeout:
return "エラー:リクエストがタイムアウトしました。モデルが読み込み中の可能性があります。"
except Exception as e:
return f"エラー:{str(e)}"
def chat_with_サンプル():
"""サンプル AIアシスタントとのマルチターン対話の例"""
print("=" * 50)
print("🚀 サンプル AIアシスタント(Llama 3オープンソースモデルに基づく)")
print("=" * 50)
print(ヒント:'quit'または'exit'を入力して対話を終了)
print()
# 対話履歴(文脈の一貫性のため)
conversation_history = []
while True:
# ユーザー入力を取得
user_input = input("あなた: ").strip()
# 終了するかどうかを確認
if user_input.lower() in ["quit", "exit", "終了"]:
print("サンプル AI: さようなら!またいつでもどうぞ。")
break
if not user_input:
continue
# コンテキスト付きプロンプトを構築
full_prompt = "\n".join(conversation_history) + f"\nユーザー: {user_input}\nアシスタント:"
# モデルを呼び出し
print("サンプル AI: ", end="", flush=True)
response = call_ollama_model(full_prompt)
print(response)
print()
# 対話履歴を更新
conversation_history.append(f"ユーザー: {user_input}")
conversation_history.append(f"アシスタント: {response}")
# 直近5ターンのみを保持し、コンテキストが長すぎるのを防ぐ
if len(conversation_history) > 10:
conversation_history = conversation_history[-10:]
# 例1:単一回の呼び出し
print("--- 例1:単一質問 ---")
question = "大規模言語モデルとは何かを一言で説明してください。"
print(f"質問:{question}")
answer = call_ollama_model(question)
print(f"回答:{answer}")
print()
# 例2:異なるモデルを使用
print("--- 例2:異なるモデルの切り替え ---")
for model_name in ["llama3", "qwen2", "mistral"]:
print(f"モデル {model_name} を使用:")
answer = call_ollama_model("こんにちは、自己紹介をしてください。", model=model_name)
print(f"回答:{answer[:100]}...") # 最初の100文字のみ表示
print()
# 例3:マルチターン対話(コメントを外して実行)
# print("--- 例3:マルチターン対話 ---")
# chat_with_サンプル()
このコードを実行する前に、Ollamaをインストールする必要があります:
- 去 https://ollama.comOllamaをダウンロードしてインストール
- ターミナルで実行:
ollama pull llama3モデルをダウンロード - 実行:
ollama serveサービスを起動(まだ起動していない場合) - その後、上記のPythonコードを実行します
ローカルにGPUがない場合は、クラウドのオープンソースモデルAPI(Together.ai、Anyscaleなど)も利用できます。呼び出し方は似ていますが、URLと認証方法が異なるだけです。
その他の拡張オープンソースモデルの利点は、まずローカルで小規模モデル(7B)を使って開発とテストを行い、効果が良いと感じたら大規模モデル(70B)やクラウドサービスに切り替えられることです。