AIゲートウェイの設計2026年11月6日Flatkey Team

人工知能を作る方法：APIを使ったプロトタイプから独自モデルまで

AIアプリケーションを作るためのポルトガル語ガイド。タスクの選定、APIの試用、データとコストの評価、独自モデルの学習が必要かどうかの判断を解説します。

人工知能を作る方法は、何を構築したいかによって異なります。顧客向けチャットボット、文書分類器、ゼロから学習させた言語モデルは、それぞれ異なるプロジェクトです。ほとんどのプロダクトチームにとって実行可能な最初のステップは、API経由で既存モデルを使用するアプリケーションを作成し、実際のタスクをテストし、データ、コスト、品質を管理することです。初期重みからモデルを学習させることが意味を持つのは、その選択を正当化できるデータ、経験、計算能力がある場合に限られます。

簡潔な回答：測定可能なタスクを定義し、代表的な例を30～100件用意し、既存モデルでプロトタイプを作成し、エラーを評価してから、文書検索・取得、ファインチューニング、独自学習が必要かどうかを判断します。「AIを作る」ことは、最初のバージョンで新しいモデルを学習させることを必ずしも意味しません。

技術を選ぶ前にプロジェクトの種類を選ぶ

目的	妥当な最初の方法	モデルを保守するのは誰か？	主なリスク
プロダクト内で質問に回答する、またはテキストを生成する	モデルAPIを統合する	APIプロバイダー	不正確な回答、コスト、データ送信
社内文書に基づいて回答する	モデルAPIに検索・取得を組み合わせる	モデルプロバイダー。インデックスは自チームが保守	古い文書または不正なアクセス
特定のタスクにモデルを適応させる	許可されたモデルのファインチューニング	自チームまたは選択したサービス	質の悪いデータと期待を下回る効果
言語モデルをゼロから作成する	独自重みの学習	自チーム	データ、GPU、評価、スケールでの運用

基盤モデルがベンダー製であっても、チャットインターフェースは「自社のAI」になり得ます。プロダクトの価値は、解決するタスク、体験、アクセスルール、データ連携、継続的な評価にあります。インフラストラクチャに投資する前に、学習、検証、指標を理解するための出発点として、Googleの実践的な機械学習入門が役立ちます。

ステップ1：小さく検証可能なタスクを記述する

「何でもできるAI」から始めるのは避けましょう。「サポートメールを5つのカテゴリに分類する」「チケットを次の対応とともに要約する」「ヘルプベースに関する質問に答える」といったものを選びます。各タスクについて、入力、出力、ユーザー、制約、成功条件を定義します。

不要な個人データを含めずに、実際の例からなる初期セットを作成します。期待される結果と、混在言語、不完全な依頼、ベース内に存在しないコンテンツ、悪意ある指示、矛盾する文書といった難しいケースを記録します。開発用の例とテスト用の例を分けてください。すべての例を使ってプロンプトを調整すると、後からシステムが改善したかを判断するための独立したサンプルがなくなります。

タスクに適した指標を選びます。分類では、カテゴリごとの精度や人手レビュー率を使用できます。サポート回答では、事実の正確性、情報源の引用、応答時間、解決案件あたりのコストが必要になる場合があります。トークン数だけでは有用性を測定できません。

ステップ2：モデルAPIでプロトタイプを作成する

APIを利用すると、GPUのホスティングやモデル提供に関する初期作業を削減できます。ただし、プロダクト上の判断が不要になるわけではありません。チームは引き続きキーを保護し、入力を整形し、出力を検証し、障害に対処する必要があります。Flatkeyの互換インターフェースでは、OpenAI SDKを使用したchat completions呼び出し用にhttps://router.flatkey.ai/v1が記載されています。Flatkeyが発行したキーと、カタログにある現在のモデルエイリアスを使用してください。このキーをOpenAIが直接発行した認証情報と混同しないでください。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://router.flatkey.ai/v1",
    api_key=os.environ["FLATKEY_API_KEY"],
)

answer = client.chat.completions.create(
    model=os.environ["FLATKEY_MODEL"],
    messages=[
        {"role": "system", "content": "Classifique a mensagem em: compra, suporte, cobrança ou outro. Responda apenas com uma categoria."},
        {"role": "user", "content": "Não consigo encontrar a fatura do mês passado."},
    ],
)
print(answer.choices[0].message.content)

このコードは統合テストであり、完成したアプリケーションではありません。返されたカテゴリを許可リストと照合し、必要なデータだけを記録し、タイムアウトを設定して、400、 401、429、5xx のエラーをテストしてください。キーはサーバーまたはシークレット管理ツールに保存し、公開 JavaScript やモバイルアプリに決して配布しないでください。

プロバイダーを直接呼び出す場合は、そのエンドポイントの最新のリファレンスを確認してください。「互換」と呼ばれるエンドポイントでも、対応する機能範囲は異なる場合があります。モデル、ツール形式、ストリーミング、制限、課金を確認してください。最初のテストでは、すべてのトラフィックを一度に移行するよりも、小規模な呼び出しのほうが有用です。

ステップ 3：トレーニングの前に結果を改善する

プロトタイプが失敗した場合は、その理由を分類してください。要求が曖昧だったのでしょうか？データが不足していたのでしょうか？モデルに与えたコンテキストが多すぎたのでしょうか？回答が形式に従っていなかったのでしょうか？これらの原因にはそれぞれ異なる解決策が必要です。

プロンプトと形式：短く検証可能な出力を求め、入力と出力の例を示し、結果のスキーマを確認してください。
外部データ：変更されるポリシー、文書、カタログについては、自社システムから最新情報を取得し、関連する抜粋だけを送信してください。アクセス制御も評価してください。権限設定が不適切な検索は、データを公開するおそれがあります。
アプリケーションフロー：複雑なタスクを、検証可能なステップに分割してください。決定論的である必要があるビジネスルールは、モデルの外部で使用してください。
モデル：同じテストスイートで複数のモデルを比較してください。より大きなモデルが、短い分類タスクにとって自動的に優れているとは限りません。

これらの選択肢をテストし、十分なラベル付きサンプルを集めてから、初めてファインチューニングを検討してください。Hugging Face のファインチューニングに関するドキュメントでは、事前学習済みモデルをタスクまたはドメインのデータで継続学習させるものだと説明されています。これは、すべての重みをゼロから作成することとは異なります。モデルのライセンス、データの出所、トレーニングコスト、評価手順を確認してください。

ステップ 4：独自モデルが本当に必要か判断する

モデルをゼロからトレーニングするには、データの収集とクリーニング、トークン化、アーキテクチャ、GPU、ストレージ、実験、チェックポイント、セキュリティ、そして回帰を評価できるチームが必要です。トレーニング後も、許容可能なレイテンシーと可用性でモデルを提供する必要があります。多くの製品では、API やオープンモデルでは満たせない実証済みのニーズが生じる前に、このコストを正当化することはできません。

重みの制御や自社インフラでの実行が要件である場合は、すでにトレーニング済みのオープンモデルを、API のプロトタイプと比較してください。品質、スループット、GPU メモリ、タスクあたりのコスト、運用上の労力を測定してください。Flatkey の GPU Compute エリアはインフラストラクチャを検討する出発点として利用できますが、可用性、価格、設定は意思決定時点で確認する必要があります。実際の負荷にピークとアイドル時間がある場合、 GPU が常に稼働している前提で節約額を計算しないでください。

ハイブリッドアーキテクチャも可能です。予測可能なタスクには自社管理下のオープンモデルを使用し、難しいケースには外部モデルの API を使用します。これには、単に 2 つのエンドポイントを設定するだけでなく、明確なルーティングと可観測性が必要です。

ステップ 5：実運用に向けてアプリケーションを準備する

ユーザーに公開する前に、簡単なレビューを行ってください。

データとアクセス：どのデータがプロンプトに入るのか？各ドキュメントを参照できるのは誰か？何がログに記録されるのか？
品質：一般的なケース、まれなケース、敵対的なケースを個別に評価し、許容できるエラー率と、人にエスカレーションするタイミングを文書化します。
コスト：入力・出力トークン、タスクあたりの呼び出し回数、再試行、モデルの現在の価格を見積もります。有用な結果あたりのコストを追跡します。
運用：タイムアウト、制限、429に対するバックオフ、フォールバック、および製品の他の部分に影響を与えずに機能を停止する方法を定義します。
変更：モデル、プロンプト、ドキュメント、SDK、またはプロバイダーを変更した場合は、再度テストします。各結果を生成した構成をバージョン管理します。

HTTP 200の応答は、製品がタスクを正しく実行したことの証明にはなりません。分類器の場合は、期待されるラベルと比較します。ドキュメントに基づく回答の場合は、引用が実際にその主張を裏付けているか確認します。生成コンテンツの場合は、影響が大きい箇所で人によるレビューを依頼します。

人工知能の作成にはどれくらいの費用がかかりますか？

一律の価格はありません。APIを使ったプロトタイプは少ないトラフィックで始められますが、呼び出し回数、トークン、より高価なモデル、ツール、再試行に応じてコストは増加します。検索を備えたシステムでは、検索、ストレージ、ドキュメントの保守も必要になります。ファインチューニングとセルフホスティングでは、GPUと運用が追加されます。ゼロからのトレーニングでは、これらの要件がさらに大きくなります。

アクティブユーザー数、ユーザーあたりのタスク数、タスクあたりの呼び出し回数、呼び出しあたりのトークン数、再試行率という5つの変数を含むスプレッドシートを作成します。選択したモデルの現在の価格を掛け、該当する場合はストレージ、検索、GPU、運用作業のコストを加えます。同じテストセットと同じタスク完了の定義で代替案を比較します。Flatkeyの料金ページは、そのルートの料金の情報源です。別のプロバイダーを使用する場合は、そのプロバイダーのページを確認してください。

よくある質問

AIを作るにはプログラミングを知っている必要がありますか？

アイデアをプロトタイプ化するには、ビジュアルツールが役立つ場合があります。ユーザーデータを扱う製品にAIを統合するには、認証、シークレット、検証、コスト、エラーを担当する人が必要です。プログラミングを知っていること、または技術チームと協力することで、これらの管理を検証可能にできます。

AIを作ることとAIをトレーニングすることの違いは何ですか？

AIアプリケーションを作るとは、モデルの周囲に有用なフローを構築することです。トレーニングとは、データと計算資源を用いてモデルのパラメータを変更することです。モデルをゼロからトレーニングしなくても、製品は新しく価値のあるものになり得ます。

APIだけを使ってAIを作れますか？

はい、多くのタスクで可能です。APIはモデルの能力を提供しますが、アプリケーションは引き続きインターフェース、データ、ルール、評価、セキュリティに責任を負います。最新のドキュメントが必要な場合は、モデルが社内情報を知っていると想定するのではなく、検索ステップを追加してください。

次のステップ：タスクを1つ選び、テスト例を分けて、小さな呼び出しを行います。品質とコストを測定できるようになってから、初めて範囲を拡大してください。同じアプリケーションで1つの統合を通じて複数のモデルをテストする必要がある場合は、アカウントの現在のモデルと制限でFlatkeyのchat completionsルートを評価してください。