本記事は DataStax Blog の記事を翻訳し転載しています。
テクノロジー• 2025年2月28日
ここでは、AIプラットフォームが何をするのか、注目すべき機能、そして自社に最適プラットフォームを判断する方法を紹介します。
Alex Leventer
生成AIエコシステム責任者
生成AIを利用したアプリケーションを構築するには、多くのコンポーネントを組み合わせる必要があります。この作業の多くは反復的で、ほとんどのアプリケーションに共通しています。つまり、差別化につながらない重労働 (undifferentiated heavy lifting) です。また、ソフトウェア エンジニアは、AI特有の新しい概念に取り組む必要があり、その習得には時間がかかることがあります。
AIプラットフォームは、このような作業の多くを担うことができ、生成AIアプリを構想から展開するまでにかかる時間を短縮できます。この記事では、AIプラットフォームが何をするのか、注目すべき機能、そしてどのプラットフォームが自社に最適なのかを判断する方法について紹介します。
AI プラットフォームとは
AIプラットフォームは、生成AI対応アプリケーションのプロトタイプ作成、開発、リリース、メンテナンスのための統合されたテクノロジースタックです。以下のようなコンポーネントで構成されています。
- 大規模言語モデル (LLM)
- 構造化データ、非構造化データまたは半構造化データのデータ ストレージ (ベクトル、ナレッジグラフまたはその他のデータタイプとして格納)
- 生成AIサービス（データ取り込み、変換、エージェント、メモリなど）
- エージェント、プロンプト、ツール、モデルなどの間のオーケストレーション
ほとんどのAIアプリケーションは、汎用または特注のLLMを使用して、ユーザーからの問い合わせを処理して、応答します。 しかし、効果的で高品質な生成AIアプリを構築するには、LLMを呼び出すだけでは不十分です。検索拡張世代（RAG）などの手法を使用してコンテキストを追加し、応答品質を向上させるだけでなく、データの取り込み、ユーザー向けエージェントの作成、リクエスト/レスポンスワークフローの管理のための追加のコードを記述する必要があります。
これらのパターンの多くは普遍的であり、あるいは少なくとも、ソリューション全体で繰り返し活用することができます。AIプラットフォームを使用することで、これらの共通した機能の一部を削除する作業を削減または排除できます。たとえば、RAGをサポートするAIプラットフォームは、複数のソースからのデータのインポート、ベクトル埋め込みへの変換、およびベクトル検索の実行をサポートする場合があります。
AI プラットフォームの選択は、LLM の選択とは異なります。AIプラットフォームは、LLMの上に抽象化レベルを提供します。優れたAIプラットフォームは、複数のLLMの呼び出しをサポートし、1つのLLMを別のLLMに簡単に置き換えたり、異なるLLMを連携させて複雑なワークフローにしたりできるようにする必要があります。
AI プラットフォームの利点
AIプラットフォームを使用する必要はあるのでしょうか? 答えは、ノーです。AIプラットフォームが行うことはすべて、ソフトウェア エンジニアが直接プログラムすることができます。
その一方で、AIプラットフォームを使用することで得られる利点も複数あります。
- 開発期間の短縮 – AIプラットフォームを使用すると、共通機能を繰り返しコーディングする必要がなくなるため、個々のAIアプリエンジニアの生産性が向上します。
- 立ち上げ時間の短縮 – AIプラットフォームは、新しいAIアプリ開発者がスピードアップするまでの時間も短縮することもできます。たとえば、ベクトル埋め込みの生成のようなタスクのロジックを実装することによって、開発者自身が実装方法を理解せずとも、ベクトル検索テクノロジーを使用するだけで生産性を高めることができます。
本番環境の準備をサポート – AI プラットフォームを使用すると、生成AI アプリをプロトタイプから本番環境に移行するために必要な堅牢性と信頼性の機能を組み込むことも容易になります。これには、スケーラビリティ、監視と可観測性、セキュリティなどの機能のサポートが含まれます。
生成AIアプリ開発者のリソースプールを増強 – AIプラットフォームを採用する企業にとって大きなメリットの1つは、新しいソリューションを立ち上げるために必要な知識がフレームワークによって削減されるため、より多くの開発者が生成AIアプリを作成できることです。これにより、生成AIアプリ開発を組織や企業全体に拡張することが容易になります。
AI プラットフォームの特徴
では、AIプラットフォームに求められる機能は何でしょうか? すべてを網羅しているわけではありませんが、以下は必須と考えるべきです。
- データの抽出と保存
- プラガビリティ（外部の機能を組み込んだり、プラグインなどで追加機能を組み込んだりすることができること、またはその容易さのこと）
- 検証
- コンポーザビリティ
- オーケストレーション
データの抽出と保存
生成AIソリューションは、高品質なレスポンスを実現するために大量のデータを必要とします。LLMは、一般的な言語理解と生成機能を提供することに優れていますが、その知識は、ほとんどの使用例に対して正確な応答を提供するには、広すぎたり、古すぎたりすることがよくあります。
AIプラットフォームは、構造化ソース、非構造化ソース、非構造化ソースからデータを抽出し、後で検索するためにデータストアに保存するための高度な機能を提供するという点で優れています。これには、ユースケースに最適な形式での検索機能の保存と提供の両方が含まれます。たとえば、ベクトル検索などのRAG手法を使用することでメリットが得られるアプリケーションもあれば、ナレッジグラフベースのアプローチでメリットが得られるアプリケーションもあります。
プラガビリティ
特定のソリューションでは、異なるLLMと統合する必要がある可能性があります。なぜなら、さまざまなタスクでより優れたパフォーマンスを発揮するものがあるためです。また、ユースケースに対してより高品質のレスポンスを提供する別のLLMを見つけた場合は、プロジェクトの途中でLLMを切り替える必要がある場合もあります。
AIプラットフォームは、後でLLMの抽象化を提供し、モデルI/Oを処理して、あるLLMを別のLLMに簡単に交換できるようにする必要があります。
検証
生成AIの品質問題は、現時点で十分に文書化されています。マッキンゼーによると、調査回答者の約4分の1が、生成AIの不正確さにより組織が悪影響を受けたと述べています。
十分なデータがないと、AIシステムはさまざまな形のハルシネーションを起こしやすくなります。基礎となるデータに偏りがあると、不正確な回答や差別的な回答につながることさえあります。
本番環境にリリースする前に、生成AIアプリは厳格なテストを受けて、特定の問題ドメインに対する応答の品質を検証する必要があります。AIプラットフォームは、検証チェックを簡単に組み込むためのフックやライブラリを提供することで支援することができます。
コンポーザビリティ
生成AIアプリには多くの動作パーツが組み込まれています。技術の進歩とともに、これらはますます複雑になるでしょう。コンポーザビリティを使用すると、基本コンポーネントから複雑なアプリを簡単に構築でき、新しいコンポーネントを自由に再配置して挿入できます。
オーケストレーション
オーケストレーションを使用すると、メッセージ、ツール、コンポーネント、およびその他の抽象化を組み合わせて、永続化、ストリーミング、チャット メモリ、監視などの機能を組み込んだ運用対応のアプリケーションを作成できます。
AI プラットフォームを選択する際の考慮事項
市場にはすでに数多くのAIプラットフォームが存在します。プラットフォームを評価する際に、最優先すべき4つの点をご紹介します。
- 開発のしやすさ
- インテグレーションの拡張性
- アプリケーションのライフサイクル全体のサポート
- スピード
これらのそれぞれを詳しく見ていきましょう。
開発のしやすさ
優れた AI プラットフォームは、開発者の生産性を向上させ、本番環境品質のコードを作成するために必要な立ち上げ時間が短縮します。主要なプラットフォームは、ノーコードとローコードの両方のソリューション作成をサポートしています。つまり、ビジュアルビューでは単純なことを簡単に行うことができ、コードビューに切り替えことでより複雑なロジックを実装できます。
また、プラットフォームが以下を含む、必要となる可能性があるすべての生成AIテクノロジーをサポートしていることを確認する必要があります。
- あらゆる形式のデータ（構造化、非構造化、半構造化）
- ベクトル検索とナレッジグラフのトラバーサル
- マルチモーダル データ
インテグレーションの拡張性
プラットフォームが統合されるシステムが増えれば増えるほど、自由に使えるオプションも増えます。プラットフォームが統合するLLMの数と、サポートするデータストアに注目してください。
さらに、プラットフォームがサポートしている検証ライブラリ、外部データプロバイダー、その他のツールにも注目してください。例えば、以下のようなものがあります。
- PDF、Excel、およびその他の形式のドキュメントプロセッサ
- Webデータ検索サービス
- カスタムモデルの埋め込み
- 検証および保護フレームワーク
- エンティティベースのナレッジグラフ システム用のエンティティ解決
- 独自のデータソース
- 支払い処理
アプリケーションのライフサイクル全体のサポート
生成AIアプリのプロトタイプを作成することと、それを本番環境に導入することは別の話です。AIプラットフォームは、この移行を容易にするために、さまざまな機能を提供する必要があります。
- 関連するすべてのサービスのホスティングとスケーリング(ベクトルデータベース、エージェントなど)
- デプロイ パイプライン
- 選択したクラウド プロバイダーへの簡単なデプロイ
- 本番環境でのモニタリング
ここで良い基準となるのは、プロトタイプをリリースして本番環境にするまでにかかる時間です。つまり、アプリの製品化のためのプラットフォームサポートによって、どれだけの時間を節約できるでしょうか?
スピード
AIプラットフォームは利便性を提供しますが、実行時のオーバーヘッドが大きすぎると、アプリケーションのパフォーマンスへの影響に見合わない可能性があります。新しいプラットフォームを採用する前にテストを行い、想定されるユーザー需要やデータ負荷のもとでうまく動作することを確認しましょう。
5分で生成AIアプリを構築する方法
DataStaxでは、生成AIアプリの構築を容易にする方法について多くの時間を費やしてきました。当社の答えであるDataStax AIプラットフォームは、複数のコンポーネントを活用して、ペタバイト規模で動作する生成AIアプリを迅速に構築できます。
- Astra DBによって、高速で無限にスケーリング可能なベクトルおよびナレッジグラフ データストレージを提供し、ハイブリッド検索およびデータストリーミングのサポートを完備
- LangFlowによるノーコードおよびローコード アプローチによるアプリ構築
- すべての主要なLLMおよびクラウド プロバイダーとの統合
DataStaxを使用することで、LangFlowを使用した幅広いアプリケーションを1時間以内に構築できます。たとえば、当社のPatrick McFadinは、わずか5分でメモリを使用したチャット アプリケーションを作成する方法を紹介しています。
実際に試してみたい方は、無料アカウントにサインアップしてチュートリアルを視聴して、フル機能のAIプラットフォームがエンドツーエンドの生成AIソリューションの作成にどのように役立つかをご覧ください。
