概要
検索拡張生成(RAG)は、シンプルな問い合わせに対して有効です。しかし、もし問い合わせが複雑で、多段階の推論や意思決定を必要とする場合はどうでしょうか。その場合、FAQを取得するだけでなく問題を切り分けて解決できるサポートチャットボットの方が、はるかに有用になります。
このソリューションでは、マルチエージェントのRAGパイプラインを構築し、Oracle Cloud Infrastructure（OCI）とOracle Database 23ai上にデプロイして、問合せにインテリジェントに対応できるようにします。大規模言語モデル（LLM）エージェントが、AIの回答を計画し、調査し、推論します。このチェーン・オブ・ソート（CoT）プロセスは、人間が問題を解決するときの考え方を真似た仕組みです。Gradioインターフェースがデータ処理を統合して管理します。複数のデータソースがアップロードされ、取り込まれ、オープンソースツールを使ってベクトルとして保存されます。Gradioは、自然言語で問い合わせを入力するためのチャットインターフェースも提供します。
GradioでのCoTビジュアライゼーションを利用すると、各エージェントが最終的な統合応答を生成するまでに行ったステップや判断を確認できます。このソリューションは、エージェンティックAIがローカルモデルとクラウドベースのモデルの両方の推論能力をどのように強化できるかを示す、分かりやすい例を提供します。
デモ
