Quarkus
QuarkusのLangChain4jエクステンションは、Quarkusプログラミングモデルと既存のQuarkusランタイムコンポーネントとシームレスに統合されています。
このエクステンションは、Quarkusで標準のLangChain4jライブラリを使用する場合と比較して、以下の利点を提供します:
- Quarkusプログラミングモデルとの統合
- 宣言的AIサービスのための新しい
@RegisterAiService
アノテーション - LangChain4jモデル用のインジェクト可能なCDIビーン
- 宣言的AIサービスのための新しい
- GraalVMネイティブバイナリへのコンパイル能力
- モデル設定のための標準設定プロパティ
- 組み込みの可観測性(メトリクス、トレーシング、監査)
- ビルド時のワイヤリング。ビルド時により多くの処理を行うことで、LangChain4jライブラリのフットプリントを削減し、ビルド時の使いやすさのヒントを有効にします。
開発UI
開発モードでは、quarkus-langchain4jプロジェクトはLangChain4j開発を容易にするために開発UIにいくつかのページを提供します:
- AIサービスページ:アプリケーションで検出されたすべ てのAIサービスと、それらが使用すると宣言されているツールのリストを提供します。
- 埋め込みストアアクセス:埋め込みを埋め込みストアに追加し、検索することができます。
- ツールページ:アプリケーションで検出されたツールのリストを提供します。
- チャットページ:チャットモデルと手動で会話を行うことができます。このページはアプリケーションにチャットモデルが含まれている場合にのみ利用可能です。
- 画像ページ:画像モデルの出力をテストし、そのパラメータを調整することができます(サポートしているモデルの場合)。
- モデレーションページ:モデレーションモデルの出力をテストすることができます - プロンプトを送信し、各適切性カテゴリのスコアのリストを受け取ります(サポートしているモデルの場合)。
エクステンション機能の詳細な説明については、langchain4jエクステンションのQuarkusドキュメントを参照してください。