跳到主要内容

Quarkus

QuarkusのLangChain4jエクステンションは、Quarkusプログラミングモデルと既存のQuarkusランタイムコンポーネントとシームレスに統合されています。

このエクステンションは、Quarkusで標準のLangChain4jライブラリを使用する場合と比較して、以下の利点を提供します:

  • Quarkusプログラミングモデルとの統合
    • 宣言的AIサービスのための新しい@RegisterAiServiceアノテーション
    • LangChain4jモデル用のインジェクト可能なCDIビーン
  • GraalVMネイティブバイナリへのコンパイル能力
  • モデル設定のための標準設定プロパティ
  • 組み込みの可観測性(メトリクス、トレーシング、監査)
  • ビルド時のワイヤリング。ビルド時により多くの処理を行うことで、LangChain4jライブラリのフットプリントを削減し、ビルド時の使いやすさのヒントを有効にします。

開発UI

開発モードでは、quarkus-langchain4jプロジェクトはLangChain4j開発を容易にするために開発UIにいくつかのページを提供します:

  • AIサービスページ:アプリケーションで検出されたすべてのAIサービスと、それらが使用すると宣言されているツールのリストを提供します。
  • 埋め込みストアアクセス:埋め込みを埋め込みストアに追加し、検索することができます。
  • ツールページ:アプリケーションで検出されたツールのリストを提供します。
  • チャットページ:チャットモデルと手動で会話を行うことができます。このページはアプリケーションにチャットモデルが含まれている場合にのみ利用可能です。
  • 画像ページ:画像モデルの出力をテストし、そのパラメータを調整することができます(サポートしているモデルの場合)。
  • モデレーションページ:モデレーションモデルの出力をテストすることができます - プロンプトを送信し、各適切性カテゴリのスコアのリストを受け取ります(サポートしているモデルの場合)。

エクステンション機能の詳細な説明については、langchain4jエクステンションのQuarkusドキュメントを参照してください。