ガードレール(Guardrails)
备注
ガードレールは実験的な機能です。API と動作は将来のバージョンで変更される可能性があります。
ガードレールは、LLM の入力と出力を検証し、期待どおりであることを保証するための仕組みです。ガードレールでは、例えば次のようなことができます:
- ユーザー入力が範囲外でないことを確認する
- LLM を呼び出す前に入力が一定の条件を満たすことを保証する(例:プロンプトインジェクション攻撃 への対策)
- 出力形式が正しいことを保証する(例:正しいスキーマを持つ JSON ドキュメントであること)
- LLM の出力が ビジネスルールと制約に整合していることを保証する(例:これが会社 X のチャットボットである場合、応答に競合他社 Y への言及が含まれないこと)
- 幻覚(hallucinations)を検出する
これらはあくまで例です。ガードレールではほかにも多くのことができます。
备注
ガードレールは AI Services を使用する場合にのみ利用できます。より高水準の構成要素であり、ChatModel や StreamingChatModel には適用できません。

;
この実装はもともと Quarkus LangChain4j 拡張 で行われ、ここにバックポートされました。