Jlama
プロジェクトセットアップ
langchain4jをプロジェクトにインストールするには、以下の依存関係を追加してください:
Mavenプロジェクトのpom.xml
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j</artifactId>
<version>1.23.0</version>
</dependency>
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-jlama</artifactId>
<version>1.23.0-beta33</version>
</dependency>
<dependency>
<groupId>com.github.tjake</groupId>
<artifactId>jlama-native</artifactId>
<!-- for faster inference. supports linux-x86_64, macos-x86_64/aarch_64, windows-x86_64
Use https://github.com/trustin/os-maven-plugin to detect os and arch -->
<classifier>${os.detected.name}-${os.detected.arch}</classifier>
<version>${jlama.version}</version> <!-- Version from langchain4j-jlama pom -->
</dependency>
Gradleプロジェクトのbuild.gradle
implementation 'dev.langchain4j:langchain4j:1.23.0'
implementation 'dev.langchain4j:langchain4j-jlama:1.23.0-beta33'
埋め込み
Jlama埋め込みモデルを使用すると、文章を埋め込むことができ、アプリケーションでの使用は簡単です。
Jlama埋め込みモデル統合を始めるための簡単な例を提供します。
HuggingFaceから任意のbertベースのモデルを使用でき、所有者/モデル名形式で指定できます。
クラスを作成し、以下のコードを追加してください。
import dev.langchain4j.data.embedding.Embedding;
import dev.langchain4j.data.segment.TextSegment;
import dev.langchain4j.model.jlama.JlamaEmbeddingModel;
import dev.langchain4j.model.embedding.EmbeddingModel;
import dev.langchain4j.store.embedding.EmbeddingMatch;
import dev.langchain4j.store.embedding.EmbeddingStore;
import dev.langchain4j.store.embedding.inmemory.InMemoryEmbeddingStore;
import java.util.List;
public class HelloWorld {
public static void main(String[] args) {
EmbeddingModel embeddingModel = JlamaEmbeddingModel
.modelName("intfloat/e5-small-v2")
.build();
// For simplicity, this example uses an in-memory store, but you can choose any external compatible store for production environments.
EmbeddingStore<TextSegment> embeddingStore = new InMemoryEmbeddingStore<>();
TextSegment segment1 = TextSegment.from("I like football.");
Embedding embedding1 = embeddingModel.embed(segment1).content();
embeddingStore.add(embedding1, segment1);
TextSegment segment2 = TextSegment.from("The weather is good today.");
Embedding embedding2 = embeddingModel.embed(segment2).content();
embeddingStore.add(embedding2, segment2);
String userQuery = "What is your favourite sport?";
Embedding queryEmbedding = embeddingModel.embed(userQuery).content();
EmbeddingSearchRequest searchRequest = EmbeddingSearchRequest.builder()
.queryEmbedding(queryEmbedding)
.maxResults(1)
.build();
EmbeddingSearchResult<TextSegment> searchResult = embeddingStore.search(searchRequest);
EmbeddingMatch<TextSegment> embeddingMatch = searchResult.matches().get(0);
System.out.println("Question: " + userQuery); // What is your favourite sport?
System.out.println("Response: " + embeddingMatch.embedded().text()); // I like football.
}
}
この例では2つのテキストセグメントを追加しますが、LangChain4jはさまざまなソースからドキュメントを読み込むための組み込みサポートを提供しています: ファイルシステム、URL、Amazon S3、Azure Blob Storage、GitHub、Tencent COS。 さらに、LangChain4jは複数のドキュメントタイプの解析をサポートしています: テキスト、PDF、DOC、XLS、PPT。
出力は以下のようになります:
Question: What is your favourite sport?
Response: I like football.
もちろん、Jlama埋め込みをRAG(検索拡張生成)技術と組み合わせることもできます。
RAGでは、LangChain4jを使用したRAG技術の取り込み、検索、高度な検索について学ぶことができます。
タイムアウト、モデルタイプ、モデルパラメータなど、多くのパラメータが背後で設定されています。 モデルパラメータの設定では、これらのパラメータを明示的に設定する方法を学ぶことができます。
その他の例
より多くの例を確認したい場合は、langchain4j-examplesプロジェクトで見つけることができます。