LLMの世界に飛び込む前はデータエンジニアリング畑でした。 この分野の多くの人がElastic/OpenSearchを知らないことに驚いています。

冗談はさておき、技術的なレベルでは、Google/brave検索とベクターストアは基本的に非常に似た方法で機能します。主な違いはスケールです。LLMの観点から見ると、両者はRAGに該当します。埋め込みモデルを完全に無視して、TF-IDFやBM25を使用することもできます。

ElasticとOpenSearch（技術的にはLucene）は、この種の検索に関しては強力な存在です。ElasticまたはOpenSearch内で、CPU上で動作する約100MB（FP32）の小さなBERTモデルをベクター埋め込みとして有効にすることもできます。

ドキュメントセットが比較的小さい（約10K未満）場合で、良好なバリエーションがある場合、小さなBERTモデルがタスクをうまく処理できますし、埋め込みを完全にスキップすることもできます。より深い意味的類似性や密接に関連するドキュメントの場合、より強力な埋め込みモデルが通常は選ばれます。