こんにちは、
私はPython + PostgreSQLのシステムに取り組んでいて、内容は以下の通りです：
- ユーザーの問い合わせ → LLMがSQLを生成
- データはPostgreSQLから取得
- LLMがデータを処理（計算/派生を含む）して、最終的な回答を生成
主な課題：複雑で、複数のパラメータを含むクエリに対して高い精度を達成することです（単なる簡単な傾向ではなく）。特に、このシステムがGeminiのように複数のフィールドを組み合わせたり、計算/推論を行ったりする必要がある場合に問題になります。
問題点：
- 応答が遅い
- Geminiのための無料/オープンソースの代替が必要
- モデルに強い推論能力＋計算能力を求めたい
質問：
- この構成で、複雑な多パラメータのクエリに対する精度と推論をどのように改善できますか？
- Geminiレベルの推論（計算や派生したインサイトを含む）に匹敵しうる無料/オープンソースのLLMとアーキテクチャはどれですか？
技術：Python、PostgreSQL
どんな提案や実際のアプローチでも本当に助かります。
[link] [comments]
