llama-serverでさまざまなフラグ、モデル、ランタイムを試しながら遊ぶのがとても楽しいです。自分のホームラボのAIスタックとして、次に何を作り込むべきか考え始めています。RAG/SearchにOpen WebUIを使うべきでしょうか？LangGraphのようなものに手を出してみるべきですか？私の目標は、ローカルのハードウェアを使って、可能な限りClaudeに近いものを作ることです。
[link] [comments]
Llama.cppの後に何を実装するべき？
Reddit r/LocalLLaMA / 2026/3/29
💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisTools & Practical Usage
要点
- Redditのユーザーが、llama-server、フラグ、モデル、ランタイムをいろいろ試した上で、ローカルの「Claude-like」なホムラボ向けAIスタックとして次に何を作るべきか質問している。
- 次のステップとして、RAGや検索機能を提供できるOpen WebUIの導入を検討している。
- LangGraphのようなフレームワークを使って、多段階のAI挙動をオーケストレーションするワークフローを構築する案も挙がっている。
- 投稿では、単一のモデル／ランタイムに注目するのではなく、ローカルのハードウェアに対して実用的なアーキテクチャを選ぶことが意思決定の軸として位置付けられている。
提出者 /u/ShaneBowen
[link] [comments]
