皆さん、こんにちは。ローカル LLM 環境を構築しようとしており、私のハードウェアで動作するモデルやツールについてアドバイスが欲しいです。
ハードウェア:
ノートパソコン: Dell Precision 5680
RAM: 32 GB
GPU: NVIDIA RTX A1000（6 GB VRAM）
統合GPU: Intel（タスクマネージャーには約16 GB の VRAM と表示されます）
報告されている総 GPU メモリ: 約21.8 GB
大規模モデルの実行は難しいかもしれないことは理解していますが、シンプルなワークフローで何ができるかを試してみたいです。
私の典型的なユースケース: 基本的な Python のワークフロー、データ分析、データフレームの操作、プロット、レポーティング。通常は関数の構文や基本的なループの設定、コード構造の作成について、すぐに助言を求めることが多いです。
また、PPT 資料の作成や仕様書の分析など、基本的なプロジェクト管理タスクの支援があると嬉しいです。
さらに、統合グラフィックスと追加メモリを活用して、ローカル LLM のパフォーマンスと機能を改善できる方法はありますか？
