Ollama でローカル LLM
Ollama はローカル環境で LLM を動かす標準ツール。インストール 5 分、初回モデル実行 10 分で「自分の PC で動く AI」が手に入ります。
なぜローカルで動かすか
- プライバシー：データが外部に出ない（医療・法務で重要）
- コスト：API 料金なし。電気代だけ
- オフライン：インターネット不要
- カスタマイズ：モデルを自由に切り替え・ファインチューン
- レート制限なし：好きなだけ呼べる
必要なスペック
| モデルサイズ | RAM | GPU（推奨） | 速度感 |
|---|---|---|---|
| 3B | 8 GB | 不要 | かなり速い |
| 7B | 16 GB | M1 / RTX 3060 | 普通 |
| 13B | 24 GB | M2 Pro / RTX 4070 | 遅め |
| 70B | 64+ GB | M3 Max / RTX 4090+ | かなり遅い |
インストール
Mac / Linux
brew install ollama # または curl -fsSL https://ollama.com/install.sh | sh
Windows
ollama.com からインストーラ DL
