ミスマッチなRTX 3090(24GB)+RTX 3060(12GB)構成の最適な用途は?

Reddit r/LocalLLaMA / 2026/4/19

💬 オピニオンDeveloper Stack & InfrastructureTools & Practical Usage

要点

  • この記事は、ミスマッチなデュアルGPU構成(RTX 3090 24GBを高速な主要PCIeスロットに、RTX 3060 12GBを二次の低速PCIeスロットに搭載)を実運用で活かせるかを尋ねています。
  • 投稿者は、3060側のPCIeボトルネックにより生成速度が低下するため、1つの大きなモデルを両GPUに分割するのは得策ではないのではと考えています。
  • それを踏まえ、各GPUで別々のアプリケーションを同時に動かす運用が現実的かどうか、また悩むなら3090 24GBだけを使うべきかを相談しています。
  • 全体として、異種GPUの組み合わせに向く用途と、ハードウェア構成(トポロジー)が性能判断に与える影響を知りたいという内容です。

みなさんこんにちは。システムのメモリが32GBで、GPUが2枚あります。

​RTX 3090(24GB):主な高速PCIeスロットに搭載

​RTX 3060(12GB):サブの、より遅いPCIeスロットに搭載

​1つの大きなモデルを両方のカードに分割するのは悪い考えだと思っています。というのも、3060側の遅いPCIeスロットが生成速度を大幅にボトルネックにしてしまうからです。

​それを踏まえて、この構成は同時に別々のアプリケーションを実行するのに現実的でしょうか? それとも面倒を考えるほどの価値はなく、すべてを3090の24GBだけで使うべきですか?

投稿者 /u/chucrutcito
[リンク] [コメント]