みなさんこんにちは。システムのメモリが32GBで、GPUが2枚あります。
RTX 3090(24GB):主な高速PCIeスロットに搭載
RTX 3060(12GB):サブの、より遅いPCIeスロットに搭載
1つの大きなモデルを両方のカードに分割するのは悪い考えだと思っています。というのも、3060側の遅いPCIeスロットが生成速度を大幅にボトルネックにしてしまうからです。
それを踏まえて、この構成は同時に別々のアプリケーションを実行するのに現実的でしょうか? それとも面倒を考えるほどの価値はなく、すべてを3090の24GBだけで使うべきですか?
[リンク] [コメント]




