Apple Silicon MacでPCIパススルーによりCUDA推論ができる

Reddit r/LocalLLaMA / 2026/5/9

💬 オピニオンDeveloper Stack & InfrastructureSignals & Early TrendsTools & Practical Usage

要点

  • macOS上のQEMUを改良し、Apple Silicon MacでPCIパススルーを使ってGPUをLinux VMに受け渡す方法が紹介されています。
  • 仮想化とGPUパススルーの過程で直面した主要な課題と、パフォーマンスのベンチマークが示されています。
  • ゲームを中心に扱っていますが、AIベンチマークも含まれており、CUDA前提のAI推論ワークフローに対応できることが示唆されます。
  • ネイティブなCUDAの制約があるApple Siliconでも、CUDA向けの処理を動かしたいユーザーに向けて実用的な構成手順が提示されています。
You can do CUDA inference on an Apple Silicon Mac with PCI Passthrough

私は、macOS上で動作するQEMUを改良して、GPUをLinuxの仮想マシン(VM)へパススルーできるようにするプロジェクトに取り組んでいます。こちらの投稿では、そこで直面したいくつかの興味深い課題やベンチマークについて順を追って説明しています。この投稿は主にゲームを扱っていますが、AIのベンチマークもあります。

投稿者 /u/scottjgo
[リンク] [コメント]