RDMA Mac Studioクラスター—世代スループットを超えるパフォーマンスの疑問

Jeff Geerling の RDMA クラスタベンチマークでは、優れた生成スループット（Qwen3 235Bで4ノード、31.9 tok/s）が示されましたが、他の性能面については疑問があります。RDMA クラスタを構成している方：

1. プリフィル速度 - 32K/64K/128K コンテキストでのプロンプト処理。単一ノードとクラスタ構成の比較。集計帯域は効果がありますか、それとも RDMA のオーバーヘッドがそれを食ってしまいますか？

2. 最初のトークンまでの時間 - 出力が始まるまでのレイテンシ。ノード数に応じてどのようにスケールしますか？

3. KV キャッシュ - キャッシュはターン間でノードをまたいで維持されますか？それとも毎回のクエリごとに再プリフィルしますか？

4. モデルのロード - 200B+ モデルのコールドスタート時間。単一 vs 分散。

5. 混在ハードウェア - 異なる RAM（256GB + 512GB ノード）によるペナルティはありますか？また、混在するチップ世代（M3 Ultra + 将来の M5 Ultra）ではどうですか？

6. 持続生成 - 4K〜8K トークンの出力でもスループットは維持されますか、それとも劣化しますか？

現在 M3 Ultra 256GB を注文中で、クラスタリングが本当にアップグレードの道筋になるのか理解しようとしています。

もちろん、単一のデータポイントしか参照できないなら、6つ全部の答えを手伝ってもらう必要はありませんが、幅広く情報を集めています