というわけで、m5 pro とメモリ64GB搭載の新しい14インチ MacBook Proを買うか、同じスペックの m4 max にするかで迷っています。
私の優先事項は、複数のVMやエージェント、コンテナを動かすなどを含むプロ向けのソフトウェア開発、それからローカルLLMをいじること、場合によってはファインチューニング、さらに従来型の機械学習モデルを普通に学習することです。
追加のGPUコア、はるかに高い帯域幅、CPU性能の差はわずか、という点からすると m4 max を選ぶのがよさそうに思えるのですが、ニューラルアクセラレータ関連のことが気になっています。
ただ、ここに投稿しているのは、これらのマシン上でそもそもGPU加速の機械学習、DLなどを行うことが可能なのか、それともCPUとメモリに注力すべきなのかを知りたいからです。最近の mlx、jax、pytorch などはどうですか？ m5 のマットマル（matmul）用ニューラルエンジンは役に立ちますか？
この点についての洞察や、もし実際に使った経験がある人がいれば教えていただけると嬉しいです。ありがとうございます！
[link] [comments]
