こんにちは。6枚のIntel Arc B70を使ってリグを組もうとしているところですが、先に進む前に、同様のシステムの構築経験がある方にお話を伺いたいです(アーク固有の知識は不要です)、特にllamaとvLLMの件です。
最初のテストとして、5090マシンと128GBのユニファイドメモリ環境を使ってみたところ、いくつか興味深い結果が見られました。いくつか質問がありますので、経験のある方と議論する機会をぜひいただき、情報に基づいて判断し、最初から正しく構成できるようにしたいです。
ご対応に対してお支払いすることも可能です。ただし、料金次第ではありますが、関連する経験があることを裏付ける何らかの証拠をご提示いただけるとありがたいです。
ありがとうございます!
[リンク] [コメント]



