こんにちは、私はフレームワーク13のラップトップを使っています。メモリは32gb、CPUはamd ryzen 5 7640uです。ローカルモデルを試してみたいと思っています。特定の目的はまだありませんが、ローカルモデルがどこまで到達できるのかを確認するために、さまざまな用途に対して試してみたいです。
それらが低スペックのハードウェア上でどのように性能を発揮するのか、試す方法のいろいろや最適化方法を理解したいです。そして、自分にとって向いている用途にそれらを使うことで、つまらない作業のためにフロンティアのクローズドな重みモデルに依存する度合いを減らしたいと考えています。
モデルとその仕様、または参照できるリソースについて、教えてください。
[リンク] [コメント]




