はじめに

今日は２つ書きます。
明日から、いよいよ新年度が始まります。
新しい子どもたち、新しい仕事、新しい毎日が始まるこの時期は、楽しみでもあり、少し緊張もしますね。

わたしはこの春休み、私はひとつの挑戦を続けていました。

それは、ローカル環境でAIを使用することです。

今は、ChatGPTやClaudeのように、すぐに使えるAIがたくさんあります。

けれど、学校現場で使うことを考えると、難しい場面も少なくありません。

特に個人情報保護の観点から考えると、便利だからといって何でも外部サービスに入力してよいわけではありません。もし扱いを誤れば、最悪の場合、AIそのものの活用が難しくなってしまうこともあります。

だからこそ、自分の手元で、外部へ情報を漏らさずAIを動かせないか。そんな思いから、今回の挑戦が始まりました。

AIをUSBに入れるのは、思った以上に難しかった

ただ、ここには大きな壁がありました。

ローカルでAIを動かすには、モデルのデータだけでは足りません。実行するためのソフト、使うためのUIなど、さまざまなものがそろって初めて動きます。（あと、パソコン）
つまり、AIを入れようとすると付属品が、たくさん必要になると言うわけです。

しかも、一つのパソコンで上手く行ったとしても、別のパソコンではうまくいかないこともあります。

最初の課題は、AIモデルを動かせるソフトをどうするかでした。

最初OllamaをそのままUSBに収めて利用する形を考えました。

けれど、実際にやってみると、思ったようにはいきませんでした。OllamaはWindowsのようなOSとアカウントに依存しているようで、もし入れるならOSもセットで入れてあげる必要があり、16GBの中には収まりきりませんでした。

そこで出てきたのが llama.cpp だった

そんな中で、大きな助けになったのが llama.cpp でした。llama.cppは、簡単に言えば、AIモデルを自分のパソコンで動かすための土台のようなものです。

比較的軽量なデータであるため全てのデータをUSBにおさめることに成功しました。

そこで、さらに次のものをUSBに入れます。入れたのは、AIモデル、自分で作ったUIのデータ、起動に必要な設定です。こうしたものを、まとめてUSBの中に入れてどこでもAIを起動できるようにしたいと考えました。

結論、USBからAIモデルを動かせた！

ChatGPTに設計図を含めたプロンプトを書いてもらい、Claudに開発を依頼して試行錯誤を重ねた結果、USBから起動できるAIの形まで持っていくことができました。作ったのがこちらになります。

今回は、AIモデルはGemma 3 1B をダウンロードしてきてつかいました。

UIはchat GPTを参考に作ってあります。

ただ、課題がなくなったわけではありません。今のところ、使えるモデルはまだ一つに限られています。また、どれだけUSBの中にまとめても、最終的には動かすパソコンの性能に左右される部分は残ります。

つまり、USBの中にAIを入れることには成功したけれど、どんな環境でも同じように動くわけではない。と言うのが現状です。

AI搭載アプリが自分で作れる時代になった。

とはいえ、今回の取り組みで、ローカルで動き、しかも持ち運べるAI環境を作ることが可能だと証明できました。個人的にはすごい成果だと思ってます。

たとえば、ローカルでAIが動くなら音声入力から学級日誌を作ったり、子どもの様子を音声として記録し、文字に起したりすりAIモデル搭載アプリが可能だと言えるからです。

まだ試作段階ですが、私も音声ファイルから文字起こしをやってくれるローカルAIアプリの開発には成功しました。

さらに、それを個人が開発できるとなれば、可能性は無限大です。

こうしたローカルAIの利用が学校で広まっていけば、AIがどんな場面でも教員の仕事を助けてくれて、現場の仕事がもっと楽になっていくと思います。

この記事を読んでくださったみなさんも、ぜひ自分なりのアイデアを形にしてみてください。