LLM に bash を握らせるか

AI エージェントを開発していると、どこかで必ず「bash をどこまで握らせるか」という判断にぶつかります。 ユーザーが自然言語で指示すると、LLM がそれに合わせて bash コマンドを組み立てて実行する ── この仕組みができると、エージェントのできることの幅が一気に広がります。 ファイルの整理、プログラムの実行、ネットワーク操作、ツールのインストール。LLM の柔軟さと bash の万能さが組み合わさると、ほんとうに何でもできそうな気になります。 ただ、同じ仕組みで、たとえば、 rm -rf / のような象徴的なコマンドも実行できてしまう世界に踏み込みます。 これは直訳すると「ルー...