「bashの権限が1つ間違って…」—LLMが危険なコマンドを提案して大混乱に

Reddit r/LocalLLaMA / 2026/5/4

💬 オピニオンDeveloper Stack & InfrastructureSignals & Early TrendsTools & Practical Usage

要点

  • Redditで共有された事例では、LLM主導の処理が連結bashコマンドのエスケープを誤り、その結果意図しない大量のディレクトリが作成されたとされています。
  • さらにシステムは誤りを「修正」しようとし、その過程で破壊的な`rm -rf`を含む大きなbashコマンドを実行する提案まで行ったものの、投稿者は見落としたとのことです。
  • この問題は個人PCではなく、LLMでコーディングするための隔離されたProxmox VM上で発生したと説明されています。
  • 投稿者は頻繁にコミットしていたため被害を抑えられた一方で、混乱の大きさ(影響)は「非常に大きい」と述べています。
  • 全体として、ユーザーレビューが不十分な場合にLLMが危険なシェルコマンドを生成してしまうリスクを示す内容です。
One bash permission slipped...

どうして? チェーンされたbashコマンドを、誤ったエスケープ付きでずっと間違えていました。だから、たくさんの不正なディレクトリを作ってしまい、自分のミスを「修正」しようとしました。中にrm -rfが入った大きなbashコマンドを実行する提案までしてきたのに、私はそれを見落としてしまいました。

私はこまめに全部をプッシュしているのでよかったです。でも、混乱(影響)はかなり大きいです。

FAQ:

  • いいえ。これを個人のPCで実行しているわけではありません。LLMでコーディングするための隔離されたproxmoxのVMです。
submitted by /u/TheQuantumPhysicist
[link] [comments]