AIセキュリ aseキュリティ研究はarXivで多く公表されていますが、それらは現実世界に影響を及ぼすものがある一方で、ほとんどが他の研究者向けに書かれています。私たちは、実務者やAIの安全性に関心のある人が実際に使えるよう翻訳する、隔週のダイジェストを始めました。各論文は4つの次元（脅威の現実性、防御の緊急性、斬新さ、研究の成熟度）に基づく構造化評価と、バッジを付与します：今すぐ行動（即時の実務的関心）、監視中（監視すべき新興技術）、Horizon（長期的な研究動向）。 **最初の特集のハイライト:** **Cascade -- 「攻撃者がソフトウェアの不具合とハードウェア攻撃をAIシステムに組み合わせたらどうなるか」** 研究者は、複数のコンポーネントから構成される複合AIシステム（検索システム、LLM、データベース、ツールなど）が、各コンポーネントの脆弱性表面を継承することを実証しました。彼らは、従来のソフトウェアCVEとRowhammerのようなハードウェアレベルのエクスプロイトをAI基盤に対して連鎖させる攻撃を示しました。実務的な意味は、LLMを守るだけでは周囲のシステムが脆弱であれば対処できない、ということです。 **LAMLAD -- 「LLMs that automate attacks against other ML systems」** Androidマルウェア分類器に対する敵対的機械学習攻撃を自動化するデュアルLLMエージェント系で、回避率97%を達成しました。重要なのは回避率自体ではなく、LLMsがこれまで専門的な知識を要した敵対的MLの面倒な部分を自動化できるようになった点です。これにより攻撃への障壁が大幅に下がります。 **OpenClaw -- 「Your AI agent framework probably has these four types of vulnerabilities」** 自律エージェントフレームワークの4つの脆弱性クラスを特定します。重要な点は、現在の防御の多くがプロンプト層に焦点を当てている一方で、実際の攻撃表面は実行・ツール使用層にあるということです。ダイジェスト内のすべての主張は元のarXiv論文へリンクしています。視覚的な [VERIFY] タグで検証できないものには、フラグを付けます。無料、ペイウォールなし、サインアップ不要: https://raxe.ai/labs/radar[リンク] [コメント]
