広告

[R] 敵対的機械学習(Adversarial Machine Learning)

Reddit r/MachineLearning / 2026/3/25

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本投稿は、数学の背景を持つ新人が、AIサイバーセキュリティの領域で敵対的機械学習におけるPhD研究を始めるにはどうすればよいかという質問を投げかけるものである。焦点は、訓練時の攻撃(training-time attacks)とテスト時の回避(test-time evasion)に当てられている。
  • 敵対的MLにおける主要な未解決課題とは何か、またそれらの課題が現在の研究でどのように位置づけられているのかを求めている。
  • 特に、微分幾何学や動的システムなどの数学的手法を用いて敵対的MLの問題に取り組む研究への言及を求めている。
  • さらに、現代的で数学に基づいた研究系統を開始するための、リソース、重要な論文、そして潜在的な研究の方向性についての提案も求めている。

敵対的機械学習

みなさん、こんにちは。この分野は初めてで、というのも私のバックグラウンドが数学(学士・修士)だからです。私はセキュリティ分野での機械学習と、脅威や悪意のある行動を検出するためのディープモデルの活用に取り組み始めました。私はサイバーセキュリティの博士課程に進学し、人工知能における新たなリスク(つまり、敵対的機械学習の分野すべて…訓練時間攻撃やテスト時の回避)に取り組んでいます。微分幾何学や動力学系といった数学的手法を使って、この分野で新しい研究ラインを始めたいと考えています(他におすすめはありますか?

1) この分野での未解決の課題は何ですか?

2) 敵対的機械学習に関するいくつかの問題を解決するために、動力学系としての利用といった数学的手法に関する最近の研究はありますか?

3) この分野で現代的な研究ラインを始めるための、リソース、論文、その他(アイデアも!!!)の提案はありますか?

投稿者 /u/RelationshipOk5930
[リンク] [コメント]

広告