AI Navigate

アンドレイ・カルパティは、AI研究のボトルネックは人間になり、測定しやすい成果によって進歩が結びつくようになっていると指摘している

THE DECODER / 2026/3/22

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

要点

  • アンドレイ・カルパティは、AI研究のボトルネックは人間であり、進歩が測定しやすく、拡張可能な改善にますます結びついていると主張している。
  • 自律エージェントが一夜で彼のトレーニング設定を最適化し、20年の経験を経ても見逃していた改善を明らかにしたと指摘している。
  • 本稿はRLHFの限界を浮き彫りにし、自動化が研究者の実験と反復の方法を変える可能性があると示唆している。
  • 全体として、この記事は自動化された最適化と測定がAIの進歩を促す要因へと移行していると描いており、研究者や製品チームに広範な影響を与えることを示している。

Former OpenAI researcher Andrej Karpathy criticizes the fact that reinforcement learning from human feedback (RLHF) is only effective to a limited extent when training AI language models.

AI developer Andrej Karpathy let an autonomous agent optimize his training setup overnight, and it found improvements he'd missed despite two decades of experience.

The article Andrej Karpathy says humans are now the bottleneck in AI research with easy-to-measure results appeared first on The Decoder.