Abstract
AlphaEvolveのようなEvolveベースのエージェントは、Large Language Models(LLM)を用いてAIサイエンティストを構築する取り組みの代表的な成功例の1つです。これらのエージェントは、LLMの持つ既知の知識と推論能力を活用しながら、プログラムを反復的に改善し進化させることで、開かれた科学的問題に取り組みます。とはいえ、既存のEvolveベースのエージェントには、進化に対する的を絞ったガイダンスや、過去の進化経験から得られた知識を効果的に整理し活用するための仕組みが欠けています。その結果、進化効率が低下し、既知の性能限界に近づくと振動的な挙動を示します。このギャップを埋めるために、因果スクラッチパッドを備えたCausalEvolveを開発します。因果スクラッチパッドは、LLMを活用して進化を導く要因を特定し、その要因について推論することにより、進化のための手がかりを提供します。初期段階では、CausalEvolveはまず、目標目的を改善する上で補完的な着想を与える結果レベルの要因を特定します。進化の過程では、CausalEvolveはさらに、進化中に現れる驚きのパターンと演繹的推論を検査し、新たな要因を仮説として立てることで、それが新しい方向性を生み出します。包括的な実験により、CausalEvolveが進化効率を効果的に向上させ、4つの挑戦的な開かれた科学タスクにおいてより良い解を発見できることを示します。