[P] neuropt: 学習曲線を読み解くLLM主導のハイパーパラメータ最適化

問題: あなたはハイパーパラメータを調整しています。各試行には複数時間かかります。時間や計算資源が尽きる前におそらく15〜20回の試行を予算として持っています。ベイズ最適化は次の構成を最終的な検証スコアだけに基づいて選択します。あなたのモデルがエポック3で過適合していることや、検証損失が20エポックにわたって平坦だった後に発散したことには全く気づきません。

neuroptが異なる点: 各試行後、完全なエポックごとの訓練/検証曲線（必要に応じて他の情報）をLLMに送信し、何が起きているかを推論させ、次の構成を提案します。

さらに、PyTorchモデルの調整可能なパラメータと層を自動検出します。望まない場合は、手動で探索空間を定義する必要はありません。

対応ソフトウェア: PyTorch、XGBoost、scikit-learn

結果（Optuna + ランダム探索（同じ15回の評価予算）との比較） は以下に示します:

neuropt（赤） vs. Optuna TPE および ランダム探索: FashionMNIST（CNN、14パラメータ）と Covertype（XGBoost、9パラメータ）をそれぞれ15回評価。

このアイデアは学術的裏付けがあります（AgentHPO、CPAL 2025）が、清潔で使えるオープンソースのパッケージはありませんでした。これが私の試みです。

pip install "neuropt[llm]"

[GitHub リンク] | [ドキュメント リンク]

質問があれば喜んでお答えします！ 次にベンチマークしてほしいアーキテクチャ/データセットは何ですか（: