概要

OmniCoder-9B は Tesslate によって構築された 90 億パラメータのコーディングエージェントモデルで、Qwen3.5-9B のハイブリッドアーキテクチャ（ゲーティッド・デルタ・ネットワークと標準アテンションを組み合わせた構成）の上でファインチューニングされています。現実世界のソフトウェア工学タスク、ツールの使用、ターミナル操作、そして多段階推論にまたがる 425,000件以上の厳選されたエージェント的コーディング軌跡 で訓練されました。

訓練データは特に Claude Opus 4.6 のエージェント的およびコーディング推論のトレース から構築され、 Claude Code、OpenCode、Codex、Droid のスキャフォールディングパターンを現実世界のソフトウェアタスクのために捉えることを目的としています（GPT-5.3-Codex および Gemini 3.1 Pro を含む）。データセットには Claude Opus 4.6、GPT-5.4、GPT-5.3-Codex、Gemini 3.1 Pro などのモデルからの成功した軌跡が含まれています。

本モデルは強力なエージェント的挙動を示します：エラーからの回復（読み出し前書き）、LSP 診断への対応、完全な書き換えではなく適切な差分編集の適用といったエージェント的挙動を示します。これらのパターンは、訓練に使用した現実世界のエージェント軌跡から直接学習されました。

主な特徴

• 最前線のエージェント軌跡で訓練 : Claude Opus 4.6、GPT-5.3-Codex、GPT-5.4、Gemini 3.1 Pro のエージェント的コーディング軌跡を Claude Code、OpenCode、Codex、Droid のスキャフォールディング全体にわたって構築
• ハイブリッドアーキテクチャ : Qwen3.5 の ゲーティッド・デルタ・ネットワーク と標準アテンションを組み合わせた構造を継承し、長文コンテキスト処理を効率化
• 262K ネイティブコンテキスト : 完全な 262,144 トークンのコンテキストウィンドウ、1M+ へ拡張可能
• エラー回復 : 読み出し前書きパターンを学習し、LSP 診断へ対応し、完全な書き換えではなく最小限の差分編集を適用
• 思考モード : <think>...</think> 推論連鎖をサポートし、複雑な問題の分解を支援
• Apache 2.0 : ウェイトを完全公開、制限なし

https://huggingface.co/Tesslate/OmniCoder-9B