LLM に図面情報を全部見せる設計をやめた話

LLM に大量の構造化データを扱わせたいとき、最初にやりがちな設計があります。全部コンテキストに入れて見せる方法です。 自分も、AutoCAD 上で動作する AI エージェントを個人で開発する中で、まさにそれを試しました。ユーザーが自然言語で指示すると、図面上の線・円・文字・ブロック参照などを調査したり、条件に応じて編集したりするツールです。 AutoCAD 上で動作する AI エージェント 開発を始めた当初、自分はかなり素朴にこう考えていました。 図面の情報を全部 LLM に見せれば、賢く判断してくれるのでは? 結論から言うと、この設計はやめました。LLM に大量の図面情報をそのまま...