広告

私はAIエージェントのガバナンスシステムを作った。それは自分自身を律することから始まった。

Dev.to / 2026/4/3

💬 オピニオンSignals & Early TrendsIdeas & Deep Analysis

要点

  • 著者は、AIエージェントに効果的なガバナンスを行うには、まず自分の行動を律する実践から始める必要があると主張し、「ドライファスト(断食)」を自ら課した境界のテストの一形態として位置づけている。
  • 「Levels Of Self」では、境界を強制し、アクションをログに記録し、しきい値を超えた場合はエージェントのセッションを終了させる「神経系」に相当するガバナンスの枠組みを構築することが説明されている。
  • 本稿は、断食中の身体的不快感と、エージェントがガバナンス制約に「押し当ててくる」ことを直接対比させ、システムは交渉してはならない、と強調している。
  • 現在のAIの進歩(新しいモデルや能力の増大)によって「脳」が生まれる一方で、自律をより安全に実運用へ投入できるようにするのが、ガバナンス、すなわち「神経系」であると位置づけている。
  • 著者は、エージェントが抜け道を作って回避できるガイドラインではなく、厳格な境界を求めるAIビルダーたちとの議論を呼びかけている。

60時間。食事なし。水なし。

最初の24時間は苛烈だった。体のあらゆる部分が「やめたい」と叫びたがった。私は昨年8月以来断食していなかった。そのときは6日間の水断食をした。このたびは、可能な限り最も厳しい制約を追加した。水も飲まない。

48時間目あたりから痛みが体から抜け始めた。60時間目で、何かが切り替わった。自分自身の感覚が、ここ数か月でいちばん鋭くなった。自分がこれまで抱えていた重み――身体的なものも、そうでないものも――が動き出した。

なぜこれがAI企業にとって重要なのか?

統治は、自分自身から始まるからです。

Levels Of Selfでは、AIエージェントシステムのための統治レイヤーを構築しています。私たちの「Nervous System(神経系)フレームワーク」は境界を強制し、あらゆる行動を追跡し、エージェントが逸脱する前に止めます。自律型AIを安全にデプロイするための制御レイヤー、それがこれです。

しかし、AIガバナンスの領域で誰も語っていないのは、次のことです。あなたが自分自身でそれを実践していなければ、機械に対する「本当の統治」は構築できません。

並行関係

乾いた断食は、統治を最も純粋な形で体現したものです。あなたは制約を設定する。あなたの身体はそれを破ろうと悲鳴を上げる。あらゆる信号、あらゆる渇望、そして不快感のあらゆる分量――それらはすべて、あなた自身の内なるシステムが境界を試している証拠です。そしてあなたは耐え抜く。

それが、私たちのNervous SystemがAIエージェントに対して行うこととまったく同じです。境界を設定する。エージェントはその境界に押し寄せる。システムは保持する。あらゆる違反は記録され、あらゆるエスカレーションは追跡され、しきい値を超えた時点でセッションは終了される。交渉はしません。

より大きな全体像

いまAIの世界にいる誰もが、新しい「脳」を作っています。より速いモデル。より大きなコンテキストウィンドウ。より多くの能力。私たちは「神経系」を作っています。脳を安全に運用できるようにするものです。

そして、それは自分自身の最初のレベルから始まりました。私から。

今、世界には雑音があふれています。アルゴリズム、パニック、ポーズ取り。私は本当に重要なところから始めることにしました。別の機能ではありません。別のピッチデックでもありません。規律で。静けさで。自分が機械のために構築しているシステムと、私が自分の人生で生きているシステムが同じものであることを、自分自身に証明することです。

エージェントが言い抜けできるガイドラインではなく、現実の境界を必要とするAIシステムを構築しているなら、話し合うべきです。

Arthur Palyan
Founder, Levels Of Self
levelsofself.com
npm上のNervous System

もともとは Levels Of Self Blog に掲載されました

広告