無人の舵取り：デラウェア州、AIエージェントによる企業運営を認める法案を検討

フォーチュン500企業の3分の2以上が登録する米国デラウェア州の動向は、常に会社法に大きな影響を与えてきた。同州はいま、商業史を塗り替えかねない提案を検討している。それは、人工知能エージェントが人間の「舵取り」なしに企業全体を運営することを認めるというものだ。Ars Technicaの報道が表現するように、これは「無人の舵取り」による商業像——企業の日常的意思決定、契約締結、さらには戦略的方向性までもがAIシステムによって担われる世界——である。

提案の核心：経営の連鎖から「人間」を外す

報道によれば、この計画はAIエージェントが企業の管理職を担うことを認め、企業オーナーはガバナンス構造に人間の監督者を置く必要がなくなる。つまり、企業をアルゴリズムだけで駆動させることが可能になる。AIが運営し、AIが意思決定を行い、人間の株主は資本提供者として背後に退くという形だ。この構想が実現すれば、「企業は自然人によって管理される」という伝統的な会社法の大前提を根本から覆すことになる。

デラウェア州が注目を集めるのは、同州の会社法体系が米国における商業活動の「オペレーティングシステム」と長らく見なされてきたからだ。多くのスタートアップやテック大手が同州に登録するのは、柔軟で予測可能かつ判例が豊富な法的環境を評価してのことである。同州がいち早くAIエージェントの運営上の地位を認めれば、他の法域がそれに追随する競争を引き起こし、新たな「規制裁定」型の制度競争が生じる可能性がある。

コマー議員の警告：責任の真空が生まれつつある

この提案に対する最も鋭い批判は、米下院議員コマー（Comer）から発せられた。同議員は、AI運営企業のオーナーが「無謀な」AI行動に対する責任を免れることができると率直に述べた。この批判は問題の核心を突いている。監督者不在のままAIが誤った意思決定を下した場合——たとえば不利な契約を締結したり、規制に違反したり、第三者に損害を与えたりした場合——、法的責任を負うのは誰なのか。

「機械が舵を握り、誰も責任を負わない時、被害を受けるのは消費者、労働者、そして市場秩序全体だ。」——報道が示す論争の核心

伝統的なコーポレートガバナンスでは、取締役や経営幹部は信認義務を負い、意思決定の失敗について責任を問われる。しかしAIエージェントには財産も法的人格もなく、訴訟の適格被告にはなり得ない。それと同時に、背後にいる人間のオーナーも法的に免責されるとなれば、責任の連鎖は断ち切られてしまう。批判者たちは、これが「責任逃れ型」企業を生み出しかねないと懸念する。利益は株主のものとなり、リスクは社会が負わされる構図だ。

業界の背景：AIの法的人格をめぐる長年の議論

AIの法的地位の問題が公共の議論の場に登場するのは、今回が初めてではない。近年、大規模言語モデルの能力が飛躍的に向上するにつれ、AIに「電子的人格」を付与すべきかどうかをめぐる議論が続いている。EUはAI法の初期草案において自動化システムへの責任配分を検討したが、最終的には人間のオペレーターが主要な義務を負う方向に傾いた。一方、米国は州法レベルでの会社ガバナンスの革新に多くを委ねており、デラウェア州の提案はその思想の急進的な延長線上にある。

支持者の論理はこうだ。AIエージェントは24時間365日稼働でき、意思決定速度は人間をはるかに上回り、運営コストも極めて低い。とりわけ小規模企業や自動化された商業シーンに適している。「人間1人＋複数のAIエージェント」という軽量な構造を認めることで、創業活力を大きく解放できるとされる。また、有限責任会社（LLC）はそもそも責任の分離を特徴とするため、AIを経営構造に組み込むことは、その制度的論理の自然な延長と見なされている。

しかし反対論者は、責任の分離と責任からの逃避は紙一重だと指摘する。LLCにおける分離の対象は商業リスクであり、故意または重大な過失行為ではない。AIの「無謀な」意思決定まで免責されるとなれば、制度はリスクの配分からモラルハザードへと滑落することになる。

編集後記：機械の過ちの代償は誰が払うのか

この議論の本質は、AIが企業を経営できるかどうかではなく、AIが企業経営を失敗したとき、誰がその代償を払うかという点にある。テクノロジー楽観主義者は、アルゴリズムは人間よりも感情的になりにくく、腐敗も少ないと信じる。しかし現実には、AIの「無謀さ」は往々にして学習データの偏りや目的関数のミスマッチに起因し、それを生み出したのは他ならぬ人間自身である。法律がオーナーのAI行動に対する一切の責任を免除するなら、それはシステム的リスクを事情を知らない取引相手や一般市民に転嫁することに等しい。

より現実的な道筋は、AIエージェントの運営上の地位を認めつつ、人間が「最終的な責任の錨」を保持することを義務付けることかもしれない。たとえば、人間のコンプライアンス責任者を指定すること、AI行動に対する保険プールを設けること、あるいは企業にAI意思決定の監査ログの開示を求めることなどが考えられる。デラウェア州の提案が幅広い支持を得るためには、一つの素朴な問いに答えなければならない。アルゴリズムが過ちを犯したとき、法廷に立つべき者は誰か、と。

現時点で、この計画はまだ議論の段階にあり、正式な法律となるまでには相当の距離がある。しかしその登場自体が、明確なシグナルを発している。AIはもはや企業の中の単なるツールではなく、企業の「頭脳」として考慮され始めているのだ。そして法律は、アルゴリズムが舵を握る前に、責任という係留索をしっかりと結んでおかなければならない。

本稿はArs Technicaより編訳