AIへの安全懸念が高まる中、なぜ3人の先駆者はオープン化を主張するのか？

人工知能が驚異的なスピードであらゆる業界に浸透する中、安全への懸念も世界的な議題として日増しに高まっている。今週、ラスベガスで開催されたAi4カンファレンスで、世界のAI分野で名高い3人の先駆者——ジェフリー・ヒントン（Geoffrey Hinton）、李飛飛（Fei-Fei Li）、アンドリュー・ング（Andrew Ng）——が異例の同席を果たし、AI安全規制とオープンソースエコシステムについて議論を交わした。3人はそれぞれリスクへの警鐘、社会的信頼、産業イノベーションという観点から、不確実性に直面するからこそ開放性を維持すべきだと共に訴えた。

ヒントン：リスクが大きいほど、オープンな協力が必要

2018年チューリング賞受賞者であるジェフリー・ヒントンは、ディープラーニング革命の礎を築いた一人だ。2023年にはAIの潜在的リスクへの懸念からGoogleを離れ、「AIは人類の存続を脅かす可能性がある」と繰り返し公言してきた。しかし今回の議論では、ヒントンは「鎖国的」な対応方法に明確に反対した。モデルや研究を完全に非公開にしても、リスクを除去することはできず、むしろ実際の問題が隠蔽され、安全メカニズムが技術の進歩に遅れをとる結果になると主張した。

「必要なのは研究室を閉鎖することではなく、より多くの研究者がテストと防御のツールを持てるようにすることだ。」

彼の見解では、AIリスクはグローバルな課題であり、単一の組織や国家が単独で対処することはできない。オープンな研究によって、より広範なコミュニティがモデルの監査に参加でき、安全技術のブレークスルーも加速されるという。

李飛飛：オープンソースは信頼構築の唯一の道

李飛飛はスタンフォード大学のテニュア教授であり、「ImageNetの母」と称され、「人間中心のAI」という理念の重要な推進者でもある。彼女はAI技術が公共政策の意思決定や医療・ヘルスケアなど繊細な領域に深く影響を及ぼしている今、これらのシステムが不透明であれば、市民は信頼できず、規制当局も手の打ちようがないと指摘した。オープンソース化によってモデルのパラメータ、学習データ、評価手法を独立した検証にさらすことで、責任あるAIの発展が促進されるという。

「オープン化とはコードを無料で入手するためではなく、技術を公的な説明責任に向き合わせるためだ。」

彼女はまた、オープンソースコミュニティがすでに業界に大量のインフラを提供してきたと述べ、今後はより規範的なガバナンスの仕組みを形成し、オープンソースと技術の安全性が互いを強化し合う関係を構築すべきだと訴えた。

アンドリュー・ング：規制は閉鎖の口実であってはならない

CourseraおよびDeepLearning.AIの創業者であるアンドリュー・ングは、常に過剰規制に対して警戒心を持ち続けてきた。彼は発言の中で、AIリスクは基盤モデルではなく、主にアプリケーションの段階に表れると強調した。多くの大規模モデルのオープンソース版はすでに広く利用されているが、人々が想像するような惨事は引き起こさず、むしろより多くのスタートアップがイノベーションに参加できる機会を生み出していると述べた。

「モデル技術をオープンソースコミュニティに移転することは、セキュリティリスクではなく、競争力だ。」

中国がAI分野で急速に進歩していることを受け、アンドリュー・ングは、米国は技術封鎖によって優位性を維持しようとするのではなく、より健全なイノベーションエコシステムを通じてリードを保つべきだと主張した。また、政策立案者と研究者が緊密に連携し、的を絞った規制ルールを策定するよう呼びかけた。

編集後記：開放性は、安全という命題のもう一つの解

3人の専門家の立場は完全に一致しているわけではない——ヒントンはリスクガバナンスをより強調し、李飛飛は社会的信頼に焦点を当て、アンドリュー・ングは産業の活力を重視する。しかし「開放性」という一点において、彼らは稀有な合意を得た。ある意味でこれは、現在の主流言説への力強い修正と言える。一部のメディアや政策議論では「安全」が「制限」と同一視される傾向があるが、先駆者たちは、閉鎖すること自体も危険な近視眼的判断となりうると警告する。

この議論が特殊な時代背景の下で行われたことは注目に値する。中国のAI産業はモデルの能力と応用シナリオの両面で突破口を開き続けており、米国は輸出規制を強化し続けている。「開放性」と「競争」が衝突するとき、それはすでに技術の範疇を超え、戦略的選択の問題となっている。3人の専門家の見解は、安全を口実とした孤立はいずれも長期的なイノベーション能力を損ない、グローバルな競争の中で周縁化されかねないという警鐘なのかもしれない。

AIの未来はまだ完全には書かれていない。技術の安全と人類の命運の間で、私たちに必要なのはより透明な対話であり、より強固な壁ではない。李飛飛が議論の締めくくりに語ったように、「安全とは壁ではなく、橋だ。」その橋を渡るには、開放性こそが唯一の道となる。

本稿はTechCrunchより編訳