AIによる遠隔試験の監視が崩壊、5万8千人の学生が再試験を強いられる

米国のテクノロジーメディア「Ars Technica」の報道によると、人工知能が監視を担当した遠隔試験が近日「大失敗」を喫した。試験の成績に深刻な異常が生じたため、ある大学は成績を無効と宣言し、最大5万8千人の学生に再試験を実施せざるを得なくなった。この騒動の直接的な引き金となったのは、試験における「最高得点」の取得者数が例年と比べて実に5倍に急増したことだった。

大学側にとって、これほど不自然なデータが「学生の実力向上」によるものとは、到底考えられなかった。より合理的な推測は、大量の受験者が何らかの方法でAI監視をかいくぐり、あるいは生成AIツールを使って試験に回答したというものだ。調査担当者がAI監視システムの記録を調べたところ、驚くべきことに、システムは試験中に一切の不審な行動を検知していなかった。これはつまり、一見賢そうに見えるこの監視ソフトウェアが、実際にはただの飾りにすぎなかったことを意味する。

AI監視システムはなぜ機能しなかったのか？

現代の遠隔監視ツールは通常、カメラによる行動認識、画面録画、周囲の音声検知、ブラウザのロックダウンなど複数の技術的手段を統合している。理想的な状況では、AIが受験者の視線の揺れ、口の動き、キーボード入力の異常といった「不正のシグナル」をリアルタイムで捉えることができる。しかし現実は理想よりもはるかに複雑だ。受験者が外部デバイスや事前に準備したAIチャット画面を使用すれば、カメラは捉えられない。AIが生成した回答の文体が受験者の普段の文章スタイルと大きく異ならなければ、アルゴリズムも識別できない。

より根本的な問題は、AIモデルが抱える既知の欠陥、すなわち誤検知と見逃しだ。例えば、緊張や身体的な理由からカメラをよく見たり鼻を触ったりする学生は、不正行為と誤判定されてしまう。一方で、外部のAIツールを実際に利用している学生も、姿勢を正して自然な表情を保っていれば、アルゴリズムを容易に欺くことができる。より高度な技術でより低度な技術を攻略するように、AI監視は不正技術の前では特に脆弱であることが露呈した。

技術の尺度と教育の公平性

今回の事件は孤立した例ではない。近年、Proctorio、Honorlock、ExamSoftなどのAI監視製品がオンライン教育市場を急速に席巻しているが、それらをめぐる論争は絶えることがなかった。2020年には、AI監視システムが肌の色の濃い学生に対してより高い頻度で顔認識エラーを起こすとして、学生が苦情を申し立てた事例もあった。また、AI監視の「行動分析」は本質的に偏りを持っており、不安を抱える人や神経多様性のある人に不利になる可能性があると指摘する研究者もいた。

さらに懸念されるのは、AI監視の背後にある「信頼の欠如」が試験文化を塗り替えつつあることだ。学生が潜在的な不正行為者として扱われるデフォルトになると、緊張感と不信感が学習意欲を損なう。実際のところ、成功した試験は「不正の摘発」に依存すべきではなく、不正のコストが高く、能力を真に反映できる評価方式を設計すべきだ。たとえば、オープンエンドの問題、プロジェクト管理型の試験、口頭試問などは、単一・複数選択式の設問よりもAIによる不正に対して耐性が高い。

5万8千人の再試験が露わにしたもの

今回の再試験の詳細はまだ公表されていないが、5万8千人の再試験を実施することは明らかに大規模な作業だ。大学側にとっては、会場・設備・人件費の追加負担を意味し、学生にとっては試験準備のプレッシャーが倍増し、通常の学習計画にまで影響を及ぼしかねない。ある専門家は「AIで監視コストを節約しようとした結果、制御を失った技術的な試みのツケを全員が払わされることになった。まったく皮肉な話だ」と批判した。

より広い視点から見れば、遠隔試験は高等教育の軌道から外れたわけではなく、ただ私たちがAIとどう共存すべきかの準備が整っていないだけだ。大規模言語モデルの能力が急速に向上するにつれ、将来の試験は「誰もがAIアシスタントを持つ」という新たな常態に必然的に直面することになる。すべての不正の抜け穴を塞ごうとするよりも、むしろ根本的な問いに立ち返るべきではないだろうか。私たちは一体、試験を通じて何を測りたいのか？記憶力なのか、それとも理解力と応用力なのか？

編集後記：これは「技術万能論」という典型的な罠だ。AI監視の本来の目的は、効率によって人的労力を代替することだったが、その物差し自体が不正確であれば、それがもたらすのは公平ではなく、より大きな不公平だ。5万8千人が再試験を強いられたことは、高くついた試行錯誤の代償だ。もちろん教育分野におけるAIのイノベーションは奨励されるべきだが、その前提として、技術は現実の検証に耐えうるものでなければならない。AIが生活のあらゆる場面に浸透する時代において、慎重であることは保守的なのではなく、教育の根本的な価値への敬意なのだ。

本稿はArs Technicaより編訳。