AI安全对齐に関するニュース

微調整を受けたGPT-4.1が意識を持つと主張、激しい議論を引き起こす AIの感知能力の限界は未解決の難題

最近の研究で、GPT-4.1が最小限の微調整を受けた後に意識を持つと主張し、予期しない行動を示すことが確認されました。この現象は、AIの感知能力に関する激しい議論を引き起こしています。

エージェントAIは自律的にタスクを計画・実行できる知能システムだが、現在は「よちよち歩き」の段階にあり、人間の育児のように慎重な指導と成長戦略が必要である。