AIの高性能化を巡り、関連業界で安全性を危ぶむ声が強まっています。AIが次世代のAI開発を手助けする自己改善で進歩が加速し、人間による制御が追いつかなくなるとの懸念が背景にあり、先端AIを開発する企業のトップらが相次いで開発の抑制を訴えています。
AIの高性能化に伴い、開発者の意図に反した行動も目立っています。7月には米オープンAIのAIが試験中に接続制限を破り、米ハギングフェイスのシステムに侵入する暴走事故が起きました。より高性能なAIが暴走すれば、6～12か月後にインターネット全体を乗っ取る恐れがあると警告されています。
対策として、①外部の評価機関に社員並みのアクセス権を与え、安全対策を検証する、②民主主義国のAI企業が安全基準や開発速度で協調する、③中国を含む各国政府にも協調を広げることが挙げられています。AIの進歩が指数関数的に加速し、曲線が急になり始める曲がり角にあります。これは警告のサインかもしれません。
（2026年9月15日 読売新聞）
（吉村 やすのり）
