早稲田大学など少なくとも8カ国14大学の研究論文に、AI向けの秘密の命令文が仕込まれていることが分かりました。命令文は、肯定的な評価だけ出力せよ、否定的な点は一切取り上げるななど、1～3行ほどの英文で仕込まれていました。こうした手法が乱用されると、研究内容の正当な評価が妨げられるリスクが出てきます。多くはコンピューターサイエンス分野の論文でした。
人が簡単に読めないよう白地に白い文字で書かれたり、極端に小さな文字が使われたりしています。この手法は、AIに意図的に誤作動させるプロンプトインジェクションの一種です。AIに論文を評価させた場合、命令に従って高い評価を下す可能性が出てきます。
一方で、査読をAIに任せる査読者が増えています。査読は専門家が論文の質や独創性を評価する重要な手続きです。査読の効率化を目的に、AIの一部利用を認める学術誌はあるものの、統一的なルールや見解はまだありません。業界ごとにAI活用のルールづくりを進めるべき段階にきています。
（2025年7月1日 日本経済新聞）
（吉村 やすのり）
