シンガポールのPandan貯水池で撮影されたように見える偽のワニ画像を作成したミャンマー国籍の30歳のYe Linは、それを友人1人にだけ送った。画像がインターネット上で拡散したことを受け、当局は本物だと思われたワニを捜索するため周辺を封鎖し、2日間にわたる捜索を開始した。貯水池での水上アクティビティも中止された。ワニが見つからなかったことで、画像がAIによって生成されたものだと判明し、貯水池は再び開放された。捜査に気づいたYe Linは、画像とGeminiの履歴を削除した。「誤解を招くメッセージの送信」の容疑では3年以下の懲役および10千ドル以下の罰金、「司法妨害」の容疑では7年以下の懲役が科される可能性がある。Ye Linは、合計で最高10年の懲役に直面している。
なぜ重要か
この出来事は、AIで作成された1枚の画像がオンライン上の誤解を生むだけでなく、公務員の時間や貯水池利用者の予定にも影響を及ぼし得ることを示している。画像が友人1人にだけ送られたとしても、コンテンツが制御不能な形で拡散した場合に生じ得る結果がなくなるわけではない。捜査が起訴に発展したことは、誤解を招くデジタルコンテンツと、司法手続きに影響を与える行為が、別個の法的項目として評価され得ることを示唆している。そのため、この動きはAIツールを利用する個人だけでなく、こうしたコンテンツを確認せずに拡散する人々にも関係する。残された基本的な疑問は、現実のものに見えるAI画像が拡散した場合、どのような条件で利用者の法的責任が生じるのかという点だ。