Instagramの「AI Content」ラベル付けシステムが、AIで作成されていない画像にラベルを付ける一方で、実際のAIコンテンツを見逃しているとのユーザーからの苦情を受け、再び注目を集めている。ユーザーは、CanvaのBackground Removerツールや、写真の小さな不具合を修正する編集を行った後、画像に自動的にラベルが付けられたと報告している。Canvaで「speckle」を1つ取り除いただけなのに、写真全体がAIコンテンツとしてラベル付けされたと伝えた人もいる。
同様の問題は、機能の提供開始から数カ月後の2024年にも起きていた。当時、Metaは画像内のIPTCおよびC2PAメタデータをスキャンしていると説明したが、その方法の詳細は明らかにしなかった。Adobeのメタデータに含まれる小さな生成AI編集でさえ、写真に「Made by AI」ラベルが付く原因になったと報じられていた。その後Metaは、ラベル付けのアプローチを変更し、画像に使用されたAIの量をより正確に反映させると述べた。
最近の問題の一部はCanvaに起因するとされている。Canvaは、一部の補助AIツールが誤って生成AIとしてラベル付けされていたとし、現在はツールが正しく表示されるようになったと説明した。しかし、一部のThreadsユーザーは、Background Removerを使い続けると、ラベルが依然として表示されると報告している。また、Canvaのツールを使っていない画像にもAIラベルが表示されたケースがあると伝えられている。
Halseyが設立した化粧品会社About Faceが、iPhoneで撮影し、写真アプリだけで編集した画像にもラベルが付けられた。同社は、コンテンツにAIは使用していないと説明した。該当する画像からは、Googleの検証システムによるSynthIDウォーターマークも検出されなかった。Apple Intelligenceを使用するSpatial Reframing、Extend、およびiOS 27で更新されたClean Upツールは、一部のAIメタデータを追加する可能性があるが、Metaがこれらのシグナルをどのように評価しているのかは不明だ。
テストでは、Canva、Photoshop、Adobe Firefly、GoogleのGeminiに搭載されたNano Bananaモデル、そしてiOSのApple Intelligenceツールを使って編集または作成された画像が、Metaによってラベル付けされていないことが確認された。一方、Meta独自の生成AIシステムで作成されたコンテンツは、確実にラベルを発動させるとされている。Metaはコメント要請に応じなかった。
なぜ重要か
この問題は、InstagramのAI Contentラベルが生成AIの使用だけでなく、小規模な編集やツールが追加するメタデータによっても発動する可能性がある一方で、同じシステムが実際のAIコンテンツの一部を見逃すこともあることを示している。この矛盾により、CanvaやAppleのツールで写真を編集したユーザーは、自分のコンテンツがどのように分類されているのか理解しにくくなっている。また、ラベルの根拠となるシグナルの信頼性にも疑問が生じている。MetaがIPTCとC2PAのメタデータをどのように評価しているのか詳しく説明していないため、異なるプラットフォームやアプリから得られた編集情報がなぜ異なる結果をもたらすのかは不明なままだ。ユーザーテストで、Meta独自の生成AIシステムによって作成されたコンテンツにはラベルが付けられたことから、この問題は全般的な検出失敗というよりも、使用されたツールやメタデータに左右される可能性があると考えられる。
背景
Instagramは、FikirPilotのアーカイブにおいて新しい名前ではない。過去90日間にこの名前が登場する記事を9本公開しており、最も新しい記事は2026年9月1日付だ。