社会が AI と合成メディア（シンセティックメディア）の急速な進歩に取り組む中、私たちは、そのコンテンツが「本物か偽物か」という間違った点に着目し、「このメディアは人を欺こうとしているか？」という点を見逃してきました。
視点の転換が求められています。特に情報の処理と検証において、人間の適応力とテクノロジーの進歩の間に、かつてないほどの隔たりが生じているからです。
メディアの生成とその取り扱いは驚くほど民主化され、メディアを自由に使えるようになってきました。かつては国家レベルのリソースと専門知識が必要だったものが、今では月額20ドルのAIツールを利用するだけで実現できます。この容易さにより、洗練されたデジタルコンテンツを作る人を変えるだけでなく、全てのデジタルメディアの性質を根本的に変化させます。
毛穴を隠すInstagramのフィルターから、文法の改善を提案してくれるワープロまで、AIの痕跡は、「信頼できる」正規のコンテンツにもますます存在するようになっています。この利用の拡大により、従来の検出方法では、真偽を見抜くことが難しく、むしろ逆効果を招くこともあります。
AIが生成した画像の歪んだ指や不自然な髪など、合成メディアの「特徴」の検出に注力しがちですが、この傾向は危険な誤った安心感を生み出しかねません。このような表面的な特徴は、悪意を持った熱心な人によって簡単に修正されます。そのため、高度な偽装ではそのような特徴がない場合がよくあります。さらに重要なことは、このアプローチは根本的な課題に対処していないということです。つまり、全く改変されていないメディアであっても、誤解を招くような状況で提示されると、偽装されたかのようなものになる可能性があります。
この課題は、「オンライン脆弱性の 4 人の騎士」と呼ばれるものによってさらに深刻化します。まず、確証バイアスにより、人々は自分の既存の信念に一致する情報を容易に受け入れてしまいます。次に、恐怖、怒り、不確実性の感情的な嵐が理性的な判断を曇らせます。3 番目に、デジタルに対する無知により、多くの人が技術的に何が可能であるかを認識できていません。最後に、不和を煽る者はこれらの脆弱性を利用して分裂と混乱を引き起こします。
おそらく最大の問題は、コンテンツが合成画像である可能性があることを認識しながらも、それが自分たちの信じる「真実を表している」という理由で共有することを擁護する「ポスト真実」の考え方が台頭していることです。この合理化は、ハリケーン・ヘレンの襲来時にAIが生成した子犬を連れた少女の画像のケースで明確に実証されました。画像が合成画像であるという証拠を突きつけられると、共有者の多くは、その画像は自分たちが支持する感情的または政治的な真実を表しているのだから、文字通りの真実かどうかは問題ではないと反論します。
ますます役に立たなくなる技術的な検出方法に頼るのではなく、メディアを評価するための新しいフレームワークが必要です。私はこれを FAIK フレームワークと呼んでいます。そのフレームワークは次のとおりです。
- F : Freeze and Feel(立ち止まって感じること): コンテンツが私たちにどのような感情を引き起こしているかを調べるために立ち止まります。
- A : Analyze(分析する)~物語、主張、埋め込まれた感情的なトリガー、考えられる目標~
- I : Investigate(調査する)~信頼できるニュースソースで報道されているか？誰がどこから来たのか？どの写真や詳細などが検証可能か？~
- K : Know, Confirm, and Keep Vigilant(知る、確認する、そして警戒を続ける)
このフレームワークは、現代の情報環境において、最も危険な相手を欺く行為は、高度な技術的な操作によってもたらされるのではなく、単純な仕組まれたストーリーによって生まれるという事実を示しています。ある目的で撮られた本物の写真でも、全く異なる偽のストーリーに組み込まれることで、強力なディスインフォメーションを構成する手助けとなるのです。
このことを証明する一つの例があります。2019年にターニングポイントメディアが2011年に日本でおきた東日本大震災の後に撮られた“空になってしまった食料品店の棚”の写真をトリミングし、いつどこで撮られたかという情報を全て削除した上で、“社会主義に対する警告“として転用したのです。ご存知のように、もちろん日本は資本主義の国です。
合成メディアや人を欺こうとするメディアの時代に突入した今、私たちにとっての課題は技術的なものではなく、認知的かつ感情的なものです。本物か偽かという二者択一的な判断を超えた情報評価のためのメンタルモデルを開発する必要があります。
問題は、本物か偽物かではなく、それがどのようなストーリーを語っているのか、そのストーリーから誰が利益を得ているのか、どのような行動や信念を広めるために作られているのか、ということです。このような深いダイナミクスを理解することによってのみ、私たちは、合成と本物の境界線がますます意味をなさなくなる情報環境をうまく切り抜けることができるでしょう。
最後に、私たちには新たな視点が必要です。皆さんが問題の核心に迫るためのアプローチを紹介します。
- 「メディアが合成されたものあるかどうかにこだわるのではなく、それが騙そうとしているかどうかを問うべきである。」
- 「本当の問題は『これは合成メディアか？』ではなく『これは騙そうとするメディアか？』だ」
- 「合成かどうかを問うのをやめよう。それが騙そうとしているかどうかを探るようにしよう。」
原典：Perry Carpenter著 2024年11月7日発信 https://blog.knowbe4.com/the-deceptive-media-era-moving-beyond-real-vs.-fake