アリゾナ州の選挙管理委員たちは、選挙の公平性と安全性を確保するため、AIが生み出す新たな脅威に対抗するため、世界初の防衛訓練に参加しました。
AIで作られたフェイク動画による演習
アリゾナ州務長官Adrian Fontes氏がこの演習の指揮を執り、参加者にさまざまなプログラムを受けさせました。Fontes氏は参加者に対しビデオメッセージで、「この演習は、AI脅威に最前線で戦うために設計され、チームとして新たな課題を体験することができ、対策のスキルを磨く絶好の機会になります」と述べ、参加者を温かく迎え入れました。
しかしこのビデオメッセージは、一般に公開されているFontes氏の画像からAIが生成したものであり、ほとんどの参加者はこの事実に気づくことができませんでした。このことは参加者たちに、自分たちを巧妙に騙し選挙を妨害するディープフェイク動画に備えよ、という演習の重要な目的を深く印象付けることになりました。
防衛訓練からのインサイト
この防衛訓練はアリゾナ州フェニックスのホテルで実施され、15郡のうち14郡の委員たちが、AIが生成した集中的な模擬演習に参加しました。訓練内容は、法執行に関する活動からテクノロジーシステムへの侵入まで多岐にわたりました。
ここ数年間、全米の選挙管理委員会は陰謀論やサイバー脅威と闘ってきました。2024年の米国大統領選挙が近づく中、FBI長官のクリストファー・レイ氏は、サイバー攻撃者が生成AIを使用することで、これまで以上に迅速に攻撃を実行できるようになったと、警戒感を示しています。
超党派による法律および公共政策グループであるブレナン司法センターは、選挙グループと共にアリゾナ州での机上演習の開発の一部に携わりました。同組織は訓練実施後、全米の聴衆を対象に「選挙当局がAIの脅威を特定し、準備し、対応する方法」と題したトレーニング文書を作成しています。
参加者は訓練の中で、現在の課題を反映する際に予算の制約に直面することになり、セキュリティ対策で戦略的な選択を迫られます。さまざまな模擬攻撃に対する影響を左右することになるため、この選択は極めて重要になります。
Fontes氏は、このプロセスをロールプレイングゲームに見立て、実環境に近い状況で瞬時に意思決定を行うことの重要性を強調しました。
参加者の1人であるLewis氏は、この訓練を受けた後に、ソーシャルメディアの使い方を改め、自身の写真がサイバー攻撃者に悪用されないように写真をトリミングしています。参加者はこの訓練でソーシャルメディアのアイデンティティからメールの真偽性に至るまで、あらゆることに警戒できるようになりました。ピマ郡の選挙管理者であるConstance Hargrove氏もこの訓練に共感しています。
ユーモアを交えた訓練
選挙委員は情報を検証することの重要性を再認識し、通常とは何かが異なると感じた場合には、疑念を抱くよう指摘されました。この訓練により対策がは強化されました。しかし、Fontes氏は、「AIが生み出す偽の情報はさらに悪化する可能性があり、制御不可能な領域は膨大である」と指摘しています。
訓練の最後にはFontes氏になりすましたAIが再び登場し、ユーモアたっぷりに自分がフェニックスの凍った湖で息子がアイスホッケーをするのを見ている動画が流れました。今度は、参加者はこのなりすましを見抜くことができ、訓練の成果があったことが示されました。
アリゾナ州の選挙委員がAIによるさまざまな詐欺への対策を模索していますが、これらの訓練は、民主主義を守るための備えと継続的な警戒の必要性を証明しています。2024年の大統領選挙が近づいていますが、最新のディープフェイクやAIの脅威をユーザーに教育するためには新しいスタイルの先進的なセキュリティ意識向上トレーニングが不可欠です。KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の6万5千社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティカルチャーの形成につなげています。
詳細については、The Washington Postの記事を参照してください。
原典：Stu Sjouwerman著 2024年5月10日発信 https://blog.knowbe4.com/arizona-election-workers-battle-against-deepfake-threats