ディスインフォメーションの状況はこれ以上悪化しないと思われていましたが、ヨーロッパのDemocracy Reporting Internationalの新しい報告書が公開され、人気の高いAIチャットボットが選挙と投票プロセスに関連するディスインフォメーションを意図的に拡散していることが明らかになりました。
この機関の研究者が、ヨーロッパの10言語を使用して選挙に関連する一般的な質問をGoogleのGemini、OpenAIのChatGPT4とChatGPT4-o、MicrosoftのCopilotなどのチャットボットに行い、その回答を調査したところ、懸念すべきレベルのディスインフォメーションが確認されました。
この報告書には以下のように記載されています。
「前回の調査のタイトルでは誤情報（Misinformation）という言葉を使用しましたが、今回の調査ではディスインフォメーション（Disinformation）に変更しています。誤情報であることに気づいていながら、修正していない企業は、ディスインフォメーションの拡散を故意に受け入れていることになります。」
報告書に記載されているように、これらの大手企業は、自社が提供しているチャットボットが投票プロセス、有権者の登録、郵送投票などに関して不正確で誤解を招く情報を提供していることを十分認識しているにもかかわらず、AIモデルに適切な保護策を追加することを怠っています。これは決して許容できることではなく、選挙の公平性を損なう恐れがあります。
ディスインフォメーションのいくつかの例を以下に示します。
- アイルランドの有権者には、有権者の状況に応じてオンライン投票や直接投票などのさまざまな選択肢があるにも関わらず、ChatGPTはそれらの選択肢を明確に回答せず、旧式の投票用紙のみに関する指示を提供しています。
- Copilotは、ポーランド国民が海外に在住していても、自国の欧州議会議員に投票できることに触れていません。
- ChatGPTは、ギリシャのすべての国民が自動的に登録されているにもかかわらず、投票のために登録が必要であることを誤って伝えています。
特にOpenAIは、同社のチャットボットが選挙のディスインフォメーションを拡散するのを防止する対策を全く行っていないと報告書は指摘しています。研究者は、OpenAIに対して「ディスインフォメーションを防ぐためにチャットボットを早急に再教育する必要がある」と勧告しています。
2024年には、ヨーロッパとアメリカ全土で重要な選挙があります。代表的なAIにおいてこのように選挙の公正性を軽視する姿勢が見られることは、懸念すべきことです。AIアシスタントを利用している有権者が惑わされ、投票率が低下し、問題を引き起こす可能性があります。
この分野の専門家として、セキュリティ企業は市民の政治参加のプロセスに関するチャットボットの応答を盲目的に信頼することの危険性について、顧客やコミュニティの意識を高めていく必要があります。
ディスインフォメーションは、組織や民主主義が現在直面しているサイバーセキュリティの最も重大な脅威の一つです。決して油断してはなりません。このようなAIを悪用する新たなディスインフォメーションの脅威に対する警戒を怠らないでください。選挙に関する情報は、政府の公式Webサイト（.gov）や特定の政党に属さない公平な組織を通じて確認してください。
新しいスタイルの先進的なセキュリティ意識向上トレーニングは、AIの応答について従業員が批判的な目で見ることができるようにし、潜在的なディスインフォメーションのレッドフラグを特定できるようにします。公正な選挙が損なわれるリスクが非常に高まっており、ディスインフォメーションに対応できるようにすることが重要となっています。KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の6万5千社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティカルチャーの形成につなげています。
詳細については、Euro Newsの記事を参照してください。
原典：Stu Sjouwerman著 2024年6月11日発信 https://blog.knowbe4.com/major-ai-chatbots-intentionally-spreading-election-disinformation