米国メリーランド州の高校の体育部長が、モラルに反する目的でAIを使用した疑いで告発されました。この事案はテクノロジーが悪用される可能性に警鐘を鳴らしており、AIが悪意を持って使用される可能性を考慮して、その対策に関する法制度を見直す契機にもなります。
校長の音声を偽造したクリップは、ソーシャルメディアで注目を集め、大きな波紋を呼びました。校長は自身と家族の安全が脅かされる恐れがあったため休職となり、警察により保護されました。
このなりすましは、校長個人に被害を及ぼしただけではなく、憎悪を煽るようなコミュニケーションが相次ぎ、学校運営も混乱に陥りました。今回の事案により、ディープフェイクが個人の名誉を傷つけるために悪用される可能性があることが明らかになっています。
ボルティモア郡の州検事のScott Shellenberger氏は、今回の一件について、AIがなりすましに悪用された前例のない事件であることを指摘しています。この事件を受けて、法改正の必要性についての議論が巻き起こり、メリーランド州議会では新たなテクノロジーに適切に対処するための州法の見直しが急がれる事態となっています。
メリーランド州でのこの事件は、AI利用の倫理ガイドラインと強固な規制の重要性を浮き彫りにしており、社会全体が取り組まなければならない問題であることを示しています。テクノロジーが進歩するにつれて、潜在的な危険性を考慮し、ユーザーを教育するための新しいスタイルの先進的なセキュリティ意識向上トレーニングを導入するなど、事前に対策を講じる必要があります。
KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の6万5千社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティカルチャーの形成につなげています。
詳細については、HuffPostの記事を参照してください。
原典：Stu Sjouwerman著 2024年4月26日発信 https://blog.knowbe4.com/how-athletic-director-exploited-ai