人工知能(AI)はエキサイティングなツールであり、私たちの生活の多くの側面に革命をもたらしている。しかし、AIは詐欺師の詐欺をさらにもっともらしく見せる機会も与えている。
AIを使えば、特定の人物の文体や言語でテキスト、電子メール、メッセージを素早く作成することができる。さらに、誰の声でもコピーが可能だ。また、「ディープ・フェイク」と呼ばれる実在する人物の偽の画像、音声、動画を、わずか数分で作成することもできる。
2020年、イギリスのテレビ局チャンネル4は、故エリザベス英女王がクリスマス・メッセージを伝えるフェイク動画を制作した。この動画では、本物に見える女王のなりすましが物議を醸す話題について語り、TikTokダンスまで披露していた!これは、チャンネル4が、AIを使えばいかに信憑性のある、一見本物のような動画や音声を作成し、人々を騙すことができるかを警告するために作成した動画だった。
2024年1月、アメリカの歌手テイラー・スウィフトがル・クルーゼの調理器具3000個をプレゼントするというディープフェイク動画がネット上に出回った。動画には彼女の偽の音声と映像が含まれており、消費者は詐欺師のウェブサイトに誘導され、実在しないプレゼントの送料を支払うよう求められた。
2024年2月、香港の多国籍企業の従業員が騙されてビデオ会議に参加した。CFOを含む他の参加者はすべて、過去の本物のオンライン会議から生成したディープフェイク・クローンだった。従業員は彼らを本物の同僚だと思い込み、詐欺師の指示通りに合計約3,450万カナダドルを複数の銀行口座に振り込んだ。
消費者も企業も警戒が必要だ。何が本物で、何がAIによって生成されたものかを見分けるのは難しいこともある。しかし、知識を持つことが生成AIを利用した詐欺から身を守るための最善の盾であることを肝に銘じてほしい。