2024.07.18
AI技術が急速に発展するなか、サイバー攻撃にAIが悪用されるケースも増えてきました。
その中でも昨今、国内外を問わず脅威となりつつあるのが「ディープフェイク」です。
今回は、ディープフェイクの概要や手口について解説します。また、見破るポイントや対策についてもご紹介するので、ぜひ参考にしてみてください。
- もくじ
1. ディープフェイクとは
まずは、ディープフェイクの概要や関連用語の意味についてお伝えします。
1-1 ディープフェイクの意味
ディープフェイクとは、AIを活用した技術「ディープラーニング(深層学習)」に、「フェイク（偽造の）」を組み合わせた造語です。つまり、ディープラーニング技術を活用することで、リアルさながらの偽コンテンツを作る技術を指します。
本来は、フィクション作品などのコンテンツ制作を効率化する目的で使われるものでした。しかし、AIやディープラーニングが普及し、サイバー攻撃としての側面がクローズアップされるようになりました。
昨今使われているディープフェイクとは、ディープラーニング技術を悪用し、不正な画像や映像、音声を偽造する手法のことを意味します。
人々を欺く目的で偽コンテンツを利用し、世論操作や詐欺などを図る事例が増えており、懸念が高まっています。
2章以降では、攻撃手法としてのディープフェイクに焦点を当てて解説します。
1-2 ディープラーニング（深層学習）とは
ディープラーニングとは、人間の脳を模倣した「ニューラルネットワーク」と呼ばれる構造を用いて、AIに高度な学習を行わせる技術のことです。
一般的なAIの開発では、大量のデータを与えることでパターンや傾向を学習させ、予測や分析の精度を高めていきます。このとき、エンジニアは「特徴量」という学習指針を与えなければなりません。しかしディープラーニングの場合、AI自らが学習データから特徴量を見つけ出し、方向性を定めて学習できます。
つまり、エンジニアが学習指針を示す負担が減り、効率的にAIの精度を向上させることが可能です。そのため、AI開発の分野ではディープラーニングが普及しています。
2. ディープフェイクの作成方法
ディープフェイクは、既存コンテンツの一部に別のコンテンツを合成することで作成されます。ただし、人間が手作業で画像や映像を合成するわけではありません。ディープラーニングにより大量のコンテンツから学習したAIを用い、コンテンツを合成します。
昨今では、コンテンツの生成機能を持つ「生成AI」が登場し、ディープフェイクの作成が容易となりました。
多くの生成AIにはディープラーニングが活用されており、大量の学習データから必要な部分だけを抽出・合成し、新たなコンテンツを生成できます。しかし、生成AIに不正な指示を与えることで、偽コンテンツの作成さえも可能となりました。
また、画像から顔だけを入れ替えられる「顔交換アプリ」も登場しています。こうした手段を用いれば、コンテンツ制作の専門知識がなくてもディープフェイクを作成可能です。そのため、ディープフェイクは攻撃手法として悪い意味で注目されるようになりました。
3. ディープフェイクの主な手口
悪質なディープフェイクにより、被害を受けるケースも増えています。ディープフェイクの主な手口を3つ、事例も交えて見ていきましょう。
3-1 デマの拡散
名誉毀損や嫌がらせ、世論操作などを目的として、デマ動画やデマ画像を拡散するケースが増えています。
有名人の顔や声、企業ロゴなどを別コンテンツに合成すれば、あたかもその人物や企業が関与していると勘違いしかねない偽コンテンツを作成可能です。
実際のところアメリカでは、大統領選挙への印象操作を目的とした「大統領のディープフェイク」が問題となっています。特定の人物や企業が被害を受けるだけでなく、社会情勢に悪影響を及ぼすケースも少なくありません。
3-2 なりすまし詐欺
偽の画像や音声を用いて経営者や親族などになりすまし、詐欺を行うケースも増えています。
精巧に作られたディープフェイクは、関係者やシステムさえ欺きかねません。人間が金銭をだまし取られるばかりか、顔認証や声認証をすり抜ける懸念もあります。
実際にイギリスでは、企業のCEOがディープフェイクによる偽音声を親会社のCEOと誤認し、大金を振り込んでしまう事案がありました。
3-3 詐欺広告への不正利用
ディープフェイクにより作られた詐欺広告で、特定の人物や企業が不正利用されてしまうケースも増えています。
すなわち、無断で有名人の顔や企業のロゴなどを詐欺広告に合成し、あたかもその人物や企業が推奨しているように思わせる手口です。
実際に日本でも、堀江貴文さんが投資詐欺の広告に不正利用される事案がありました。
有名人を用いた詐欺広告は信頼してしまいやすく、被害にあう消費者が後を絶ちません。また、詐欺広告に悪用される有名人や企業もイメージダウンする恐れがあります。
4. ディープフェイクの危険性
ディープフェイクによる攻撃を受けると、どのような問題が生じるのでしょうか。
ここでは、ディープフェイク攻撃を受けた際に懸念される3つの問題について解説します。
4-1 犯罪行為の踏み台にされる
ディープフェイクにより顔や声などを悪用されると、犯罪行為の踏み台となってしまいます。前述のように、無断で広告塔にされてしまう詐欺広告がわかりやすい例です。
また、特定の人物や企業を貶めるために、別の人物や企業がディープフェイクに悪用されるケースも考えられます。
意図せず不正行為に加担させられることによる精神的なダメージはもちろん、訴訟を起こされる恐れもあります。
4-2 企業や個人のイメージダウンにつながる
ディープフェイク攻撃による、企業や個人のイメージダウンが強く懸念されます。
ディープフェイクの画像や映像を見た全ての人が、偽コンテンツと看破できるとは限りません。企業や個人の印象を悪化させるようなデマ動画を拡散されれば、一定数信じてしまう人はいるでしょう。
イメージダウンすれば、業績の悪化や顧客離れにつながる恐れもあります。
4-3 金銭的な損害を受ける
ディープフェイク攻撃による金銭的な損害は、莫大なものとなるでしょう。
まず直接的な損害の例として、なりすまし詐欺を看破できず、銀行口座から金銭をだまし取られてしまうことが挙げられます。
また、ディープフェイクの作成者に対して訴訟を行う場合は、間接的な損害として訴訟費用や人件費が発生するでしょう。
適切な防御策を講じなければ、ディープフェイク攻撃によるこうした金銭的な損害は甚大なものとなります。
5. 悪質なディープフェイクを見破るポイント
自身がディープフェイク攻撃の標的でない場合であっても、SNSやニュースなどで目にする機会が増えてくるでしょう。
コンテンツを見る側も、ディープフェイクと見破るための方法を把握することが大切です。ここでは、悪質なディープフェイクを見破るための3つのポイントを紹介します。
5-1 関連ワードでWeb検索する
真実かどうか疑わしいコンテンツを見かけた場合、まず関連ワードでWeb検索しましょう。
ディープフェイクがすでに拡散されている場合、メディアの報道やSNSでの注意喚起がヒットする可能性があります。多くのディープフェイク情報がWeb上で見つかるのであれば、ディープフェイクの疑いが強いでしょう。
5-2 発信元が正しいか確認する
真実かどうか疑わしいコンテンツは、誰が発信しているのかを確認するようにしましょう。
公式のサイトやアカウントによる発信の場合は、乗っ取りでもない限り、真実と捉えてよいでしょう。しかし、公式の情報発信が全くなく、関係者以外の発信である場合は、偽造の疑いが強くなります。
どうしても判断がつかないときは、公式サイトなどに問い合わせるのも1つの手です。
5-3 不自然な箇所がないか注視する
真実かどうか疑わしいコンテンツを注視し、不自然な箇所がないか確認しましょう。
精巧に作られたディープフェイクでも、注意深く見れば不自然な箇所が見つかるケースもあります。
たとえば指の数に過不足がある、背景に対して表情の動きが少ない、などです。不自然な箇所があれば、ディープフェイクの疑いを持ちましょう。
6. ディープフェイクによる被害を防ぐための4つの対策
ディープフェイクによる被害やトラブルを防ぐための対策を知っておくことも大切です。ここでは、ディープフェイクへの有効な対策を4つ紹介します。
6-1 ディープフェイク検出ツールを導入する
ディープフェイク検出ツールとは、ディープフェイク特有の不自然な箇所を機械的に検知できるツールのことです。
ディープフェイク検出ツールを用いて疑わしいコンテンツを検証すれば、フェイクを看破できるでしょう。
検出技術はまだ発展途上ですが、世界各地で研究・開発が行われており、今後の精度向上が期待されます。
また、C2PA（Coalition for Content Provenance and Authenticity）というコンテンツの出所や来歴を認証する技術を開発している米国拠点の標準化団体もあり、そのシステムを導入することでデジタルコンテンツの信頼性を図ることができます。
この団体にはGoogle、Adobe、BBC、Intel、Microsoft、Publicis Groupe、ソニー、Truepicなどが運営委員として参加しています。
6-2 公式サイトに対策情報を記載する
公式サイトに対策情報を記載しておくと、ディープフェイクへの間接的な対策になります。
たとえば、自社が情報発信するURL・サービスを記載すると、信頼できない発信元のコンテンツに関与していないことを明確に主張可能です。
また、コンテンツの発信に関するポリシーや免責事項を記載すれば、ディープフェイクにともなう法的リスクを低減できる可能性があります。
6-3 従業員にセキュリティ教育を実施する
企業としてディープフェイク対策を講じる場合、従業員にセキュリティ教育の実施が効果的です。
ディープフェイクの危険性や対処方法などを社員に周知すれば、社員のセキュリティリテラシーの向上に繋がり、詐欺被害を減らせるでしょう。
ディープフェイク攻撃はビジネスパーソンにとっても全く影響がないとは限りません。
政治家や芸能人、有名経営者などが登場するディープフェイク動画が登場しており、詐欺広告として利用され始めています。
そのような怪しい広告や情報を信じて怪しいサイトのURLをクリックしてしまい、その結果マルウェアなどに感染する可能性も考えられます。
自分一人で対策するのではなく、社員1人ひとりに対してディープフェイクへの理解を促進しましょう。
6-4 システムに脆弱性対策を行う
ディープフェイクによって誘導されたURLやデータによりマルウェア、特にランサムウェアなどに感染した場合、企業活動に甚大な影響を及ぼす恐れがあります。
その際に社内のネットワーク環境がサイバー攻撃を受けても耐えられるよう、システムの脆弱性を事前に解消しておくことが重要です。
そのためには、どこに脆弱性があるかをチェックする「脆弱性診断」がまず必要です。「自社で脆弱性診断を行えるか不安がある」「労力をかけずに高品質な診断結果を得たい」といった場合は、バルテスの「脆弱性診断サービス」をご利用ください。
Web・モバイル・IoTデバイスなどの幅広いIT資産を診断できます。ツールによる効率性の高い診断に、プロによる確実性の高い手動診断を組み合わせたサービスです。
また、費用をかけずに脆弱性診断を行いたい場合は、弊社の「サイバー攻撃自動診断」をご活用ください。無料申し込みを行うだけで、いつでも無料でツールによる脆弱性診断を行うことができます。
まとめ
昨今使われているディープフェイクとは、ディープラーニング技術を悪用し、不正な画像や映像、音声を偽造する手法のことです。
生成AIや顔交換アプリの登場によってディープフェイクの作成ハードルは下がっており、今後の被害拡大が懸念されます。
企業・個人を問わずディープフェイクに対する理解を深め、適切に対策を講じることが大切です。ディープフェイク対策を行う際には、本記事の内容を参考にしてみてください。
なお、ディープフェイク以外にもIT関連のノウハウに関する理解を深めたい場合は、当サイト「Qbook」をご活用ください。Qbookの無料会員登録を行えば、イベント情報や業界人のインタビューなど、最新のお役立ち情報をメールマガジンで受信できます。
