ディープフェイク ニセ情報の拡散者たち

発刊
2021年9月17日
ページ数
248ページ
読了目安
263分
推薦ポイント 2P
Amazonで購入する

Amazonで購入する

AIによって作り出されるニセ情報の脅威とは
AIの進化によって、画像、動画、音声などを簡単に改ざんできる時代になり、情報の信用が失われつつある。ディープフェイクと呼ばれる、AIを利用した情報改ざんの脅威と現状を紹介しながら、これからの社会が理解しておくべきことが書かれています。

情報の終焉

AIが進化を遂げ、人々が言っていないことを言ったかのように、やっていないことをやったかのように、仕立て上げることができる時代に突入した。誰もが標的になり、誰もが万事を否定できる。誤情報とニセ情報が氾濫し、情報のエコシステムの破壊が進む今、進化を続けるAIとディープフェイクが新たな脅威として浮上してきた。

 

ディープフェイクとは、AIを使用して改ざんもしくは生成されたメディア(写真、音声、動画など)のことだ。AIの進化によって、最近ではコンピュータを使って合成メディアを一から生成することも可能になった。この技術は数年もすれば、誰でもスマートフォン1つでハリウッドレベルの特殊効果映像をほぼ無料で簡単に作れるようになるだろう。
そうなれば、これまでよりはるかに迫力のある映画やゲームの製作など、多くのことに活用される一方、武器としても使われるだろう。

 

残念ながら、私たちは既に「混乱を極めたディストピア」の中にいる。この情報の時代に、情報のエコシステムが汚染され、危険な状態になっているのだ。歴史上前例のないレベルで、誤情報とニセ情報がもたらす危機に直面している。こうした混乱を極めた情報の環境を「インフォカリプス(情報の終焉)」と呼ぶ。インフォカリプスがこれまで以上に進行すると、国際関係から個人の暮らしまで、あらゆる事柄に悪影響を及ぼす、極めて深刻な事態に発展していくのではないかと懸念される。

情報のエコシステムは搾取の温床となった。国家から個人のインフルエンサーに至るまで、あらゆる悪質な発信者が、この新しい環境を利用してよこしまな目的を達成しようと、人々を欺くためのニセの情報を拡散し始めた。情報の環境が急速に進化したために生じたもう1つの弊害は、誤情報の拡散だ。誤情報やニセ情報が出回るのは、今に始まったことではないが、これほど大規模にまん延するのは初めてだ。

 

インフォカリプスの状況では、まともな議論の前提となる基本的な事実についての共通の認識さえ、なかなか形成できない。汚染された情報のエコシステムの中で政治的な関心を持つようになる人々が増え続ける中、人種、性差別、人工妊娠中絶、ブレクジット、トランプ、新型コロナウイルスなど、これまで以上に厄介な問題の議論に勝つことに善意の努力が注ぎ込まれ、社会が分断されるという悪循環に陥っている。

 

社会の分断を招くインフォカリプス

情報の世界はあっという間に質が落ちた。誤情報とニセ情報で溢れている。現実の世界に入り込み、不安を煽るニセ情報は、非常に強力な武器になる。そして不安はさらなる誤情報を生む。どちらも、冷静は判断を失わせ、深刻な社会の分断を招く。

 

プーチンが政権の座に就いているここ10年で、ロシアは国際政治に甚大な影響を及ぼし始めた。インフォカリプスの混乱に乗じて、米国をはじめとする西側諸国に、これまで以上に大胆な攻撃を仕掛けている。ロシアが拡散したニセ情報の恩恵を受けて勢力を伸ばしたヨーロッパの新しいポピュリズムの政党の多くは、ロシア政府と繋がりがあると考えられており、代表者たちは堂々とロシア政府への支持を表明している。クリミア併合を承認し、ロシアに対するEUの制裁を解除することにも賛成だ。

 

ロシアは、2016年に激しい論争が展開された米国の大統領選の最中に、民主主義に対する組織的かつ直接的な攻撃を仕掛けるという、これまでに類を見ない作戦を実行した。米国人を装ってソーシャルメディアの米国人のグループに潜入し、不和や対立、分断、ニセ情報の種を撒き散らして撹乱。フェイスブック、ツイッター、インスタグラムといったソーシャルメディアのプラットフォームが利用された。

 

今のところ、中国は「主に自国民を対象」にインフォカリプスを利用し、国内のインターネットの環境を国が管理しているため大成功を収めている。しかし中国は次第に、国境の外側にも目を向け始めた。フェイスブック、ツイッター、ユーチューブといった西側のプラットフォームへの潜入に、新たな意欲を燃やしている。

インフォカリプスの混乱を利用しようとしているのは、中国とロシアだけではない。他にも、イラン、サウジアラビア、アラブ首長国連邦、北朝鮮といった国々が後に続いている。

 

一人ひとりが情報の脅威を理解することが大切

情報が置かれている環境がすっかり腐敗し、あらゆる情報が信用できなくなる未来が、もうそこまで来ている。インフォカリプスに抵抗するためには、その中で溺れるのではなく、外に逃れる必要がある。情報のエコシステムの中身ではなく、構造に目を向けるのだ。一人一人が脅威を理解し、守りを固め、反撃することが大切だ。

自分がシェアする情報に気をつける。情報源を確認する。何か間違った情報を得た場合には、自ら訂正する。自分自身に政治的な偏りがないか気をつけることだ。