FIRE暮らしの独り言

アーリーリタイア済み個人投機家の備忘録

「DeepFake」がそろそろマズイ領域に片足突っ込み始めた気がする

f:id:cuptan:20180819164028p:plain

こういったものには殆ど縁が無かったのですが、
何気なくyoutubeで見た、登場人物全員ニコラス・ケイジの顔になる動画を見て
大いに笑わせて貰ったのですが、どうやってんだろ?
と気になって調べたところ、笑えない事態でもありました…

japanese.engadget.com

日本でも昔、Hな画像にアイドル等の顔写真を合成し
アイドルコラージュ、所謂「アイコラ」と呼ばれる画像が出回り
多くの芸能事務所が削除に躍起になったという事件があったようですね。
自分はその頃あまりwebに触れていなかったので知りませんでした。

その「アイコラ」の最新verがこの「DeepFake」と言っても差し支えないでしょう。
従来のように個人が手作業で編集するのではなく、
顔を学習したAIが自動で映像を差し替えているというもの。

この技術を使えば、上記のような愉快?な動画も作れますし
マズイことに、アイコラのようにHな動画の顔差し替えも出来ちゃいます。
自分の顔が勝手に合成されて配信されているなんて、考えただけでも恐ろしい。

ニュースや要人の発言も思うがまま。
実際言っていないことを動画サイトで拡散されちゃった暁には
世界を混乱に陥れることだって出来てしまうかも知れません。

中間選挙を控えたアメリカではこの技術を押さえつける動きもあるようで
日本ではまだまだですが、向こうでは社会問題になっています。

素晴らしい技術ではあると思いますが、
これから更に進化する余地があると思うと、あながAIに人間がコントロール
されるのも時間の問題なのかなとか邪推しちゃいますね。

deepfakeを可能にするappは次々と削除されているものの
検索すればチュートリアルがすぐに見つかりました。いいのかこれ…
そのうちGUIベースのものもリリースされて誰でも簡単に弄れる時代が来そう。