TOP >  IT・保守サポートの日誌 > AI自動生成の進化とディープフェイクの問題

AI自動生成の進化とディープフェイクの問題

[`evernote` not found]
このエントリーをはてなブックマークに追加
LINEで送る

AI自動生成の進化とディープフェイクの問題

 
近年のディープラーニング技術の進化は目まぐるしいものがあります。それにより、画像、動画、音声、文章を新しく生み出す技術が実現されています。一方で、手軽に誰でも生成できることからディープフェイクという問題も表面化しています。
 

文章から動画を生成するAI

 
米Metaは先ごろ、動画生成AI「Make-A-Video」を発表しました。短い文章を入力すると、その内容を表す短い動画が生成されるというもので、Make-A-Videoは現在、64×64ピクセルの16フレームの動画を出力します。実際、公開された動画を見ると、いくつかの不自然さはあるものの面白い動画が生成されています。
 
また、米Googleの研究部門Google Researchでも、短い文章から動画を生成するAIシステム「Imagen Video」を発表しています。Imagenは「拡散モデル」で、多数の既存のデータサンプルを使って“破壊”と“回復”の方法を学習することで、新たなデータを生成するとのこと。文章を受け取ったAIが24×48ピクセルで16フレーム、毎秒3フレームの動画を生成し、この動画から追加のフレームをアップスケールして予測して最終的には128フレーム、毎秒24フレームの720pの動画が生成されます。
 
また動画以外でいうと、写真やイラストなどのAIによる静止画生成は現状かなり精密な表現が可能となっています。特に写真に至っては、ディープラーニングの技術が発展し、誰でも本物に近い(見分けがつかない)制度の画像が生成することが可能です。しかしながら、こうした技術が進むにつれ「ディープフェイク」という問題が浮き彫りになってきます。
 
『Meta、動画生成AI「Make-A-Video」を発表 「肖像画を描くテディベア」などの作品公開』
(出典:2022年09月30日 ITmedia記事より)

 
『Google、文章から動画を生成するAI「Imagen Video」を紹介 Metaに続き』
(出典:2022年10月06日 ITmedia記事より)

 

「ディープフェイク」が蔓延する時代

 
いままでも画像や動画の登場人物の顔を別人の顔と差し替える、二人の顔の特徴をミックスする、実在しない人物の画像を生成するといったいわゆる「ディープフェイク」というものはありましたが、AIの自動生成技術の進化によって誰でも一瞬で「ディープフェイク」画像・動画を生成できるような時代になっています。
 
併せてソーシャルメディアの普及により、こうしたフェイクコンテンツがあっという間に拡散され、それらが我々の社会判断に大きな影響を与えるという恐れがあります。先ごろ日本国内でもこのディープフェイクを利用した悪質な事件が発生しました。ツイッターの匿名アカウントで「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」という文言とともに3枚の画像が投稿されました。このとき静岡は台風15号による記録的な大雨で大きな被害が出ていました。今回投稿された画像は家屋が屋根付近まで水没するなど悲惨な状況を伝えた写真でしたが、実はAIを使って自動生成したものでした。
 
ディープフェイクは想像以上の影響を社会に与える可能性があります。詐欺、誹謗中傷などはもちろん、フェイクニュースによる世論操作によって国家安全保障上の問題にまで発展する恐れすらあります。しかしこうしたディープフェイク検出は非常に難しい現状であると言われています。悪用を防ぐためには国レベルで、法体制とガイドラインを整備することが望まれます。また、我々もSNSなどの画像や動画の真偽を見極める目を養うことも必要です。偽情報の場合は投稿者が前後で全く脈絡のない投稿を繰り返しているケースも多いくあります。拡散する前に一旦冷静になって、真偽を確かめるよう心がけたいものです。
 
*********

弊社では、保守サービスやサポートに関する
facebookページを立ち上げています。
 
セキュリティの問題や脆弱性の情報を
毎日ピックアップして掲載しておりますので
よろしければお立ち寄りください。
 
ITサポート&サービス情報局【CTS】facebookページ
http://www.facebook.com/ITsupport.service
 
今週も「IT・保守サポートの日誌」をお読みいただき、
ありがとうございました。
 
シーティーエス株式会社 ブログ担当スタッフより

banner_siryou

資料請求

よくあるご質問

お客様の声

CTSストア

トピックス

  • 2023.8
    20代を対象としたWEBセミナーのプラットフォーム「ニイゼロ★ウェビナー」に、代表取締役 森田の対談動画が掲載されました
  • 2022.2
    経営者・決済者限定メディア「Professional Online(プロフェッショナルオンライン)」に、代表取締役 森田のインタビューが掲載されました
  • 2019.8
    「CTSストア」(Yahoo!ショッピング)を開設しました
  • 2018.2
    成長企業の新たな刻みを伝えていくメディア「Next Page」に、代表取締役 森田のインタビューが掲載されました
  • 2018.1
    空撮歴15年の有限会社KELEK様と、ドローンを使用した撮影、測量、点検業務において業務提携をいたしました。
  • 2017.9
    ドローン各種保守・業務支援サービスを開始しました
  • 2017.3
    日本の中小企業を元気にするためのサイト「オンリーストーリー」に、代表取締役 森田のインタビューが掲載されました
  • 2016.8
    環境省「FunToShare」に賛同・参加しました
  • 2016.5
    厚生労働省「イクメンプロジェクト」に賛同・参加しました
  • 2015.11
    『IT・保守サポート豆知識』ページを開設しました
  • 2014.09
    ホームページをリニューアルしました
  • 2014.09
    資本金を1000万円に増資
  • 2014.03
    『お客様の声』ページの掲載を始めました
  • 2013.06
    『IT・保守サポート用語集』ページをリニューアルしました
  • 2013.04
    『キッティング自動化ツール「SetROBO」』の販売代理店となりました
  • 2013.03
    『システム延命サービス』の販売代理店となりました
  • 2012.12
    採用情報の掲載を始めました
  • 2012.09
    おかげさまで創立3周年を迎えました
  • 2012.07
    東京都千代田区神田に営業所を移転
  • 2011.06
    facebookページ『ITサポート&サービス情報局』を開設
  • 2011.03
    次世代型顧客獲得ツール『Navigator』の販売代理店となりました
    アプライアンスサーバーの24時間365日オンサイト保守を受託
  • 2010.09
    東京都中央区築地に営業所を開設
  • 2010.05
    NASシステムの24時間365日オンサイト保守を受託
  • 2010.04
    ロジテック株式会社が運営する『データ復旧サービス』のサービスパートナーとなりました
  • 2010.03
    大手ハードウェアメーカーのPOSコールセンター業務を受託
  • 2010.02
    全国寿司チェーン店のタッチパネルPC設置業務を受託
  • 2010.01
    デジタルビジネス協同組合、システムサポート委員会の委員長に就任
  • 2009.12
    デジタルビジネス協同組合に加盟
    八王子商工会議所に加盟
  • 2009.09
    ホームページを開設
Copyright© 2009 シーティーエス株式会社, All Rights Reserved.