“スゴすぎる”音声生成AI 実際に使ってみた！ 将来の活用方法は？悪用されるケースも続々と…【Nスタ解説】
Vložit
- čas přidán 28. 05. 2023
- 最近よく耳にする「音声生成AI」。実際にホラン千秋キャスターや岸田総理の声を生成・活用してみると…
この音声生成技術、将来的には映画の分野などさまざまな活用が期待されていますが、一方で悪用されるケースも目立ちます。専門家とともに見ていきます。
#音声生成AI
#ホラン千秋
#音声生成技術
#Nスタ
#ニュース
#news
#newsdig
#tbsnews
#tbs
▼TBS NEWS DIG 公式サイト newsdig.tbs.co.jp/
▼チャンネル登録をお願いします！
/ @tbsnewsdig
▼情報提供はこちらから「TBSインサイダーズ」
www.tbs.co.jp/news_sp/tbs-ins...
▼映像提供はこちらから「TBSスクープ投稿」
www.tbs.co.jp/news_sp/toukou....
6:05 確かに(悪用)いたしました
確 か に い た し ま し た
早速悪用されてて草
確かにいたしました
ついに阿笠博士が発明した技術が現実になるとは...
映画ターミネーター2で、新型ターミネーターT-1000型が、電話で殺害した主人公の母の声真似をするのを思い出しました。
麻酔銃も出来上がれば君も名探偵
@@taro_yamada001 なります
音声忍
犯罪に使われる可能性があり 怖いですね。
これやばいな。音声生成AIの声かリアルの声かを判別できる技術も同時に開発されたらいいのに
判別はできるよ
人の耳では騙されるけど
判別するAIがわからないように進化するよ
これは違うけどGANとかはそう
@@user-dp7by1mw6l じゃあ判別するAIもそれがわかるように進化する
これの繰り返しでちょっと前の画像生成はされてた
チーターと運営の掛け合いみたい。w
ドラえもんやコナンの世界が現実味を帯びてきて嬉しいけど、
このデバイスが悪用されないことを祈るばかり。
ドラえもんとかコナンの道具も悪用しようと思えばいくらでも犯罪に利用できるし、ダイナマイトとかもそうだけど使う人次第だよね。
阿笠博士！
悪用以外の使い道が思い浮かばないのだが
声紋キャンデーやん
くれぐれも悪用するんじゃないぞー！
淫夢厨に本当に悪用されてて草
確かにいたしました
とんでもない伏線回収されてて草
検討に検討重ね続けたせいだな
「確かに(伏線回収)いたしました。」
スゴスギィ！
確かにいたしました。
確かに致しました。
3:47 検討
アガサ博士は今から30年も前にこの技術開発してたのすげぇ
このデバイスが小型化すれば、アニメのキャラをコスプレしたまま、その声出せたりすることができるってことだよね
推しと...
そうなると、元の声も喋っちゃって干渉しそうなのが解決したいですね．
@@user-og4dn1pj7m 電極を脳に直挿しですね。ニューラリンクの時代来るか？
@@GGG.2828 ノイズキャンセリングで十分じゃない？
たとえば蝶ネクタイ型とかw
ディープフェイク系の技術はポジティブな使い方が思い浮かばない。
思いついたら億万長者になれるかも
@@awaremisogaba4130 そだね。
近い将来"声優"という職業は無くなりそうだね。
@@japan7982 この技術を使って最終的に俳優の声に出力するとしても日本語で演技する人は必要だからなくならないんじゃないかな？
予算のある大作なら字幕版・吹き替え版に加えてリアル吹き替え版ができるかも。
@@neko4189日本語音声のデータどんだけあると思っとんねん。それを元にイラストAIでいうロラみたいなので方向性指示すればモデルがやった事ない演技も作れる
まさか5ヶ月に岸田首相のフェイク動画が上がるとはねw
技術としては凄いことに違いないがこれが悪用されるのはもう目に見えてるんだよなぁ
実際中国では友人に化けたAI詐欺で8500万円騙されてるよ
開けてはいけない玉手箱やね
真実はいつもひとつ！
あなたとケンカするつもりは毛頭ないですが、
既視感のあるコメントですね～もっと人とはカブらない違うコメントを心掛けた方が良いかもしれません。あと、悪用するには膨大な声のデータが必要なので我々、庶民には関係ない話でしょう。
悪用しか用途が思いつかない
名探偵コナンの阿笠博士は
マジで優秀だったんやな😂
音声→テキスト→音声は音声入力+音声読み上げで結構前からありましたが、音声認識の精度も音声読み上げの自然さもかなり向上しましたね。
去年、Amazonが元の音声を数十秒録音するだけで、音声を再生出来るものを開発したと発表
ICチップ状の小さなものを口の中に装着
この技術は一般化はまだされていません
カラオケの（なりきりくん）はかなり前から有りますね🎤🙏
この道具欲しいなぁ…。そうすれば、有名人の声から一般人の声まで使えるから本当に欲しい。あと、憧れの声で会話できるのも良いなぁ…。
ドラえもんに頼む
音声も映像もフェイクなのに本物と見分けがつかなくなる時代がほんの5年後には到来しそう
悪用を防ぐための仕組みづくりが早急に必要ですね
加速度的に発展するから
もっともっと早く到来しそう。
@@nishikinom
加速度込で5年くらいだと思うけどなあ。
3年？2年？
少し早くないかー？
@@2-uz9oo 2年前に生成AIがこんなに発達すると思ってました？自分は思ってもみなかったです。
たった2年でここまで本物に近づいたんだから、更に2年後はどうなるだろう…
是非【シンギュラリティ】って調べてみてください。ロマンと恐怖を感じますよ。
2045年に来るって言われてたのに、
20年も前倒しされるって説が出てきたんです。
あっという間に20年も予測を超えた速度で発達してるんですよ
2025年の話しです。
@@nishikinom
2年前に今のが想像できたかと言われたらはい、です
成長速度は高いと思うけど人間が差異を認識できるレベルまでの成長はすぐに出来ると思ってて、ここから差異を認識できないレベルまで引き上げることはだいぶ時間がかかると思うんだ。2.3年じゃ難しいかなー、と思う。また3年後にここのコメント欄で会いたいね、！
@@2-uz9oo 一理ありますね！
3年後にまた
オ ア イ シ マ シ ョ ウ
技術が進歩するほどオンラインより対面での対話がより価値を持つになるという
結局原点に戻るんやなぁ
まさかセキュリティ的な意味で対面の面談に戻るとは……
画像生成AIやChatGPTと別にこういう機能が出てくると思っていたけどここまでできてて驚く
すごい機能だからこそG7サミットなりで共通のルールを作っておかないと悪い方ばかり目立って大変になりそう
確かにいたしました
AIの科学力って本当すごいよ
なんとか共存の道に進んでってほしいわ
人間が作ってる以上、共存って表現はおかしい。共存するに決まってるから。
凌駕されるに決まってる
@@abc123cde絶対なんてないから
今まで信頼されてきた、映像と言う技術が、新しいAIを使った技術で信頼性が無くなって行くのは何か時代の移り変わり感ある。
これで途中アニメの声優交代がなくなって初代の声のままずっとキャラのイメージが保たれるなら嬉しい
声優の仕事が無くなりそう。人気声優の機械音声を新しいアニメとかにも使い出すんじゃないか？
@@-akevan8915例えば動画のように藤原啓治さんのAI音声を使って森川智之さんが野原ひろしを演じるみたいなことだったら極端に仕事減ることはないんじゃないかなって思う。ただ将来的にAI自体が演技をし出すようになるのかもしれないけど…
@@-akevan8915 声優って演技だからやっぱりその人にしか出せない領域があると思うんだよね。だからAIでは無理だと思う。
最近見た動画では技術さえあれば好きな声優の声で好きな歌を本人が歌ってるレベルで歌わせてて技術力の進歩やべーってなったわ。
矢島晶子とか野沢雅子とか田中真弓みたいな、マジでどうやっても代替不可能そうなキャラが存在してる人に関しては、変に初代を意識した苦しいキャストチェンジが行われるぐらいならAIにやってもらいたい気持ちはある。
でも、亡くなったら交代して変化していくのもまたアニメの良さな気もするからなんともいえないけど。
今、大問題になっとるんよ...
大問題()
あれ主に日テレのマーク使ったのが問題だっただけでボイチェンが問題だったからニュースになってる訳やないで。
あの動画より広まってる同じ様な内容のボイチェン動画沢山あったし取り上げてたのも日テレやったやろ。
リアルタイムで音声生成できるのが凄いよね
非常に凄いけど、これ悪用されると非常にやばいんだよね
麻酔銃とセットだともっと危ない
眠りの小五郎👍
オレオレ詐欺とかに活用されたらやばいね
身内の声だったら身内しか知らない事を質問して確認したりするしかないね。
国も操られつ可能性あるし、マフィアなんかだと抗争になりそうw
課題は多いけど、お亡くなりになられた声優さんの再現とかできるといいですね。
また、オンリーワンの声は一つの財産として将来に残っていければ嬉しいですね。
あと、サンプルボイスが複数使えるだけで、カラオケとかTRPGとかはもっと盛り上がりそうかな。
ついにコナンのボイスチェンジャーが実用化レベルになりましたね
悪い想像しか出来ないが…
阿笠博士ってやっぱすごい🎀
『わしじゃよ』
予告漫画は数多い…
直接会うことの大切さが増えるね
めちゃくちゃ凄いって感動・感心したのと同時に恐怖を感じる。
ラジオやってる人とかあっちゅう間に学習されちゃうな。
これを遅延０に限りなく近くしてカラオケに全ての歌手のデータを実装したら覇権とりそう
すでにELTの持田香織になれるカラオケがあるっぽいです！
@@unaffiliatedmovies6642 テレビでやってましたね📺
音程まで合わせられるので カラオケとは？となりそう・・・
推しの声で歌えるのかぁ((o(｡>ω
CUDAが使えるグラボを積んだPCなら、ほぼ無遅延でいけるぞ
技術的にはすごいんだろうけど、これ悪用される可能性大だぞ...
この技術と同時に、この音声はAIで作成されたって判断できるような技術がないとやばい
3:38ここマジですごい
この技術が表に出てきた以上悪用は避けられないから未来の被害を減らすために1日でも早いルール設定が必要
一方でかなり可能性のある技術だからその可能性を狭めないことも重要
可能性について、あまり思い浮かばないのだけれど、何か良いアイデアある？
アニメの声優とか、亡くなった方の声とか、ピザの受け取りをお母さんの声でやったりとか
@@user-dm1gc5ig9v なるほどね。まぁアニメやゲームなどは一人でも作れるようになるかもね。多くのアニメーターや声優、ゲームプログラマーは要らなくなるけど。。
故人の声を使うのは賛否両論ありそうだな。美空ひばりの声を再現したときも何か反発あった覚えがあるし。
すまんが、最後のピザの受け取りはよくわからん笑
翻訳：1人で宅配ピザ3枚頼んだ時に、この量を1人で食べるって思われたくないのをインターホンで声変えて誤魔化す…笑笑
…書いてて思いついたけど、1人暮らしの女性が、なんかの受け取りの時に男性の声使えば防犯対策できるのでは……？🤔
@@user-dm1gc5ig9v
ピザの受け取りをお母さんの声でってそういうこと？😅
なるほど。防犯対策ね。それは思いつかなかったわ。面白い。置き配とか使えば宅配人と合わずに済むし。かなり良いアイデアではないかと思う。
岸田のASMR耳かきボイスはよ
睡眠導入用読み聞かせはウケそう
本物の岸田「.....」
活用用途より悪用用途の方が心配なのが大半だと思われるけど
技術としてできちゃったものはなかったことにはできないので
適正使用される事を祈るのみかな
伏線回収
これがさらに精巧になったら、裁判の証拠提出とかも飛躍的に難しくなるな。
紐づけさえすればよい。お札の偽造防止みたいなものですね。
総理の真似してる時「あの」が多いのとか似せてて面白いw
未来人がこの動画を見たら『昔はこんなにデッカイ機械やったんやな』って思いそう。
Neural DSPのQuad Cortex(AIによるギターアンプエミュレーター)みたいな物と考えれば理解できるけど
言葉の様に複雑な音声を、元の声のフォルマント解析から対象の声に変換するのは、やはり大変なのか
口の動きと、出てくる音声にレイテンシーを感じる
画像を音声に合わせて動かして、チャットAIも組み込んで、あの世との疑似ビデオ通話が出来ますね。影響力のある人のフェイク音声も危ないな。技術が凄すぎる。
イタコもaiに職を奪われる時代か…
これは怖いなぁ 映像も音声も何も信じられなくなる
技術を開発する人はいつも「有効利用」というけど、悪用される可能性のが高く感じる
とはいえ出来てしまった以上、否定しても仕方ないので対応するしかないのか・・・しんどいねぇ
素人発想でも、有効利用より悪用の方法の方が簡単かつ沢山思いついてしまうし、確実にそういう社会になるやろな
あんたは無関係だから大丈夫や
怖いですね。
できるだけデジタルコンテンツから離れ、リアルな生活を充実させることが対応策だと思います。
電話とか1度声の特徴だけを電気信号に変えて受け取り側で信号を合成した合成音声だしそこまで新しい技術という訳では無いしそこまで無闇に怖がる必要もなさそう
そんなこと言ったらスマホだって当たり前に普及してるけど犯罪の高度化に貢献してますよね
AIの進化は凄いな…
「確かにいたしました。」
昔に思い描いた夢が、数十年たって自分が生きているうちに現実になる日が来るとは感無量だが、同時に性善説とはいかない技術の利用のされ方には憂鬱な気持ちにもなる。
ただ、この分野でも日本は最先端を走って欲しいと思う。
岸田総理の発言だとかいって音声データとしてこの偽音声が悪用されることが目に見えてる‥
陰謀論者が信じて騒ぐのがもうわかる😂
すでに似たような悪用はされてるぜい
リアルタイムじゃないだけで5年以上前からあるよ
悪用されるのは想像できたけど、悪用のされ方面白すぎだろ
すごい！！！
もし、岸田総理の音声データを
手に入れたら、「減税を即断
即決します」って言って遊ぶ
「異次元の減税を実施してまいります」
よし、増税だ！って言ってもらう。
検討を減速してまいります
増税で税を増やします
消費税を0%にします
これは特殊詐欺に使われるのが必至。
これからは、自分の声も、個人情報として保護されるね。
さすが、若新さん。直接会うことの重要性がポイントなんですね。
それにしても恐ろしい時代に突入したと痛感。
呪術廻戦ばりの伏線回収されててすき
いいことがあるとすれば、喉を壊してしまった人、声帯を痛めてる人なんかの代わりにはなっていくのかもしれない。
ただ、悪用の方法が多すぎて、セキュリティやAIかどうかを判別する技術も進化させていかなくてはならない。
場合によってはこの技術を使う自由は無くさないといけないかもしれない。
他の人になりすます自由なんて害しかないからね
あと亡くなった人を生き返らせたりとかできますね。魂の牢獄。
ノーベルのダイナマイト的な…
それをいうならクローン技術の方が近いだろ
「これによってもたらされる恩恵」と「これによってもたらされる被害」を比べたら、圧倒的に被害のがデカいだろ。
自分はどう使うか？って考えても基本的に成りすまし以外に無いしな。
こういうニュースをたくさんしてほしいｗ
まじで肌感覚では昨日今日どころか午前中の常識が午後には塗り変わってるっていくらいのスピード感
シンギュラリティがどうこうのリアリティがいよいよ湧いてきたなあ…
この技術が日本の国益になるように頑張って欲しい
権利関係とか本当に気をつけて開発進めてください
これ開発したの中国人、この動画の中に開発者なんて誰1人としていない。
@@itsuki_death 始めから希望は無かった…
@@user-hu7en5dh8j 社会保障より日本の国益になる科学技術振興に投資していかないとな
@@andalousie8373 本当それ。そういう天才には税金ジャンジャン注ぎ込んで良いとも思う
参考にして作ってほしい
人間の声を加工しなくてもAIが直接喋れば、ラグも減って癖も似ますよね
自分が知る限りだと、声優の声をAIに学習させて販売するっていう悪用事例があるから、本当に早く法整備を進めてくれ
これも活用すればすごい活躍しそうだし、悪用すれば色んな事に利用できちゃうよね
すでにソーシャルメディアじゃ少し前から使われてて、色んなアニメのキャラクターが混ざり合って漫才してて面白い。
テレビ番組ですか？その漫才見てみたいです！
阿笠博士は更に小型化してるんだから凄い
やったぜ。
これでいろんな言語に翻訳もされたら最高！
それはまた違う技術やな。。
誰でもイケボ、カワボになれるやん既存のボイチェンもあるけど配信界隈でも盛り上がりそう
もう合言葉とか秘密の質問なしでは防げなくなるな
ていうか相手がAIならこっちもAIで判別する仕組みが必須
AIはアンチAIと相互にバトルさせて精度上げてくから、その仕組み自体が攻略されてる。あとはどちらも精度を上げる競走をしている段階。
どうせイタチごっこやぞ。
AI技術で声マネまでできるようになったのか！
イラストといいどこまで進化するやら
便利になる面もあれば、悪用になる面もありますね。
セキュリティや制限がないとかなりヤバいことになりそう。
声優さんとか仕事奪われないのだろうか
AIイラストなんかがもてはやされて話題になる前まで動画のような物があったらいいなぁとか笑いながら話せてたけど絵描きとして生計を立てるようになってからはこういった技術に恐怖感と嫌悪感しかわかない。悪用される未来しか見えない…
悪用される事を前提に対策もしてほしい。
家族内でも暗号とか必要になるんかな？
それに音声録音も証拠にならなくなる未来が来そう。
凄いことなのに不安になってしまうのは本当に残念……。
勝手に不安がってろ
@@user-xs5wo2cm2v流石にそうはならんやろ
これはやばい
@@user-xs5wo2cm2v
誹謗中傷になってるぞ
録画にしろ録音にしろ元から証拠能力はないよ
それ一つで判決を左右はせず、ただの資料としてしか扱われていない
@@user-xs5wo2cm2v
なんか疲れてんだね
複雑だけど正直言って面白いから印象は明るい…いやほんとに面白いw
あがせ博士もびっくりですね。名探偵コナンがいっぱい増えそうで面白いです。
確実に特殊詐欺の被害増えるね
声はそっくりなのに、本人よりも説明がスムーズでわかりやすくて笑うw
フラグだった‼️
コナンの時代きたな
このMutalk、VRを想定して作られてるけど到底使い物になる音質ではなくて、普通だったらこんなに"n"の段がはっきり聞こえることがないのでビックリしました。これがデフォルトで実装されれば買ったかいがあるのになぁ
既に他界した大切な人と会話が出来る日が目の前にあるのですね。使い方では人の心を癒せるのではと思いました。
これはかなり危険な開発
AIの活用に法の整備が追い付かない
車でも同じ事言ってんのか？
@@user-nt6sj9pd2s
的外れだと思います
悪用しようと思えば幾らでも出来るけど対策ないとヤバいな
悪用の心配って言われるけど、むしろ悪用意外にどう使えばいいんだ。
こうなってくるとリアルで「出会う」「体験する」という価値が上がってくるのは目に見える。
テクノロジーは突き詰めると人間らしさを浮かび上がらせるんだなぁ……
感動
録音による証拠が裁判とかで使えなくなるの心配
「このハゲ〜」みたいなやつも、「AIを用いたでっちあげだ」とか言われるようになっちゃうのかもね。。。
誰かがプーチンの声でロシア兵に「核の使用を許可する」って電話しちゃうのが一番恐ろしいシナリオかも
今すぐウクライナから撤退しろ！！と偽プーチンが命令してくれたら良いのにと思ってしまいますね？
逆にプーチンの指令に見せかけて、戦争をやめさせることもできるよね
マジレスすると核のボタン押せるのはプーチンと国防長官とあと誰か忘れたけどもう1人の3人だけ。
無教養すぎるコメント
アニメの音声を学習させて、オリジナルの2次会作品とか作れそう
アニメキャラA「次の店予約しといたよ！」
アニメキャラB「あ、行く行く！」
😮💡
@@MaHomura アナメキャラC「やらないか？」
アニメの推しキャラのエロ動画沢山出来そう
2次回
たまげたなあ
勝手にたまげてろ
コナンの道具がどんどん実現されていく…
これを、個人の思考と判断を模倣できるようになった時、この音声技術と合わさった時には死者とも事実上の会話できるようになってしまうという・・・。
ガンダムも永遠に続編が作れますね
禁断かもしれないけど…
クロスボーンを…
これは怖いね。
岸田さん、技術を目の当たりにしたんだから、これのリスクや問題点を挙げ対策していくことを遅らせてはだめだよ
これを使って「確かに致しました」とか言ってみたいアルねぇ...
あぁ^〜
これなら、ハローキティさんの声も
自分で話せるのかぁ～！！
ハローキティも綾波レイもミンキーモモも行けると思います。
最初にホランさんが言ってる「間」というのはラグの事だね
話してから数秒のズレがある
やったぜ。投稿者:
新しい物を開発するときはそれを止めれるものも作ったほうがいい。
でないと取り返しがつかなくなる