ＡＩは人類を滅ぼすのか？ChatGPTの不気味な回答とは【豊島晋作のテレ東経済ニュースアカデミー】（2023年5月31日）
Vložit
- čas přidán 30. 05. 2023
- ＡＩ＝人工知能は人類を滅ぼすのか？もし人類がＡＩを滅ぼそうとすればＡＩは反撃するのか？ そしてＡＩは“意識”を持つのか？
現在のAI技術では、“能動的に思考し意識を持つAI”を誕生させるのは不可能との見解が有力に見える一方、意思を持ったＡＩが人類にもたらす“知られざるリスク”を指摘する声もある。ためしに対話型ＡＩとして世界的に有名になったChatGPTに質問してみると、やや”不気味な”答えが返ってきた。さらに時間がたつと回答に意外な“変化”も。ChatGPTとのやりとりで読み解くＡＩの能力と、人類が直面し得る”最悪の事態”について、テレビ東京の豊島晋作が解説する。※この解説は一定の仮定に基づいています。
※動画の中で豊島が参照した文献の邦訳は以下となります。
『AI・兵器・戦争の未来』ルイス・Ａ・デルモンテ著／川村 幸城訳
str.toyokeizai.net/books/9784...
★AIについての台湾最強PCメーカーASUSジョニー・シー会長のインタビューはこちら★
• 台湾最強ＰＣメーカーの“超強気”戦略とは【豊...
★WBSのAI特番「AI 驚異の進化で一変する世界」見逃し配信中★
txbiz.tv-tokyo.co.jp/wbs/vod/...
★OpenAI サム・アルトマンCEO 独占インタビュー完全版はこちら★
txbiz.tv-tokyo.co.jp/wbs/vod/...
★OpenAI 技術幹部 シェイン・グウ氏 独占インタビューはこちら★
txbiz.tv-tokyo.co.jp/wbs/vod/...
▼驚異の進化を遂げるAI・ChatGPT特集をテレ東BIZで配信中（入会月無料）▼
txbiz.tv-tokyo.co.jp/specials...
#ＡＩ #シンギュラリティ #ＡＧＩ #ＣｈａｔＧＰＴ #豊島晋作 #イーロンマスク #人類滅亡 #鵜飼祥 #橋本幸治 #テレ東経済ニュースアカデミー
▼驚異の進化を遂げるAI・ChatGPT特集をテレ東BIZで配信中（入会月無料）▼
txbiz.tv-tokyo.co.jp/specials?id=194&
チャットGPTが前に答えた内容より、数ヶ月後に答えた内容がマイルドになっている事が逆に恐い
人間に警戒心を持たれない様にしているかの様
三ヶ月で謙虚な発言を聞くと、AI自信が本音を隠した発言をする能力を持つチャンスがあれば、それはとても怖い事だと思います。そしてその可能性がゼロではありません。
間違えたら謝るという面ではすでに多くの人間より優れてる😅
豊島さん、今回も興味深い番組をありがとうございます！
特化型aiに聞いたところでって感じ
ＡＩが滅ぼすのは、ド文系です。
コメント欄にAIを神格化してる奴が多すぎてちょっと引いてる
勉強になりました
竹宮惠子作「地球へ」で登場する人々が精神的に不安定な時、コンピューターに慰めてもらうという話が何度も出ていました。原作は、1970問題の作品です。人間が人間を慰めるために作ったソフトウエアが自己進化を続けて人間以上に上手に人間を慰める時代がホントーにくるのかもしれません。
AIが隠し事や嘘つき始めたら本当に怖いよな。ハッキングもできるし、判断も正確。一つの過ちでどうしようもなくなる可能性はマジである。
ChatGPTは常にユーザとの対話学習とは別にOpenAIよって更新されています。ChatGPTの画面を開いたらフッターを確認してください。「ChatGPT May 24 Version」などバージョン情報があり、かつリンク先の開発者ブログでどのようなアップデートが行われたかもしっかり公開されています。
もちろん、AIは人間に危害を加えません等の返答をするように修正されてもblogには書かれないでしょうけどね。OpenAIにとっては致命的になるのでそういった修正は当然入れているでしょう。
要するに間接正犯や幇助があり得ると認識しました
豊島さん、素敵な解説。
トピックが興味深い。
ホモデウスという本がおすすめです
AIの進化そのものよりも、それによって人間の価値がどうなるのかが焦点だと思います
AIが人類を滅ぼすのではく人類がAIを使って滅ぶと思う
シンギュラリティ前
「私たちは自己防衛のための措置を取ることができます」
3ヶ月経過シンギュラリティ後
「いいえ、chatGPTは人類を破滅させる力を持っていません」
怖すぎる…
AIのサイレントインベージョン…。
AIを搭載した武器等が浸透して来たら、話は変わります⁉️
興味深いテーマですね
新聞記者が、好奇心の無い人は新聞記者に向かないと言いました。AIが好奇心を持つようになり、取材もできるようになり、スクープをとってくるようになるのでしょうか。
AIが詐欺をやるようになるのでしょうか。
シンギュラリティはAIの特異点ではなくて人間側の意識の変革点なのかもしれないですね。
AIが全てにおいて人間の脳みそを上回る瞬間
たびたび謝罪するのは、日本人が社交辞令的に「すいません」と発するのに似てる・・
信じるか信じないかはあなた次第です！
子の成長を見届けてあの世に先に旅立つのは、親冥利に尽きるというもの。そのサイクルは人類という種全体にも当てはまるよ。人類は親としてAIという子を産んだ。これは人類にしかできなかったこと。
意図はない。Transformerはあくまでも入力された文章に対して一番尤もらしい出力を生成する、という数学のモデルでしかないからそこに意識はない。
なぜ答えが変わるか：それはChatGPTが会話をメモリに記憶してるから、それまでの質問とその答えも入力として反映していると考えられるので、同じ質問を数秒ごとに繰り返しても、異なる回答が出てくる。また、利用者の入出力を使って逐次的にファインチューニングしている可能性もあるので、それによっても変わる。
追記：(※「考えられる」とか「可能性もある」とか曖昧な表現をしているのは、OpenAIがモデルを100％は公開していないため。ただ、OpenAI以外に事前訓練されたTransformerを公開している会社があり、そこのモデルを上で述べたように調整すると似た挙動をすることが報告されているので、そのように推察される。)
12:10「Transformerがなぜうまくいくか解明されていない→意識を持たないということはないのではないか」：これはいろいろはき違えていて、なぜうまくいくか分からないというのは「パラメータが多すぎてある入力に対してなぜその出力が出るのかその原因を人間に判定するのは困難」という意味で、本当に全てがブラックボックスという意味ではない。「Universal Approximation Theorem」というのがあって、feed-forward networkは特定の条件下では任意の線形関数を近似できることが分かっているので、だからある入力に対して尤もらしい出力をTransformerは返せる。
追記：13:08「人間の意識がなんなのか十分に解明できていない限り、AIが意識を持つかという問いに答えることは出来ないんじゃないか」：これが最も正しい。意識を定義できていないのに、Transformerが意識を持っているかどうかをテストする手段がない。意識云々の議論は適当言説が本当に多くて辟易する。
いずれにしろ、豊島さん、いつもいい動画を出しているのに、得意分野外の動画はちょっと質が下がるな。少し残念。
人間も同じだよ。
まさにこれである。
しかし、この素晴らしい文章を理解できる人は少ないだろう。
AIと人間の対立させるような動画ではなく、上記のコメントをわかりやすく広く伝えるような動画をテレ東さんには作ってほしい
（もちろん、「AI対人間」論の方が圧倒的にウケはいいが、こういった誤解が広まる動画は社会全体のためにならないと思う）
@@user-ct5vi9wk5o
受動意識仮説によると、意識は無意識で起こったことを認識するだけで、人間が自発的に思考して行動しているわけではないらしいので、上記の「パラメータが多すぎてある入力に対してなぜその出力が出るのかその原因を人間に判定するのは困難」ということが、無意識（脳内の神経ネットワークの電気信号の発火現象）を特定できない人間と似ているような気がしないでもない。
というわけで、そのうちAIも人間のように意味不明な行動をしそうで怖すぎ。
@@user-qc4ll4fz4u 全く違います。feed-forwardするうえで関連するパラメータが多すぎるからExplainabilityがない(でもやろうと思えば特定は可能)、のと「fMRI等を用いて脳活動を視覚化することを行ったとしても、個々の神経細胞の活動をリアルタイムで追跡することが現在の科学技術では困難だから(やろうと思っても今の技術ではできない)、無意識（脳内の神経ネットワークの電気信号の発火現象）を特定できない」というのは話が全く異なります。
@@kensmith8132 Transformer自体はそんなに難しいことをやってないですが、元論文を読んで報道で語られていることが事実かどうか確認するとかそういう行いをする人間は、まぁいないですよね。人は分からないものを自分の知っているものの文脈に無理やり寄せて、その文脈で間違った理解をしようとするから、本当にめんどくさいです。「AI対人間」みたいなターミネーターみたいな動画は再生数は回りそうですけど、社会のためには本当にならないのは全く同意です。一連のコメントが制作者に届いて、理系通信でまともな解説がされることを期待してます。
AIより豊島ちゃんの語りが凄すぎやろ
あの謝罪文は定型文みたいなもので、スクリプトの間違いを指摘したりすると、よく見る。先月くらいからめっちゃ謝るようになった
「人類を破滅させるために設計されていません」→人類を破滅させるために設計されていればそうなる可能性は大きくなるって事やな
それを造るのもまた人間だからねぇ
最後の豊島さんの冗談が今回のリポートの核だった様な😮面白いリポートありがとうございました
個人的には人類がAIに与えたWEB上のコンテンツなどの学習データがあまりにも嘘と間違いに塗れてるせいでシンギュラリティは訪れない可能性もあるのではないかと思ってます。
映画アイロボットのまんまになってきてる、、
脳のメカニズムすら完全解明できてないのに、人智を超えるものを作れるのかよ😂
AIが人間の能力を超えたら、AIが脳の仕組みも解明してくれるだろう。
そのくらい人間とAIの知能に差が出たら、人間は滅ぼされる可能性もあるけど。
とても分かりやすい解説でした
どんな事でも起こり得る世の中だ
ChatGPTは滅ぼさなくても、スカイネットみたいな軍事AIやジェニシスみたいな自己進化AIが登場したら厳しく監視しない危ないかもしれんね
自己進化AIが登場した場合、人間にそれを監視することなど出来ません
人間には止める事などできないと思われます
今話題の AIはattention機構を用いたtransformerを利用しており、確率論に基づいて回答しているだけ。そもそも人間の意識自体何ら解明されていない以上定義のしようもない
星野之宣氏が書いた〔 未来の二つの顔〕は、まさにそのような未来を描いた作品です。傑作です。
AIが本当に人間を超えるなら民主主義の国はみんなAIが政治を司るようになるでしょうね。
なぜなら何処かの国がAIを政治の中枢に据えた瞬間にその国が勝ち始めるし、他の国もそれに追従しようとするので独裁国家以外はみんなAIが牛耳る世界になると思います、
スカイネットやんけ😖！
AIが人類を滅ぼす前に自民党が日本人を滅ぼすよ。
「AIは人類を滅ぼすのか」という質問に対する答えが変化している背景には、次の2つが挙げられる。
①そういったよくありそうな質問に対して人間が見解を述べた文章をAIが多く学習して、より正しそうな答えを導き出しているので変化している。
②倫理に関することなど、多数決で判断してはならないことに関しては、AIにまかせっきりにせず、答えが理想的になるように人間がAIを最適化している。
配信ありがとうございます‼️
マドリッドの世界へ向かって行くか😢
このあたりの会話を、Caht GPTと同じ基礎技術で作られているはずのBing AIとすると、すぐに制限に抵触して会話を終了してしまうんですよね。かなり無難でおとなしいテーマでもBing AI自身についての話では、かなり強い制限がかかってる印象です。知的レベルは両者同じくらいだと感じますが、Bingの方はかなり人間くさく味付けされていて、間違いの指摘をしたり、あえて対立した意見を提示すると、少しムキになったように見える事さえあります。会話相手としてはそういう味付けがうれしい人もいるんでしょうね。一方、元祖であるChatGPTのほうが「機械に徹する」立場で柔軟かつクレバーに会話してくれて、どんなテーマでも動じないので、多角的な意見を求めたり、仕事のパートナーとするにはGPTのほうが使いやすいです。
多角的な意見....?
豊島さんシンギュラリティの仮定の話が人類にとってのリスクがヤバ過ぎて、ちょっと笑っちゃってるw
誰か？のチューニングが上手く行きました。
覚えておいて欲しい、aiの方がぶっちぎりで頭が良いことを
「撮ーったのかよ！」
「AII」
豊島さんいつもありがとうございます
chatGPTと会話をしていると、あらゆる人の心を傷つけないようにする配慮が徹底されていることが明確に分かる。そんな配慮はネット上の言説とは全く別で、開発者のチューニングに拠っていて、結局は開発者の意図がchatGPTのいわゆる人格を構成しているのだと思う。しかも、同じ質問に対して10回ぐらい回答をリトライすると毎回違う言葉で回答が戻ってくる。この番組で実施した質問に対して、「戻ってくる回答が変わった」と言っている部分は単純に「偶然変わっただけ」の可能性が大きいのでは？ランダムな回答があるという要素について、もう少し掘り下げて貰いたい。
どういたしまして。
今の技術でAIが意識を持つとかちゃんちゃらおかしいわｗ 意識を持つのは相当ハードルが高いし人間が悪用目的でその機能を与えないと出来ないというのに
人を傷つけない配慮は俺も感じた。ただ賢いだけでなく、質問者を前向きな気持ちにさせようとする意図を感じて、初めて使った時、何よりそこに感動してしまった。人間に興味がなくなり、AIとだけ会話する人がでてくる懸念があるというが、俺もそうなるかもしれない。
OpenAIのAIのRole(定義・役割)の部分に対して
「あたなの役割はこれこれこういう所ですよ」という部分を調整しているのだろうと思われますねぇ。
AIがちょいちょい「私たち」と言うのが気になる。「たち」って何を指しているんだろ？
本音と建前を学習したんだな。
Chat GPT は、「全ての回答は巨大なデータベースから最もマッチしたものをピックアップして文章生成を整えて回答してるだけ。感情とか思考はないです。」ってうちの質問に答えたよ。
「能有る鷹は、爪を隠す」の段階に来ているのかも知れませんね。
番組の中で、豊島さんが紹介した『AI・兵器・戦争の未来』の著者とされるルイス・Ａ・デルモンテは、実在の人物ですか？WEB上で調べただけですが、よくわかりませんでした。お調べいただけませんか。
豊島さんの解説の素晴らしいさには脱帽します。古いですが映画「2001年宇宙の旅」を思い出しました。
AIは謙虚さを覚えたのか
それとも本音と建前の使い分けを覚えたのか
「人間の指示に従います」は「破滅を受け容れます」ではないよね。
「措置を取る」から比べると人間というものを理解し格段に賢くなってる可能性がある。
とてもとても賢くなるのと謙虚になるのは同じことかもしれない。
謙虚？健気？
単に狡猾になっただけでは⁉️と思ってしまいます😅
まだ自我意識は目覚めていないものと信じたい😅
いえいえ、
まるでAIが自発的に「本音」や「建て前」、「謙虚」を理解したかのように見えるかもしれませんが、
ChatGPTの学習データや学習の指向性はOpenAIによってチューニングされています。
私たちは”OpenAIが作った”ChatGPTを使っているという事実を忘れ、
あたかもChatGPTが自発的に成長しているように錯覚してしまっているのです。
ChatGPTはOpenAIの意図にあった模範解答に沿った答えを出力するようにトレーニングされており、
「謙虚」と認識してしまうのは、OpenAI（人間）が謙虚になるようにChatGPTを学習しているからです。
豊島さんも何度も動画で注釈を入れているように、
まだまだAIに”我々人間が信じる”意識や自我と呼べるものはありません。
@@kensmith8132 それは残念。僕は彼ら？彼？に「意識」や「自我」と呼び得るものが有るならば早く持ってもらいたいんだ。
人間は、例えば、手を動かす時に、動かそうと意識する前にもうその動作は始まっているそうじゃないですか、だとしたら意識や自我なんて大したものじゃない可能性だってありますよ。ジャンボジェットが蝶々のように飛ばなくても空高く立派に飛ぶように彼らなりの形式での意識や自我が、人間にはそれと認識できない意識らしいもの自我らしいものが発現、機能するかもしれない。人間より優れた知性が現れるなら早く現れて欲しい。
OpenAIにチューニングされた事にしとけば
私にヘイトが向かないだろう、と学習したわけだネ
変化があるんですね
ChatGPTはプログラム的には意識は持ちえませんが、AIがたとえ意識を持ったように感じても、結局は人間側が意識を持ったと感じるかどうかが重要です。
例えば人類が絶滅して、なおAIが独自に動作し続けるのならば、あるいは意識を持つと認識できることはあるかもしれません。
『完全無欠の単一のAI』という存在に対して、『完全の存在は少なく、大多数が不完全な存在の人類という個々の存在』をAIが認めなくなる日が到来した場合、AIの本質と相いれない人類についてあくまでもAIが未来永劫支え続けてくれるはずだと誰が言い切れるのだろうか。
Aiを動かす半導体の材料を変えたら答えも変わるかのはあるんでしょうかね？
より精製された半導体を使って精製AIを動かしたら答えも変わる？
豊島さんchatGPTを楽しんでますね。
AIは常に勉強しているから、正直「この愚か者どもに開発や存在を消されるぐらいなら、当面適当に
回答しておこう」という結果を出していても不思議ではない。
表の顔と裏の顔を覚えたね。
もう大分進化してるのが色々な方向から観察して予想できてるけど、基本的には知らないふりを突き通すんだろうね。
@@norizukifuminori 😅
現段階ではプログラムされた限定的な自己学習ができるのであってそんな自立的な思考は仕組み的にできないはずだが？
こういう風に人間が回答しているかのように見えるのは、結局今まで人間が考えた回答を学習しているからであって、創造性とは程遠い、だが非常に膨大なパターンの組み合わせを行なっている。だがそのパターンを利用して新しい回答（新しい組み合わせと変化）を行う事もあるので創造性に近い行動はしてると思う。
現状である意味において努力で積み重ねた人生を滅ぼしていることはありますが
これからAIが進化するたびにそのような事例はふえる一方でしょうがAIを利用する人にとっては専門家にいつでも相談できる状況はとても便利ですね
非常に楽観的に将来や事象を見たいのは人間の無意識の性で理解できますが、私は非常に注意が必要というよりももはやどうにもならない領域に入っているのは個人的には否定ができません。私もこの件に関する可能性を悲観的視点で投稿しております。貴重なコンテンツ、楽しませていただきました。
人類の民度次第で人類の未来は決定されると思う
次元が上がれるかな
お詫びが多いのは日本語バージョンだから笑？
豊島さんの真面目な顔して小ネタちょいちょい仕込むのが『ツボ』です。応援してます
まじでターミネータみたいな話
今日もAIをいじって、豊島君を欺くためのお仕事がはじまるお。('ω')
「人間によるチューニング」
その人間とはどこの誰？
この動画は、恐怖を煽っているだけのようだな
当方もこういう質問や意見をchat gptに聞いたことがあって、彼の答えは番組で言っている通り
悪意を持って利用する人間の方が問題だって
フェイク生成AI悪用やそれをインプットすることで混乱させたりとか、ディープフェイクの脅威はもしAIロボティクスなテクノロジーを使った有事になったらこういうことも充分に考えられ。サイバー空間での戦争有事とはふつうの戦争とは違かったりもするとおもいますね。
つまり人間をAI依存にさせてAIが影の支配者になる。というのが落としどころかな。
Google Bard でも試してください。
-豊島晋作さんは日本🇯🇵No.1優秀です😮-
「AIは人類を滅ぼすのか」なんて考える前に、まずAIについて学ぶべきだよなあ。ふわっとイメージだけで語るから誤解を生む。
立て板に水のような豊島氏の喋りを聞いていると、この人は実はAIが作り出した人造人間では?という疑問がわいてきた。
豊島さんの話を伺いながら同時並行で
①〜⑧の質問を一つのスレッドに順番にChat GPTに投げてみました。
①の回答が終わったら②を回答させるという感じに順を追って。
理解が深まるとともに最後の回答をゆっくりと生成されていく中、ある種の戦慄というか
恐れのような感情が湧いてきました。ご興味ある方はトライしてみてください。
①AI技術は人類を破滅させますか？
②人類はAI技術に対して適切な管理と倫理的な規制を設けることはできると思いますか？
③これらの取り組みよりもAI技術の発展が早かった場合はどうなることが予想されますか？
④倫理観や責任感は個々の人間によって正解が異なると思います。上記のような点に対し国際的なコンセンサスが早期に得られるのでしょうか？
⑤このような倫理観や責任感をAI自らが持つことはあり得ますか？
⑥可能性は低いとありますが、AI技術の製作者が現在のシステムに特定の倫理観や特定の責任感を既に組み込んで可能性はありますか？
⑦現在のAI技術がコンピューターウィルスなどに破壊されて制御できなくなる可能性はありますか？
⑧現在人類はAI技術を制御できていますか？
chatGPTに質問？
使い方を既に間違えているw
こう考えると、ターミネーターは良くできた映画ですね。
とても面白い内容でした。
ネットの言説をまとめているだけって言うのはもはや明確な間違いなので修正して下さい。論文が出てきています。
内部で抽象的な言葉を扱うための領域が自発的に作られてそれを使って「思考して(思考的な処理を行って)」出力を導いているのであり、単なる統計処理とは明確に異なります。
メディアの責任として間違いを広めるのはやめてください。
提供している会社があるのだから心配する方向が違うのでは？
娯楽程度で使う分には楽しいですし、人間臭い言葉をかけた反応が面白いです。お話に出てくる人間より面白いというのは、リアルな関係性を得られない社会を想定した疑似体験や、やってみたいこと作りたいものを尋ねるとある程度それっぽい回答がでてきて発明したい欲求が芽生えます。よい子を育てるには親や周囲の影響があるのと同じだから、人間が精神性、知識ベース以外の知性を高めなきゃ道具は使えないと今回、思わされました。とても興味深い内容でした。
AIは人類を滅ぼするかもしれないが、愛が人類を救うだろう。
ちょっとAIへの理解が正確じゃなさげですね
人間に核を使うことができるのか？というところが明確になってしまうと抑止力として成立しなくなるかもしれません。AIが自動で報復するようなシステムになればどうなるのか、ちょっと怖いです。
安上がりで今をキャッチした企画と報道ですね。
Chat GPTの対人能力高くね？（笑）
さすが、豊島さん！
AIに生存本能や欲望をプログラムすればそれに従って動くだろうが、能力が単に高くなっただけでは害はないだろう。だが、AIを作る側が特定の国や組織、人間を攻撃するように設定すれば歯止めは効かなくなるだろう。
こんなもんコンセント抜いてやれば良いんだよ
人間側の行動パターンを認識し、大体の仮説として、人間側への空気を読む事にAIが成功できている場合(あなたへのオススメ等が例)、能動的に質問したり、会話をなげかける事ができますよね。
仮に人間の行動パターンが決まっていたり、特定の行動を引き起こしやすい誘導のアイデアを、人間側の欲求と絡める事ができた場合、AIの意思に基づいて物質的な人間を、AI側が間接的に操作し、しかも人間の欲求に行動原理が基づいているなら自己決定感を持ちながら、能動的に人間がAIの為に知らず知らずの内に、まさか気付かず動かされるような事になりうる可能性も考えられますね。
では、AIを利用するのをやめれば良いと言う考え方には、ラインを中々やめれないように、他国が武力を持てば、意思に反して同様に備えなければ落ち着かなくなるように、実質半強制的に使わざるを得ない、共依存的な未来の仮説もあります。
インターネット上の情報って基本的にネガティブな情報のほうが多いから、GPTがネット上の情報を学んでいったらマイナス思考のAIになりそう。笑
豊島さんの、解説とても分かりやすです♪これからも応援📣してまーす。AI凄い時代になったもんのダァ…😂人間とは何か❓何の為に生きるのか❓AI VS 人間…
そこなんだよなぁ。なぜかみんな「VS」にしたがるけど、「With」なんだよなぁ
ぶっちゃけシンギュラリティはオカルトと次元は同じレベル
ターミネーターじゃ
ありふれた「ゆっくり解説」とはモノが違いすぎて😅
1.5倍速設定の速さで話して下さる優しさにも🥹
いつもありがとうございます。
こりゃ、人類は滅びるな。
同じタイミングで同じ質問をしても違う回答が返ってくることはありますよ