大規模言語モデルはただの遷移図。実際に作って理解しよう!【大規模言語モデル1】

Sdílet
Vložit
  • čas přidán 5. 09. 2024

Komentáře • 184

  • @yurucom
    @yurucom  Před 2 měsíci +22

    プロモーション:Notion AI
    Notion を無料で使い始めて、月額 10 ドルで NotioAI も利用してみてください。
    ntn.so/yurucom1
    【ことラボ】
    ◯Twitter → x.com/KotoLaboRyo
    ◯CZcams → www.youtube.com/@kotolabo
    【参考文献】
    ◯LLMの現在(スライド)
    speakerdeck.com/pfn/llmnoxian-zai
    ◯大規模言語モデル
    amzn.to/3VKqed7
    【サポーターコミュニティへの加入はこちらから!】
    yurugengo.com/support
    【おたよりフォーム】
    forms.gle/BLEZpLcdEPmoZTH4A
    ※皆様からの楽しいおたよりをお待ちしています!

    • @kettle9265
      @kettle9265 Před 2 měsíci

      概要欄と固定コメントで脱字してませんか?
      NotioAI → Notion AI

    • @meiorzx
      @meiorzx Před 2 měsíci

      Notion ってオフラインで使えないんすよねー。アタシは、共有用にしてます。

  • @miyabi-qt7ih
    @miyabi-qt7ih Před 2 měsíci +259

    りょーさん、ホリモトモリモト上位互換じゃん

  • @gnwf47
    @gnwf47 Před 2 měsíci +81

    この動画のコメント欄における、
    「堀」に続く文字の遷移確率は
    以下の通り。
    堀→元(78%)
    堀→本(22%)
    なお、n = 9
    ※2024年6月16日18時00分現在

  • @mugen_gamelab
    @mugen_gamelab Před 2 měsíci +166

    りょーさんまさかのコンピュータ系博士号
    堀元と水野を足して2をかけた存在だったのか……

    • @hukuuchi
      @hukuuchi Před 2 měsíci +35

      堀元の絶対値と言わないやさしさ

  • @user-ic5uw1rl5m
    @user-ic5uw1rl5m Před 2 měsíci +89

    りょーさん博士号取得してるの強すぎる。
    CZcamsやりながら博士取得したなんて。

  • @user-ts9dh5vl1t
    @user-ts9dh5vl1t Před 2 měsíci +74

    かなりりょーさんが一人ゆる言語学ラジオ過ぎておもろい

  • @arcsin1203
    @arcsin1203 Před 2 měsíci +151

    りょー 100%→ さん 100%→ の 100%→ 笑顔 100%→ から 100%→ しか 100%→ 取れ 100%→ ない 100%→ 栄養 100%→ が 100%→ ある

    • @user-kl7hd2vv3e
      @user-kl7hd2vv3e Před 2 měsíci +31

      普通の遷移図で良くて笑うw

    • @user-uu9mr9pj9g
      @user-uu9mr9pj9g Před 2 měsíci +21

      n=1

    • @user-it5fp6tg6k
      @user-it5fp6tg6k Před 2 měsíci +3

      からしか辺りからはマジで100%に近い確率になってそうてまはある

  • @Redcoral_moe
    @Redcoral_moe Před 2 měsíci +172

    コンピュータサイエンスで博士号を持っている言語学系youtuberってもしかしてスーパー水野見ってコト!?

  • @TomTomMambo
    @TomTomMambo Před 2 měsíci +32

    りょーさんたまに遮光器土偶みたいな顔なるのジワジワくる

  • @Sasami1729_
    @Sasami1729_ Před 2 měsíci +15

    びっくりしてるりょーさん、笑ってるりょーさん、にこにこしてるりょーさん、キマってるりょーさん、かわいいな……

  • @nashi.2279
    @nashi.2279 Před 2 měsíci +74

    りょーさんのすごさと堀本・水野さんのピエロさが際立っている神回だと思いました。

  • @toshihirom2038
    @toshihirom2038 Před 2 měsíci +113

    ことラボりょーさんがことラボりょーさん過ぎてモノマネかと思った

  • @s_kanata220
    @s_kanata220 Před 2 měsíci +24

    一人でどっちのチャンネルも乗っ取れる男、りょー

  • @user-catBrathers
    @user-catBrathers Před 2 měsíci +31

    毎回専門家の中抜きインターフェイスに徹する堀元さん

  • @yaochuhai
    @yaochuhai Před 2 měsíci +68

    りょーさんの著書、持ってたんだ自分...

  • @gamemaru
    @gamemaru Před 2 měsíci +17

    7:45
    マルコフ過程に驚くりょーさん好き

  • @kurata_wolke
    @kurata_wolke Před 2 měsíci +52

    25:57 「小手先」って聞いた瞬間のりょーさんの笑顔怖すぎるんですが

  • @_saw6754
    @_saw6754 Před 2 měsíci +30

    コンピュータ科学と言語学のあわさった分野の博士持ちって、りょーさんホリモトミズノ融合体の上位概念みたいな存在じゃん

  • @azuki97
    @azuki97 Před 2 měsíci +23

    マルコフ過程のときのりょーさんの顔すき

    • @gnwf47
      @gnwf47 Před 2 měsíci

      そのためのワイプですよね

  • @user-xt5vp7lb6r
    @user-xt5vp7lb6r Před 2 měsíci +22

    ゆるコンゲスト回、江崎先生もりょさんも説明が上手いから無理やり画面外に弾き出して語ってるようにしか見えない笑

  • @rabutlilriddle1904
    @rabutlilriddle1904 Před 2 měsíci +19

    たまに出番がくると、張り切って(ただし当社比)答えるりょーさんが面白いw

  • @user-tq8mn3uz2r
    @user-tq8mn3uz2r Před 2 měsíci +12

    僕がマウスが4の下り、数字に対応する記述をしてなかったせいでそのまま出力されてしまったプログラム感があってとても趣がある。

  • @user-qs3id1jd1n
    @user-qs3id1jd1n Před 2 měsíci +11

    りょーさん2人でもう上位版のゆる言語学もゆるコンピュータ科学ラジオできるじゃん…

  • @musicdm7644
    @musicdm7644 Před 2 měsíci +43

    ・別画面
    ・鉄の表情
    ・声のトーン
    りょーさんが精巧に作られたAIではなく生身であるのが分かるまで5分かかりました。

  • @chii8039
    @chii8039 Před 2 měsíci +4

    28:06 !cat → びっくりキャット!!、いいなあ。

  • @mimiget
    @mimiget Před 2 měsíci +24

    びっくりキャット可愛くて草

  • @user-qy2rm7ub6u
    @user-qy2rm7ub6u Před 2 měsíci +35

    こっくりさんって生成AI……?

    • @ダレカサン_イラスト
      @ダレカサン_イラスト Před 2 měsíci +18

      コンピューター室でやったら先生に「おっ!言語モデル作ってるねぇ!平仮名と数字一文字ずつで作るのは、遷移が膨大過ぎてしんどいかもだけど、シブくて好きだな~ッ」とか言われるのか...生徒熱出しちゃうよ

  • @mudaso-heavy-user
    @mudaso-heavy-user Před 2 měsíci +40

    楽しみに待ってました

  • @user-ck8hv9el1r
    @user-ck8hv9el1r Před 2 měsíci +9

    装丁見る限り、「(大規模言語モデルについて)知ってればいいや」とかいうぬるい層を対象にした本じゃないし読めないのも当然。
    「知っている」と「作れる」の間には大きな開きがある。この本は後者になりたい人向けと思われる。

  • @idmuri
    @idmuri Před 2 měsíci +11

    カッパについてのうんちくを聞いて一般知識から答えないということは純粋にnotionに蓄えられた情報から答えてくれるってこと…!?
    それなら本当に助かる
    具にもつかない素朴心理学的な知識を排して色々ときけるということに…!

  • @sorrycomment
    @sorrycomment Před 2 měsíci +8

    優秀な専門家になんちゅー照明の当て方(笑)

  • @gush-accessories
    @gush-accessories Před 2 měsíci +5

    高精度堀元モデルがドツボにハマっていく過程が動画の最後におさめられていてわかりやすかった

  • @lafit.9106
    @lafit.9106 Před 2 měsíci +8

    りょーさんの素の笑顔とかツッコミ見られるの最高すぎ❤次も楽しみにしてます!

  • @Kobarienne
    @Kobarienne Před 2 měsíci +5

    思いがけないところでりょーさん登場で嬉しい週末に。
    ことラボでやってた「単語ベクトル」がとても興味深かったので、次回が楽しみです❤

  • @user-hk2dn5gw1m
    @user-hk2dn5gw1m Před 2 měsíci +89

    りょーさんの下位互換とAIの下位互換がやってるチャンネル

  • @zc33s31
    @zc33s31 Před 2 měsíci +26

    神(ゲスト)の神託を得るエセ宣教師回はハズレなし。
    世の理不尽さを感じる。

  • @kotokoto8362
    @kotokoto8362 Před 2 měsíci +8

    院生と人気CZcamsr両立してLLM関連の研究で博士号とって業界注目の本の著者のひとりでカッコよくて面白くて声も良い、だと...🥴
    もうこれ都市伝説やろ
    しかしこの本見たことあるわぁ...

  • @user-si8bh7jo9t
    @user-si8bh7jo9t Před 2 měsíci +22

    りょーさん、博士号取ってたのか…。しかもコンピュータ系の(語彙力低い)??

  • @godzillaaquatimez
    @godzillaaquatimez Před 2 měsíci +3

    素晴らしい太貴模言語モデルができましたね!

  • @aaaajp
    @aaaajp Před 2 měsíci +16

    りょーさん、堀元と水野を足して2で割らないタイプの人だったか...

  • @user-op9di5fx8b
    @user-op9di5fx8b Před 2 měsíci +2

    面白さ優先して、どの部分の執筆したか確認しないでツッコミ入れてやらかしてるの堀元しぐさあって良い。もっとやらかしてほしい。

  • @user-fn6jn4hn3f
    @user-fn6jn4hn3f Před 2 měsíci +12

    江崎先生回以来の福音書(中抜き仲介業者)スタイルだぁーー❗
    楽しみにまってました。

  • @shomwoys
    @shomwoys Před 2 měsíci +3

    りょーさんの元気な「ダメです!」が聞けて大満足
    これなかなか良シリーズになるのでは?
    りょーさんだk
    NotionAIの中の人も呼んで「こんな使い方したらおもろいで」ってので締めれたりしたら、興味的にも実用的にもチャリンチャリン的にも最強なのでは

  • @canterantanable
    @canterantanable Před 2 měsíci +47

    ってことは、水野さんと堀本さんを足して、4でかけたら、りょーさんってこと!?

  • @ddw5111
    @ddw5111 Před 2 měsíci +5

    堀元見が「効率重視の世の中はよくない」とか言うんかよって笑ってたら即突っ込まれてて更に笑った

  • @user-zs9mh3ci3k
    @user-zs9mh3ci3k Před 2 měsíci +4

    原理の説明がシンプルで分かりやすくて良かったです。分かったつもりになれます鉛筆とサイコロはビジュアルで良かったです。ロシア風の名前の方も後で調べてみます。では、さようなら

  • @user-ye6mm4kp5r
    @user-ye6mm4kp5r Před 2 měsíci +5

    ことラボのりょーさんは、ボイニッチ手稿とか解説されてましたよね
    次回もたのしみ

  • @shotoutlaw
    @shotoutlaw Před 2 měsíci +5

    りょーさんゲスト嬉しすぎる

  • @hiroyukippp7380
    @hiroyukippp7380 Před 2 měsíci +5

    りょうさんの新情報のコンピュータサイエンス博士号とマキシマムザホルモン歌うって高低差ありすぎてハゲそう。

  • @mkd09218
    @mkd09218 Před 2 měsíci +8

    ちょうど『大規模言語モデル入門』、卒業研究に使わせてもらってます。
    「ChatGPTにクイズを答えさせる」の章、助かります。

  • @komi3032
    @komi3032 Před 2 měsíci +10

    絶対trpgやるのに使えるから買ってええやろって気持ちで100面ダイス買ってる

  • @user-bw6uh9em4v
    @user-bw6uh9em4v Před 2 měsíci +2

    りょーさんって何者かとずっと思ってたけど
    自然言語処理の専攻だったのか...!

  • @user-ou8md6fm8o
    @user-ou8md6fm8o Před 2 měsíci +7

    球に近いサイコロ止まらなくて亡くなった話好き

  • @kiroro7912
    @kiroro7912 Před 2 měsíci +18

    東大で情報学博士号とってるのか。
    しかも自然言語処理やってて、CZcamsr としても人気。
    最近ゲスト(上位互換)多いな笑

  • @user-vg2ix3qx8s
    @user-vg2ix3qx8s Před 2 měsíci +25

    マジで仲悪くなったのかと心配してたから安心した

  • @sirius8203
    @sirius8203 Před 2 měsíci +5

    3:53 調べたらえっっぐい経歴出てきて笑う

  • @metboos506
    @metboos506 Před 2 měsíci +17

    ChatGPTも紙と鉛筆とサイコロのようなもの と聞いて、「パソコン(電子計算機)もソロバンに毛が生えたようなもの」を思い出した

    • @pihha5204
      @pihha5204 Před 2 měsíci +1

      ???「チェスなんてただのマルバツゲーム」

  • @tamarind_kingdom
    @tamarind_kingdom Před 2 měsíci +14

    りょーさん、そんなにつよつよの方だったのか…

  • @user-xl5lv2ng2c
    @user-xl5lv2ng2c Před 2 měsíci +10

    李さん!

  • @hrsm-chn
    @hrsm-chn Před 2 měsíci +2

    試しにGPT‐4oに「非文を言って」と頼んだら非文を生成してくれました。かしこい

  • @you-cm6jx
    @you-cm6jx Před 2 měsíci +8

    りょーさんのカラオケ見たすぎるw

  • @user-jq2hc8fi4l
    @user-jq2hc8fi4l Před 2 měsíci +4

    7:47 りょーさん驚く

  • @例のあきやま
    @例のあきやま Před 2 měsíci +5

    つまり、マキシマム ザ りょーさんはホリモトモリモトミズノジズノってコト?

  • @TheSlowcub
    @TheSlowcub Před 2 měsíci

    めちゃめちゃ楽しいです😂
    雑談に混ぜてもらってる感じ😂
    それで学習できるんだから最高😊

  • @koi506
    @koi506 Před 2 měsíci +8

    数理モデル回に倣った例の福音書スタイルですね。

  • @user-fj1ku8hw5b
    @user-fj1ku8hw5b Před 2 měsíci +3

    10:53 d100助かる

  • @kanametatsuya
    @kanametatsuya Před 2 měsíci +2

    次回からもとんでもなく楽しみ

  • @user-uq6mu2rl2j
    @user-uq6mu2rl2j Před 2 měsíci +13

    僕はうなぎだ
    って小規模言語モデルが吐き出した文かもしれん

  • @hbs5394
    @hbs5394 Před 2 měsíci +2

    最近ニューラルネットワークの勉強終わった後なので、ちょうどLLMに関心が向いてるところでした!
    次回楽しみにしてます!!

  • @user-zs9mh3ci3k
    @user-zs9mh3ci3k Před 2 měsíci +2

    "The Female Student" captures the emotions of a young girl as she experiences a day filled with various moments, waiting for happiness that arrives a night too late.

  • @ryuukarinn
    @ryuukarinn Před 2 měsíci +1

    ちょうど自然には来ないものが組み合わされる可能性が高い、気持ち悪い芸術を出力する生成AIを作ってみようと思っていたところなので助かりました!

  • @daibun2001
    @daibun2001 Před 2 měsíci +1

    コンピュータ博士って自称するのめちゃくちゃかっこいいな

  • @user-kl7hd2vv3e
    @user-kl7hd2vv3e Před 2 měsíci +18

    りょーさんそっち系だったんだ
    その本読んだことあるかも

    • @user-kl7hd2vv3e
      @user-kl7hd2vv3e Před 2 měsíci

      これ、これから自然言語処理やる学生には良い刺激かも

  • @user-dg6eu1hu8t
    @user-dg6eu1hu8t Před 2 měsíci +1

    やったー!
    やって欲しいと思ってた題材がついに!

  • @KT-xz9ys
    @KT-xz9ys Před 2 měsíci +1

    機械学習のちょうど良い骨太本を探していたので早速購入いたしました!

  • @user-hs7ep9re3v
    @user-hs7ep9re3v Před 2 měsíci +5

    18:58 読書メモ× 野菜メモ〇

  • @foxface120
    @foxface120 Před 2 měsíci +2

    12:05 型を間違える水野さん

  • @user-bi6uj7yf6q
    @user-bi6uj7yf6q Před 2 měsíci +2

    専門家が体調不良にならなくて良かった!🐱

    • @user-bi6uj7yf6q
      @user-bi6uj7yf6q Před 2 měsíci +1

      ChatGPTに問いました🐱
      自分: 「僕はマウスができない。」
      この文は自然ですか?そして、この文をもっと自然にするとどうなりますか?
      ChatGPT: 「僕はマウスができない。」という文はやや不自然に感じます。「マウスができない」という表現がわかりにくいからです。おそらく「マウスを使うことができない」や「マウス操作ができない」と言いたいのだと思います。
      もっと自然な表現にすると、以下のようになります:
      「僕はマウスを使うことができない。」
      「僕はマウス操作ができない。」
      状況によっては、もう少し具体的に言うこともできます:
      「僕はマウスの操作が苦手だ。」
      「僕はマウスを使うのが難しい。」
      これらの表現の方が、より自然に聞こえるでしょう。

    • @user-bi6uj7yf6q
      @user-bi6uj7yf6q Před 2 měsíci

      ちなみに「できる」には「作れる」の意味もある気がします(「赤ちゃんができた。」「AGIができた。」など)。

  • @HACKIE300
    @HACKIE300 Před 2 měsíci +3

    李凌寒, 鶴岡慶雅, 対訳データを使わないマルチリンガル表現学習に必要な分布構造とは何か,言語処理学会第29回年次大会 (NLP2023), 2023年3月. (最優秀賞)

  • @user-ux9er4bk9i
    @user-ux9er4bk9i Před 18 dny

    最近の推しチャンネルがお互い知り合いで笑った

  • @mos399
    @mos399 Před 2 měsíci +1

    次回のCWEも楽しみです。
    なるほど!あいまい検索の精度が上がるんですね。
    ちなみに、プロ将棋棋士の谷合先生がBERT を使っていわゆる将棋AIを作った動画を観たことがあります。将棋盤(81字詰め原稿用紙と言えなくもない)や駒台に駒(単語そのもの)が配置された状態を文章に見立てて学習させたそうです。人間と違い、妙手と(時折)珍手が織り混ざった面白い棋風でした。

    • @----___----___----___----___--
      @----___----___----___----___-- Před 2 měsíci

      あのヨビノリさんの動画で作ったソフトをさらに進化させて、今年の世界コンピュータ将棋選手権に出場されています。
      しかも決勝ラウンドまで進出し、8位と見事な成績を納めてびっくりです。

    • @mos399
      @mos399 Před 2 měsíci

      続報を教えてくださってありがとうございます。
      素人目には「角筋(例えば88から22玉を覗く)なんかは81字詰め原稿用紙でいうと61文字も離れてる。さらに79に角を引いて24で角交換を狙う筋とも10文字も離れてるのに、transformerの中ではどんな評価関数なんだ?」と不思議です。例えるなら、谷合先生のpolonaiseが「ページ左下の文末から右上の文頭を推定する」という独特の読書術を持っていることになりますよね。

  • @user-ib3ks5do6i
    @user-ib3ks5do6i Před 2 měsíci +1

    新聞記事をクリップして、死蔵させていたけど、これで掘り起こせそう。(活用できるかは別)

  • @user-kl7hd2vv3e
    @user-kl7hd2vv3e Před 2 měsíci +5

    大学の教科書あるある
    入門がムズい

  • @kentoo_1
    @kentoo_1 Před 2 měsíci

    りょーさん多才すぎる… LLM入門積読してます!いつか読む!

  • @kuma056
    @kuma056 Před 2 měsíci +8

    当方 アナログゲーマー
    100面ダイス。別名ゴルフボール
    完全にネタアイテム。なかなか止まらないし、止まったところでどれが一番上かもわかりづらいしで、実用性はない。
    普通は、10面ダイスを10の位と1の位の2回(または2つ)振って1〜100の乱数を作る
    4面ダイス。別名マキビシ
    図形としての抜群の安定度のせいで、全然回らない。
    手からスライドしてそのまま落ちるようにも見えて、イカサマ疑惑も出るくらい。
    気にする人は 4k面ダイス(kは2以上の整数)の出目dを d mod 4 (ただし、0の場合は4とする) や flloor( (d-1)/k) + 1 で変換して代用する。

  • @ZAP_Ruuuuuu
    @ZAP_Ruuuuuu Před 2 měsíci +1

    キャー!リョーサーン!

  • @crackedman1636
    @crackedman1636 Před 2 měsíci +8

    パソコン博士と茶化しナスとポテト

  • @penguin6241
    @penguin6241 Před 2 měsíci +2

    概要欄のNotionAIの記載誤字ってますね。

    • @penguin6241
      @penguin6241 Před 2 měsíci +1

      NotioAIも利用してみてくださいになってる

  • @user-kb5yf6vx4c
    @user-kb5yf6vx4c Před 2 měsíci +1

    りょーさん、バキバキの目うまいな…

  • @oshiba_tetsuzo
    @oshiba_tetsuzo Před 2 měsíci +1

    画像生成AIも色の遷移確率とパターンとで似たようなことをしているという理解で良いのでしょうか

  • @hisenkei
    @hisenkei Před 2 měsíci +1

    直前の単語だけが次の単語に影響するという表現は語弊があるような

  • @user-MizumasiGohanKansokusha
    @user-MizumasiGohanKansokusha Před 2 měsíci +1

    Notion きたー!

  • @HANEKAWAhaorenoyome
    @HANEKAWAhaorenoyome Před 2 měsíci

    これって Apple intelligence が搭載されたら、メモや位置情報などの個人情報をもとに回答してくれるようになるってことかな?

  • @user-zs9mh3ci3k
    @user-zs9mh3ci3k Před 2 měsíci

    公衆電話の色も辞書以外ではもうわからない。赤青黄色緑グレー黄色から100円玉が使えるようになった74年ぐらいかな?黄色はプッシュ式ダイヤル式もあったんだろうか?

  • @kemukemu8080
    @kemukemu8080 Před 2 měsíci +3

    他チャンネルCZcamsr兼他IT企業社員を招いてNotionプロモーションするコネクティングチャンネル

  • @user-zs9mh3ci3k
    @user-zs9mh3ci3k Před 2 měsíci

    生成AI今はトピックパンケーキより流行ってる初歩のラジオなんて言う雑誌が昔あった。初歩のAI

  • @user-zs9mh3ci3k
    @user-zs9mh3ci3k Před 2 měsíci

    スモールランゲージモデルわかりやすい

  • @jjjj-ce8tr
    @jjjj-ce8tr Před 2 měsíci

    枝葉(単語ベクトル)のほうが幹になってないかなぁ?

  • @user-tq2fk7xz1y
    @user-tq2fk7xz1y Před 2 měsíci +1

    「太貴」模言語モデル…

  • @user-zs9mh3ci3k
    @user-zs9mh3ci3k Před 2 měsíci

    もといという単語辞書を引く正確に理解するため、元に戻すということらしい。ごめんね。ってことじゃないみたい。軍隊用語日本に現在あるのは軍隊みたいな自衛隊