マルチGPUでAI生成の可能性…
Vložit
- čas přidán 19. 04. 2024
- 接続がー
〜関連商品リンクなど（PR・アフィリンク含む）〜
↓Oculinkスロット部のみ、SATA電源よさげ
amzn.to/3xSKgs6
↓Oculink 3点セット
amzn.to/3voVvHK
↓OculinkをPCIEスロットから生やす
amzn.to/3RO2QYM
↓x1ライザーケーブル、このへん？
amzn.to/4d9kwbs
↓電源連動基板リレー回路タイプ
amzn.to/3xKOsKF
↓電源連動基板スイッチタイプ
amzn.to/446UYaw
〜関連動画〜
↓AI生成と学習で要スペック違うし外付けGPUで十分説
• AI生成と学習で要スペック違うし外付けGPU...
↓もっと簡単画像生成AIインストール＆LORA追加学習
• もっと簡単画像生成AIインストール＆LORA...
↓自作PCに画像生成AIインストール・Stable Diffusion
• 自作PCに画像生成AIインストール・Stab...
↓NVIDIA GeForce RTX4080 Super Founders Edition購入
• 純正のNVIDIA GeForce RTX4...
↓Oculink比較
• グラボ外付けどっち？Thunderboltと...
〜素材〜
↓フリー音源
dova-s.jp
↓picopico written by ゆうり
dova-s.jp/bgm/play6878.html
↓ぷわぷわ風船 - 8bit written by ハップル
dova-s.jp/bgm/play12885.html
↓bubble bubble written by KK
dova-s.jp/bgm/play4610.html
↓ワクワクアリクイ written by かずち
dova-s.jp/bgm/play3347.html
↓3stages ファミコン8bit by ザイオン
dova-s.jp/bgm/play9611.html
↓8bit_Start written by ilodolly
dova-s.jp/se/play691.html
↓SE音源
otologic.jp
〜その他〜
↓チャンネル登録お願いします(๑•̀ㅂ•́)و✧
/ @udn
↓うどんの別室（サブチャンネル）
/ @udn_sub
↓うどんツイッター
/ udonuopn_pc
〜補足〜
（誤字脱字誤解無知などありましたら、コメント欄でご指摘お願いします）
#NVIDIA #RTX4080Super #生成AI - Jak na to + styl
冒頭の環境がすでに羨ましすぎてその後の内容は頭に入ってこなかったです。ハイパワーなグラボが沢山！！
💪( ˙-˙ )💪
ロマンがありますね！
マルチGPU！いつか自分でも組んでみたいです
マルチGPUで画像生成やってみたかったから助かるー！
やっぱりマイニングリグ使うのが良さそうですね。
外部GPUなど自分でもいろいろ試したこともあったのですが、リレースイッチ型の電源スイッチ基板というのは存在を初めて知りました。今まではわざわざ別々に電源スイッチを入れていたので、こういった情報はとてもありがたいです。
最初のオープニング？のMニングリグの光ってる基盤がかっこよすぎてめっちゃ心をくすぐられました！
なんでこんなにPCってかっこいいんですかね？笑）
マルチGPUでAIは自分もチャレンジしたいところだったので、参考になりました
(๑•̀ㅂ•́)و✧
大学生のときに研究でスリッパとRTX3090x2マシンを借りていたのですが、その前に借りていたV100とは速度がだいぶ違いましたが、色々工夫しましたが、マルチGPUの恩恵はなかなかに難しく、dockerでパラメータ(活性化関数とか重み)が違うのにして、別々のプログラムとして回しました。
ちょっと調べた限りだと、相変わらずなかなか難しいように思いますが、ローカルでマルチエージェントLLMやりたいときには有用そうな気がします。
非常に参考になりました！マルチGPUでAI生成ができるとは驚きです。実際のユースケースで活かせるかどうか気になるところではありますが、生成１号アップスケール２号とか色々ワークフローの幅が広がりそうですね。
oculinkケーブルなら実用できそうな気がしますが…🤔
5:24
ホイールクリックでも立ち上がる気がする
エクスプローラーとかEdgeの多重起動するときによく使ってるんで試してみてください
Twitterの投稿みて気になっていたやつだ！！
(σ・∀・)σ
マイニングが脂肪したときに片付けたライザーケーブルを探してみます😊
処分に困るケーブルw
3番目のPCIeスロットでSDできないのはチップセットの仕様上、PCH経由になるのでOSやMBで門前払いされてるなどでしょうか？この先の拡張レーンはあっても用途が難しい…
マルチGPUもっと普及してほしい～これからも応援してます！
その可能性ありそうですね🤔
あざす！
このフレーム、Mニングしてた頃に使った！穴位置ズレまくってて組むのが大変だった思い出
グラボ性能全部まとめて使えたら面白そうだけど 難しいのかな？😿
面白そう
速くするの無理でもVRAM共有して生成可能解像度上げたりとか出来たらいいのになぁ
メインメモリが100GB/s出る一方でPCIEは現状の最高速でも60GB/sくらいなので
メインメモリを増やして共有の方が安価な上に得られる効果は変わらないと思われ
仮にできたとしてVRAM-GPU間の通信と比べるとレイテンシーも帯域もそれぞれ10倍くらい遅いので
実効パフォーマンスは数十倍の差が出ると予想され実用にはならなそう(´・ω・｀)
初コメ失礼します！動画の趣旨と関係ないんですが、windows起動画面（2:47あたり）ってどうやって変えてるんですか？教えて頂きたいです🙇♀️
マザーボードメーカーによっては変更ツールを配布してたりしますよ👌
@@UDN ありがとうございます！調べたらmsiは無理っぽいので諦めますw
大量のVRAMを活かしてLLMとか動かしたら良さそう
言語のAI全然わからんす…学習するか
Gen4だとかx4接続だとかならそこまで性能低下しないんですけどね、なかなか良いのがない。
やはりoculinkですかね…
M.2スロットをPCIeに変換すればまだいけるはず！
これthunderboltで繋ぐタイプの外付けグラボ箱だとどうなんだろう。一緒かな？
先日やったOculinkとMニングライザーの間ぐらいの性能になりそうですかね…
逸般の誤家庭にはリグもグラボも余ってますから、ロマンで終わらせたくないですねｗ
これでまた叡智なうどんが生成されるのか
エッソな…
M/Bがx4x4x4x4に対応しているなら、pcie4分岐のライザカードとか？
このマザー対応してますね…ケーブルがむずい
機械好きなら楽しめそうですね。で、何に使うんだっけ？、ってなりそうだけど・・・😄
既にその状態w
Mリグが悪魔の器具は笑ったｗ
面白かったｗ 検証作業に費やす時間が掛かったかと思います。
次はGPUブリッジなどして欲しいです。
また、AMDGPUなども見てみたい(※海外で実施している人も増えている)です。
RadeonでAIも勉強しておきます…
Oculinkっすかね！
4060だとメモリーが足りないみたいですが、
VRAMオプション入れなくてもNVIDIAコントロールパネル→3D設定の管理→グローバル設定→CUDA-システムメモリーフォールバックポリシー
の設定を優先にするとグ共有GPUメモリも使えるようになっていい感じになると思うっすよ。
ほほう、いずれやってみます！
うーん、なんか煮え切らない感じ
PCIEのコントローラってCPU側に搭載されてた気がするから
CPUや差し込みの組み合わせで結果が変わりそう🤔
一番CPUに近い直結スロットにGen制限かけてかつx1ボード入れてかつ全スロット埋めとか
HUBで分岐してかつマイニング以外の処理で常用というのは
多分ほぼやる人いないだろうし、メーカーでも動作テスト自体されてなさそう
チップセット側のコントローラなのかも？
丁度今デリバリーのマクドが届いて食事しながら観てますライスバーガーは夜マックなので残念！
夜マックは倍ダブルチーズ好きっす
ロマンしかないですね～(^^♪うまうま～(笑)
5:23 2つ目起動するの、右クリックじゃなくてホイールクリックなら一発
分岐カード見たら焼きそば思い出すwww
ありましたねw
おもしろ～い。採掘しないマシンもリグって言うのかしら
これをやれるのが凄い・・たまにマックうまいよね。ｗｗ
マック隔週で食べてますw
stable-diffusion-webui-distributed？
🤔
2080VRAM8GBで生成してるからそろそろ買い替えたくなるなあ。
2080は8万ちょっとで買った記憶があるけど今や70TiSが15万円周辺...。円安が落ち着く頃にはグラボは何世代変わってるかな😅
３番目は排他制御
M.2とかと排他なんですかね？調べてみます…
@@UDN いがいとあるよ マザボ。ぜんぶとはいわない。
MニングリグがそのままAIリグになるのはECOかもですね？
ポテトは先に減ってるよね😂
帰る途中に熱々をいただきましたw
美味しゅうございました
VRAM少ない環境ではStable Diffusion WebUI Forgeを使用してください。速度が軽く2倍以上向上しますよ。
forgeでのグラボ指定がわからなかったんですよね…
@@UDN 起動オプションで--gpu-device-id 0 と指定するだけです。
0という部分を適宜書き換えてください。
やってみます！
あざす！
VRAMは重要っていう、当たり前だけど大事な結論に行きつきましたね。
理屈だとVRAMに16GB割り振ったAPUでもいけるはずなので、奥は深そうです。
Mニングフレームいいなあ。ちょっと欲しくなってしまった。
今度APUでもやってみますん！
いにしえのMニングリグ😁
漢たちの夢の跡😁
大笑いしました
最近、忘れてた〇ットコインを換金したら、そこそこ10万くらい儲かってました🤣
次回にはクッキングコーナー復活！？
余裕があればですねw
AIリグの見た目が今やってるゲームの人間のデータ保存するアークみたいでかっこいい＾＾
ハンバーガーはバーガーキングのワッパにはまってます
バーガーキング近所に欲しい…
うどんさんのせいでグラボ買い占めがまた起こりそうで怖いので今のうちに3080を買いました。
本格的にAIやる人はゲーミンググラボ使わないので買い占めとか起きないです👌
@@UDN ただクソ安かったので買っただけです
生成速度が遅くなっちゃうなら、4080s単体の方が多く生成できちゃうね。
それw
えち絵大量に出品している人はこういうマルチGPUマシン組んでんのかなぁ
サーバー的なやつにワークステーション用グラボとか？
やはり4090単体(パワー)
4090単体(パワー)は全てを解決する
それはそれとして面白い試み！
1
乙