抢电、圈地、对赌，深聊科技巨头的千亿美元AI能源大战
Vložit
- čas přidán 2. 06. 2024
- 大家是否意识到，AI发展时的巨大能源消耗？有爆料称微软在帮OpenAI训练GPT-6时，一不小心还把电网搞崩了；使用AI画一张图的电，也足够你充满手机。但这种情况不过是个开始，各大巨头也因AI军备竞赛，纷纷抢建数据中心，从抢芯片变成了抢能源。千亿美元投资背后，释放着怎样的信号？巨头又该如何应对呢？这期视频我们从微软能源战略部、数据中心专家及核电公司CEO三个不同角度进行了采访，深度聊聊生成式AI背后的能源大战和紧迫的用电荒。
你会看到：
00:00 - 01:31 AGI的尽头是能源？巨头拉响能源大战
01:32 - 05:04 AI训练与推理：信息处理的能量成本
05:05 - 09:05 万卡数据中心：芯片与散热堆砌的吞电巨兽
09:06 - 12:23 能源短缺：美国落后基建与飙升的需求
12:24 - 14:41 千亿投资：微软与OpenAI布局吉瓦级超算中心
14:42 - 18:31 优化方案：芯片能效与液冷技术
18:31 - 21:04 现实瓶颈：芯片短缺与激烈竞争
21:05 - 26:04 终极方案：巨头布局可控核聚变
26:05 - 29:57 环境挑战：碳中和成本翻倍？
【关于硅谷101】
我们是由海内外一线媒体记者/主持人创办的栏目，深度解析硅谷创新趋势，以轻松的风格分享科技行业的最新动态。我们采过顶级科技大佬，积累了数万小时的媒体经验，做过调查性报道，操盘过千万级传播量的知名深度稿，引发全国讨论和微博热搜；致力于将最专业的媒体素养和信息搜集能力转化为易传播的新媒体力量。
关注我们，从这里驶向未来。
联系我们：video@sv101.net
【往期精彩视频】
【独家专访】诺奖得主Katalin Karikó：被威胁、冷落和打压40年后，那位“mRNA疯女人”拯救了数亿生命
• 【独家专访】诺奖得主Katalin Kari...
【深度】世纪骗局落幕：“加密货币之王”SBF的疯狂人生与FTX帝国的崩塌
• 【深度】世纪骗局落幕：“加密货币之王”SBF...
英伟达GTC 2024: 绝对霸主的权力与遥远的野心
• 英伟达GTC 2024: 绝对霸主的权力与遥...
从Sora展开，全面解读AI视频大模型发展史
• 从Sora展开，全面解读AI视频大模型发展史（上）
各方大佬 “大打出手”：Sora是万众期待的“世界模型”吗？
• 各方大佬 “大打出手”：Sora是万众期待的...
【深度】聊聊AI机器人为什么发展如此缓慢【有彩蛋哟🎉】
• 【深度】聊聊AI机器人为什么发展如此缓慢【有...
【深度】OpenAI成长史：顶级资本的冲突与科技大佬们的理想主义
• 【深度】OpenAI成长史：顶级资本的冲突与...
【硬核】在诉讼与骂名中崛起的英伟达GPU：从未停止过战斗，也没有永远的朋友
• 【硬核】在诉讼与骂名中崛起的英伟达GPU：从...
【深度】聊聊科技四巨头的研发与XR行业的兴衰沉浮
• 苹果Vision Pro来了，聊聊科技四巨头...
拉斯维加斯百亿网红球Sphere，承载着"纽约恶人"豪门富二代的继承枷锁与救赎
• 拉斯维加斯百亿网红球Sphere，承载着"纽...
生成式AI这一年：从群雄混战到生态确立，世界已被改变
• 生成式AI这一年：从群雄混战到生态确立，世界...
为马斯克减重30磅的“司美格鲁肽”：毒蜥蜴，琵琶鱼，41年和数十亿美元｜生物科技特辑（1）
• 为马斯克减重30磅的“司美格鲁肽”：毒蜥蜴，...
“全球市值第三车企”VinFast：越南首富的美国梦，惊叹和荣耀只有16个交易日
• “全球市值第三车企”VinFast：越南首富... - Věda a technologie
时间轴来咯（视频中嘉宾介绍有个typo，重新汇总一下本期视频的采访嘉宾：John Yue，Inference.ai创始人兼首席执行官www.inference.ai/ ；徐熠兴（Ethan），微软能源战略部资深项目经理；项江，瀚海聚能CEO），你会看到：
00:00 - 01:31 AGI的尽头是能源？巨头拉响能源大战
01:32 - 05:04 AI训练与推理：信息处理的能量成本
05:05 - 09:05 万卡数据中心：芯片与散热堆砌的吞电巨兽
09:06 - 12:23 能源短缺：美国落后基建与飙升的需求
12:24 - 14:41 千亿投资：微软与OpenAI布局吉瓦级超算中心
14:42 - 18:31 优化方案：芯片能效与液冷技术
18:31 - 21:04 现实瓶颈：芯片短缺与激烈竞争
21:05 - 26:04 终极方案：巨头布局可控核聚变
26:05 - 29:57 环境挑战：碳中和成本翻倍？
近期有诈骗团伙冒充账号，我们没有抖音或Tiktok个人账号，也不会以任何方式推荐任何投资或要求任何方式转账，请各位谨慎
要是我老婆就好了
😅😅
非常棒的一集， 启发性高和干货满满。加油！
依舊是高質量的一集👍👍👍
报导一如往常高质专业。赞！
每一期都制作精良，内容满满
个人目光所及，内容想你所想，无敌的全面。大赞！👍
🌹 谢谢支持 😊
專業的報導和講解。
太好看了 謝謝❤ 我邊看邊感慨 這麼好的節目是可以免費看的嗎 太謝謝了
😊😊❤❤
可以打赏❤
绝对是YT上最满的专业频道
干货满满的一期。。。很棒！
支持茜茜 视频太棒了🎉 下回能不能出个视频介绍一下 电力行业的一些主要的player 以及他们的商业模式
非常專業的頻道
節目做的很好 很專業 讚👍
视频剪的不错👍 我去年在linkin 随便逼逼两句 果然开卷
谢谢茜茜分享，视频太棒了 😆下回能不能出个视频介绍一下 电力行业的一些主要的player 以及整个市场格局
视频真厉害 已订阅
这就是军备竞赛，你有核武器，我不能没有。Ai在效率上带来的提升是跨时代的，就像工业革命开始了就回不去了。本质上我觉得能源应该之只是阵痛，新的技术出现一定会伴着新的需求，这反而倒逼那些行业的快速发展，最后这些还是会造福大家的，我可能比较乐观点，哈哈哈。就像工业革命虽然给世界带来了很多的问题，不过物质端也解决了很多问题。但人的心灵问题其实又被放大了，人被原子化，齿轮化，商业化。ai出现我觉得最大的问题是，可能在未来一段时间里面，人连作为螺丝钉的价值都没有了，那时人将要面临更加恐怖的内在世界的拷问。
不要开源，一旦开源，某国又说遥遥领先了！
@@mingfan8320 墙国特色，b站上一堆蠢货还在那吹超高压呢，甚至还会讲中国技术先进，不带美国玩
無節制的 AI 算力競爭，最後會將人給淘汰掉了，只留下少數人類精英存活與AI 共生。
大量魯蛇的出現會製造社會不穩定，社會矛盾擴大才是最麻煩的問題
真的非常專業👍
關注了 加油喔🎉❤
喜歡你的節目，
给陈妹妹点赞，非常优异的节目。。😊🌹
陈茜，这期做得非常棒，背后一定做了很多功课。加油！ Matt
Thanks Matt! 🙏
滿滿技術點，謝謝
很专业!
一条与AI有关的产业链清晰的铺在了大家面前 👍
这位女士讲得真好，点赞！！！
講得好！🎉🎉🎉
谢谢分享！
耗費這麼多的資金與能源甚至犧牲環境保護 最終只是讓AI做到跟人類差不多的思考與對話能力 而最終很可能也只是為我們帶來更多的失業與貧富不均 想想人類只要幾片麵包或幾個便當 就能維持一整天的算力 就能做到我們希望AI能做到的事情 我們真該思考怎樣做 才是對地球與人類真正有益的事情
你也可以思考人類的出現對於地球運行的年份才多久，或許這些事情根本不足以掛齒
把握最新資訊，節目做得很好，能否介紹幾家美國電力公司🎉❤
謝謝你❤
AI比起電動車更是國運之爭，軍備競賽的目的不是花多少錢走多遠，而是在拉開與對手的相對距離
謝謝，將大力投資電力股票!
我只知道STRL,还有哪些股啊
不错不错
@@xiaolanhuang7913nrp vst
Ytlpower malaysia.
这里在建很多data center
好看爱看多发，已三连
非常棒
這和當年國内那些小水電挖比特幣的礦場是一模一樣的概念，都是非常簡單又需要巨大計算能力的活計，適合中國西南地區和西北地區，想想看僅西北電網的綠電發電能力就相當於整個美國發電能力的一半，電價便宜到爆
东数西算，球数中算。
@@wohetang 中國電網連接的發電功率大概是美國的四倍，年發電量大概是美國的兩倍+，除偏僻地區的孤立小電站外是一個可以統一調度的中國+東南亞連通的洲域大網，而且發電和輸電硬件還在快速增加，例如現在有25座核電站同時在建...真是地球上最可怕的存在，另外中國公司也在巴西複製一個中國電網的小號版本：主幹由±800KV輸電綫連接的統一大電網，美洲公司也許可以去巴西建數據中心。
中國電建宣😎
好老派的想法，核能其實是最安全的電力來源
AI已经不是技术竞争了，而是资源争夺，本质是资本竞争，最后不管哪家公司赢，普通人都是输。
大实话
太棒了！
AI产生的问题让AI自己来解决
那就让马斯克，把太空太阳能发电站发到太空，然后在平流层搞一个浮动的飞艇的AI计算机，可以接受发电站的微波电能，还有用星链做传输数据。
专业！！
清潔能源、環保♻️、碳中和等等，最終解決方法，核聚變生電
建議學Frankenstein (科學怪人)，採集天雷發電。
核聚变太远了，目前最好的方式就是太阳能和锂电存储，这方面中国占尽优势
未来绝对是核能和绿能，这是不容置疑的，更看好核能，稳定供能，中美现在都在发展小型核电站即smr，未来数据中心旁边就会有一个smr（小型模块化核反应堆）
Thanks!
那應該要找比gpu更省電的技術，cim是最佳解嗎？
人类互相打来打去,一味的竞争和发展,人们生活究竟需要的是什么? 这些真的是我们生存所必要的吗? 背水一战, 这一战我们为何而打, 又是否真的能打赢.
人类是能源最可持续的人工智能，而且它也有一颗心。
helion不需要烧开水驱动涡轮发电，可以小型分布化。具有跨时代的意义，不仅仅可以用于发电🎉
不少熱水也繞不過熱機……
我提议搞个戴森球😂😂
好像AI 的一個大標桿 是比同行、他國快一點，一個永無止境的目標。代價又是隨之而漲，能不能請AI先算一算，值嗎？
感謝您和團隊的製作，考慮到方方面面，多謝!
有時間、興趣做其他領域，如新聞或小說的介紹等等? 不要讓我們等太久!
博主关于能耗的计算是电路损耗，不是功能性消耗，正确的计算是电压乘以电流才是正确的算法
人類正在建立自己的 Akashic records (阿卡夏記錄)
要省電 , 就要統一做 , 所有的訓練國家統一做 , 一年做一次. 免費的推理只有一套 , 特殊推理使用者付費. 這樣可以暫時省電, 一直等到電網升級時 , 再開放給市場自由競爭 . 要不然就要等光子計算成熟了, 可能耗電量會省一點.
本期報導雖然沒有很顯著的亮點 , 但在議題的各方面的完善性是非常高的 , 值得嘉獎與鼓勵 .
最喜歡茜茜姐了！
敲碗等一個 IDC 配套溫泉 😂
可以打造太空数据中心，直接太阳能取电，训练
我觉得是时候大力研发动力推进技术，走出大气圈，进入太阳圈，建造戴森环！！！
超导，散热方面应该有机会。
生產高端晶片也是耗電
要比手術室還乾淨的水和空氣，要打出極紫外光
都是高耗能
我觉得央视的科普都不如这个讲的实在。
AI蕊片增加温室效應, 與人類減碳大方向背道而馳, 最有希望的解決方法應該是量子蕊片吧,
量子芯片目前耗能更高，维持量子态的能力与设施都是惊人的昂贵
駭客任務把人類當成AI機械大軍的電池，已經預言AI發展最終必然得面對的問題
在北美做挖矿的，找电太难了，尤其是不用建变电站的那种，还得要求电价低，比做ai还难😂，有没有ai做数据中心的还招人的
马来西亚最近就很多数据中心投资 电力股 就特别猛😅
Very informative and great Data for my stock trading.
However, boring.
支持
本視頻漏掉談到Attention mechanism在AI能源耗電中的作用，簡單來說，Attention mechanism可以讓模型有能力在處理序列資料時，專注於重要的部分，從而提高性能。然而，這也意味著模型需要額外的計算來計算注意力權重，這就增加了能源消耗。
感谢补充！
還輯閉環@@TheValley101
如果未來真的發生能源短缺 , "能源回收"便會有爆發性的發展
將Data Center 送上太空軌道或月球上如何 ？
用核能供電，用真空環境冷卻，就不用考慮大氣溫室效應的問題了，不是嗎？
想法很棒
美女，满满的干货，感谢。
小姐姐太牛了
AI大模型我总觉得可以叫AI大魔王😂
這碳稅得好好的算，用力的抽，溫室效應不能因為ai的發展而更差。
有广度，有深度，赞👍。可惜人类不会停下脚步，人类也终会吃下恶果。
沒事 地球有他運行的命運 人類出現的時間佔據目前地球運行的年份根本不足掛齒
反正終究會到下一個新紀元
好好享受當下才是最棒的
有意思
第一，用GPU(图形图像处理器)来进行AI计算，本身就是一个错误，或者说，只是一个取巧的办法。英伟达做的，就是不断地提高GPU中的晶体管数量，来提高其AI算力，这条路线是错的，走不长的。应该为AI计算专门开发出一个APU，其晶体管数量比GPU低几个数量级，但是其AI算力却比GPU高几个数量级。一句话，就是拿它来做AI计算，其效率极高。第二，可以把AI计算中心，建设于类似三峡水库的水底下。一是可以利用三峡的发电，有充足的电力供应。二是可以利用长江的自然水流，来冷却计算中心的设备，无需额外耗电来冷却。第三，可控核聚变，据大多数核专家的看法，那是50年后的事情。2028年绝无可能做出来，估计这只是一个资本圈钱的骗局，我们要脑子清楚一点，不能跟风。
硅谷有一家上市公司代碼GSIT就是你所講的APU開發者，目前股價在$3～$10美圓中間徘徊，依照當今的科技發展速度可能10年就能達到市場普及，量產也許能很快超越英偉達。
@@annwellintongton 至少中国不能走英伟达的路，否则就只能永远跟在人家屁股后面。中国一定要开发出自己的APU，用28纳米的制程做成的芯片，其性能还超过英伟达的A100。
Apu都在做。但是首先是没有软件生态适配。其次单颗apu能力再强也受reticle size限制，所以未来一定是计算单元的集群共享内存。这方面英伟达做的最领先。
戴森球计划，启动
赞👍
你和那位说金融的姐姐有的一比❤😂
那个姐姐
这个衣服 好看！显身材
有想要因此试试看把相关股票纳入自己的portfolio的话，不妨看一眼VRT。我持有一点点。不构成任何建议。
为什么电动车火热时又没人说拉响充电能源战？
AI写一行字就需要读完一套百科全书，写两行就的读两次，那这么不耗电呢？不过如果AI能代替其他的工作比如一个作家不需要在游网做research, 不需要开车到处找参考资料，不必花长时间做PowerPoint；这些省下来的能元可能可以低消一些AI的耗电量。
如果是中產及之上，那你應該投資能源與AI類股；如果是之下，那你該開始參與反AI的社會運動，或是無條件基本收入的倡議當中，等到AI升級完實體生產工具、資源分配又沒改善，那你的後代一定完蛋，所以最後我的建議是不要生育。
美国有好几家公司在研究集装箱大小的核电站，据说快商用了，今后每家公司办公楼放几个像柴油发动机那样的集装箱就可以了
Oklo就是其中一个，刚刚完成ipo上市
中国2019电解铝估算耗电：4850.6 亿kWh， 约等于 485,060,000 MWh。 训练gpt3 才需要1300MWh。 所以？
突然就對AI無感了，感覺它要到達真正對社會產生淨正面貢獻的時日還差得遠
解答了我对巴菲特要投资Alberta的原因了
碳排放不够遭，还得上电热毯，就为了算无数个一加零，真是不作不死，真好玩
沒想到，AI產業的能耗如此驚人！
在能源來源及環境保護的兩大困境中，高科技AI如何才能突破，達到所謂碳中和的目標呢？
依據經驗，通常先讓科技業盈利，然後才會有突破這兩點困境的機會出現。
很簡單，核能。
@@tommymairo8964 核能，只能作為短期的發電運用，因為地球核燃料也是很有限的。若能開發出核融合或核聚變，那麼地球的能源就能夠無虞了！
可惜了，要不是摩根這大畜作死抽走了特斯拉開發無限能源的銀根，地球今日或許早已經開始使用地球自轉發電的電力了。
碳中和很重要，如果环境再这样恶劣下去，资源一定会变少的，比如粮食和水
直接把服务器发到太空去，建成‘天算’人工智能中心！
它們產生的熱能會否摧毀地球生態!是否應該放在月球或離地球遠點的太空?
哈！我也是這麼寫的，不知道您早寫出來了，是啊，去月球人類又多了一個理由。
但凡有点常识的计算也知道不可能生成一张图片会耗掉一个手机的电量生成一张图片只需要4090几秒钟的功耗几秒钟的4090只相当于300瓦或400瓦小时的六十分之一手机的电量是5500mAh但是怎么算也不可能是一台手机可能是五十分之一的手机电量吧
数据引用来源是Hugging Face 和卡内基梅隆大学的一个论文研究，感兴趣可以搜搜～
www.technologyreview.com/2023/12/01/1084189/making-an-image-with-generative-ai-uses-as-much-energy-as-charging-your-phone/amp/
Nearly all Nvidia AI hardware suppliers are Taiwan-based, liquid cooling and much more
5nm,3nm,2nm,1nm 越小能耗越少 他们需要越做越小
未来是能源争夺之战
看看英伟达的ai计算卡功耗，看看intel amd的cpu 最高功耗都是几百w了，就知道。
Large power demand derived from AI training and inferencing will definitely affect power supply in the country and probably will be under governance by the local government. If that is not happen, the large laid off of both office worker and blue collar after AI revolution will also lead to government interference in the market.
17:29 Supermicro, not Super Macro
那下一期讲讲核能☢️的最新发展？
我们的播客有详细聊到，可以在苹果播客搜硅谷101 😊