发布时间: 2024-04-30 08:00:00
-
你知道每使用一次ChatGPT,OpenAI需要交多少电费吗?前阵子模型微调平台OpenPipe创始人Kyle Corbitt爆料称,如果在美国一个州内使用超过10万个H100芯片,就会使电网瘫痪。英国、爱尔兰等国家也已经在限制AI数据中心对电力系统的占用。
在新技术诞生和应用的历史潮流中,我们经常发现,技术本身并非是最大的障碍,往往伴随而来的是对现有基础设施建设的挑战,比如家家户户会用到的电力系统。
所以AI巨头们的竞赛,不仅仅要囤芯片,还需要屯变压器,还要抢电。未来3-5年内,AI带来的电力短缺到底有多少?如果大基建跟不上,巨头们的解决方案还有哪些?我们今天就来掀开数据中心的电表看一看。
【主播】
泓君Jane,硅谷101创始人,播客主理人
【嘉宾】
徐熠兴(Ethan),微软能源战略部资深项目经理
项江,瀚海聚能CEO
【你将听到】
「AI用电荒」
01:52 AI耗电现状:美国的AI数据中心当前耗电量堪比纽约市
03:05 未来电力需求预测,电力单位的概念解释
06:00 OpenAI导致微软电网崩溃?AI用电的特殊性和波动性,对传统电网设计的冲击
11:25 美国电力行业面临的挑战:未来三五年,AI会和居民抢电吗?
16:10 AI意外加重了能源转型的负担:电力将成为AI发展的新瓶颈
17:43 硅谷公司们怎么布局数据中心?短期靠抢电,长期选址时考虑与电力公司的合作
22:19 中国当前的电力供应结构:几种发电方式、基础设施建设能力相对好
「能源现状与解决办法」
25:45 中国先进核能的“三步走”规划:热堆、快堆、核聚变堆
27:00 科技巨头们的新难题:既要考虑气候变化又要发展AI,真贵
29:43 AI消耗的能源有可能减少吗?AI训练数据耗尽 or GPU的效率提高
35:36 核能作为未来能源解决方案的潜力:几种清洁能源的成本对比
39:28 核裂变vs核聚变,选谁?
42:57 什么时候能用上核聚变发的电?科学问题差不多了,还是巨大的成本问题
48:16 Helion Energy与微软的对赌协议
50:04 核聚变公司的几大流派
「未来对策」
53:00 美国、中国和欧洲数据中心的选址问题:数据资产、东数西算
55:42 电网负担的解决方案:能源转型、分布式储能
59:00 AI和能源行业相辅相成:AI赋能核聚变
【名词解释】
电力单位换算
电量单位:千瓦时(kWh)、度
电力单位:千瓦(KW)、兆瓦(MW)、吉瓦(GW)
1 GW(吉瓦) = 103 MW(兆瓦)
= 106 KW (千瓦)
= 109W(瓦特)
「星际之门」计划:微软与 OpenAI开发的全新人工智能超级计算机,计划投入 1000 亿美元,配备数百万专用AI芯片,以提供前所未有的计算能力,预计于2028年完成。
东数西算工程:“数”指的是数据,“算”指的是算力。“东数西算”是通过构建数据中心、云计算、大数据一体化的新型算力网络体系,将东部算力需求有序引导到西部,优化数据中心建设布局,促进东西部协同联动,于2022年2月正式启动。
「托克马克」:托克马克(Tokamak)是一种环形容器,它通过约束电磁波驱动,创造氘、氚实现聚变的环境和超高温,并实现人类对核聚变反应的控制。托卡马克的名字来源于环形(toroidal)、真空室(kamera)、磁(magnet)和线圈(kotushka)这几个俄语单词的结合,目前是实现可控核聚变的主流方式。中国科学家设计并建成的EAST(Experimental Advanced Superconducting Tokamak,全超导托卡马克核聚变实验装置)是这一领域的一个突出成就。
「氘氘(D-D)反应」&「氘氚(D-T)反应」:是指氢的两种同位素氘(Deuterium,化学符号D)和氚(Tritium,化学符号T)之间发生的核聚变反应。氘氘反应是指两个氘原子核聚合在一起,生成一个氦原子核和一个中子,同时释放出能量。这种反应在自然界中很少见,但在实验室条件下可以被诱发。氘氚反应是将氘核与氚核碰撞而产生的核聚变反应,它是目前研究中最容易实现的核聚变方式之一。
「Helion Energy」:一家总部位于华盛顿州雷德蒙德市的核聚变公司,专注于开发磁惯约束性聚变(MIF)技术。微软是其长期合作伙伴,计划在未来五年内从Helion购买电力。
「CFS」:全称Commonwealth Fusion Systems,一家美国核聚变发电公司,从麻省理工学院分拆出来后,于 2018 年在马萨诸塞州剑桥市成立。其既定目标是建造一座基于ARC托克马克设计的小型聚变发电厂。
「BEV」:全称Breakthrough Energy Ventures,是由比尔·盖茨牵头成立的投资公司,专注于投资清洁能源创新科技,以应对气候变化所带来的挑战。该基金成立于2016年12月12日。
【后期】
Amei
【BGM】
Listen to the Forest Weep - Hanna Lindgren
Morning Breaks - David Celeste
【在这里找到我们】
公众号:硅谷101
收听渠道:苹果|小宇宙|喜马拉雅|蜻蜓FM|网易云音乐|QQ音乐|荔枝播客
海外用户:Apple Podcast|Spotify|TuneIn|Youtube|Amazon Music
联系我们:[email protected]
本期节目仅代表嘉宾个人观点
Special Guests: 徐熠兴 and 项江.
-
一如既往的高质量输出
某戴同学@小宇宙 (24-04-30
12:42,天津)
-
核聚变快了吗??
团子的爸@小宇宙 (24-04-30
12:40,未知)
-
AI到底有多耗电这个问题始终没有被讨论清楚,就在一个模糊的结论中继续往前了。最近很火的,ChatGPT每天耗电50万度,这个耗电量大吗?每天50万度电,每小时的功率也就2万千瓦,对比起来,厦门这样一个二线城市,2023年最高负荷700万千瓦+,平均负荷400万千瓦+,2万千瓦连零头都不到。换种计算方式,陆上风电机组单台功率在0.2万千瓦左右,ChatGPT这样一个全球top 1级别的产品,也就十台风电机组满发就能满足,现在随便一个风电场装机都是大几万到几十万千瓦起步了,何况数据中心这种波动小、需求稳定(意味着简单)的负荷已经很优质了。电力行业已经存在100多年了,早就进入了需求驱动的状态,所以电力真的会制约AI的发展吗?
2
HD953518q@小宇宙 (24-04-30
09:55,)
-
楼主对负荷的讨论十分充分,但是个人认为更难解决的是电网如何灵活满足短时内波动巨大的需求(比如AI算力对电力在几秒内飙升又回落)。因为电网需要保持实时平衡,这就意味着发电设施需要在负荷在突然飙升的时候找到匹配可调度的发电机组(调峰机组)或者储能,使其开始发电或释放电力资源。这样的灵活性机组在电网系统内实际是有限的,(比如很多CCGT气电机组)而且因为一年内多数时间不会启用,它们的利用小时数偏低,光靠发电收益的话其实很难回本,开发商也不愿意去投资的。而电力系统本身因为碳中和转型也在加入和渗透更多可再生能源,光伏风电本身很难按照煤电气电在可控时间按可控量去发电,他们本身也是一种波动性的电力供应,也给供给侧增加了许多不确定醒
兿甄Stella@小宇宙 (24-04-30
10:35,北京)
-
需要vpp的发展,电力深度改革,市场介入
顾晓林@小宇宙 (24-04-30
11:04,江苏)
-
“ChatGPT耗电”你知道你在说什么嘛?是训练、还是推理用电?具体是哪一个模型?
ttya@小宇宙 (24-04-30
11:59,广东)
-
之前听过一个比较好玩的说法是有一个东西在为自己的出生推一把
1
孤寡老人_mX3H@小宇宙 (24-04-30
09:36,广东)
-
550W吗
椰栗仁儿@小宇宙 (24-04-30
12:49,北京)
-
太好了
happily@小宇宙 (24-04-30
09:34,山东)
-
谢谢。
CC023@小宇宙 (24-04-30
09:25,江苏)
-
30:22 泓君问的问题真的太到位了…这期真的高质量👍👍
1
辛钦@小宇宙 (24-04-30
09:04,美国)
-
第四
Whisper_Xqsi@小宇宙 (24-04-30
08:48,上海)
-
第三
ccckino@小宇宙 (24-04-30
08:31,上海)
-
09:32 所以我理解嘉宾也不清楚为啥会出现这样的大幅波动 只能推测
Ragnar瑞哥那@小宇宙 (24-04-30
08:28,上海)
-
第二
1
Gyia@小宇宙 (24-04-30
08:24,陕西)
-
来啦,第一☝️
斯多葛学派@小宇宙 (24-04-30
08:20,重庆)