扫码访问手机版
微信客户端扫一扫
柳大顽童
撰稿人 | 科普作者 
物理学专业的科普编辑
量子物理诺贝尔物理奖解读身边的量子力学
Newsletter
地理周刊封面
科媒对话
通过Email定期推送半月刊
微信推送
微信公众号二维码
扫码关注

将科普岛直接送达您的微信

科学最前沿:92条内容

科学有方法:45条内容

赞助内容
赞助广告
赞助广告
返回
当AI变身“吞金兽”,你的下一台电脑和全人类的科学进度都变贵了

当AI变身“吞金兽”,你的下一台电脑和全人类的科学进度都变贵了

如果你最近正打算换一部手机或重新组装一台电脑,那你一定已经发现,它们好像变得比以前贵了。这些电子产品价格升高的重要原因,是其中的随机存取存储器(RAM),也就是我们通常所说的“内存”,正在经历着一轮前所未有的疯狂涨价。

这背后的“罪魁祸首”,就是正在飞速扩张自己的人工智能(AI)。没想到,人工智能发展的红利还没来得及吃上,自己要用的资源却先被打个措手不及?其实这一点,不仅影响着日常需要使用电脑的我们,也成为了许多科学家的困扰。

内存

内存(图片来源:维基百科)

内存:“天才科学家”离不开的“办公桌”

为什么内存的价格如此引人关注?因为,它是我们的电脑中一个不可缺少的组成部分。它是一种读写速度极快(通常是纳秒量级)的存储介质,为电脑正在运行中的进程提供临时数据存储的功能。

我们可以做这样的比喻:如果说中央处理器(CPU)是一个思维敏捷、每秒能处理亿万指令的“天才科学家”,那么内存就是他面前那张用来摊开草稿纸、摆放参考书的“办公桌”。

不同于硬盘那个存储海量信息却翻找缓慢的“大档案柜”,内存的意义在于“快”和“临场感”。 无论是我们在手机App间丝滑切换,还是科研人员在AI模型中处理海量的基因序列,都要依赖内存这张“办公桌”的高速吞吐能力。

创建一个word文档时,电脑的内存和硬盘分别经历的操作。内存负责实时数据的存储,而硬盘负责最终数据的存储

创建一个word文档时,电脑的内存和硬盘分别经历的操作。内存负责实时数据的存储,而硬盘负责最终数据的存储(图片来源:SimpleScienceProductions)

当你做计算的时候,总是希望所有需要的资料都已经摆在自己抬头就能看到的地方,这就是内存为CPU做的准备工作。如果一个电脑没有足够的内存,再厉害的CPU也会因为“桌子太小、摆不下草稿纸”而不得不频频停下手中的计算,跑向远处的“档案柜”查资料。那样,你电脑运行的每一步都会卡得像PPT。

当AI “抢走”我们的内存

而就是这样一个重要的电脑硬件,最近却遇到了一次前所未有的短缺危机,甚至有人用“内存末日”来形容我们即将面临的现实。这一切都是因为,正在飞速发展的AI大模型,实在是太“贪吃”了。

AI数据中心

AI数据中心(图片来源:ServeTheHome)

与我们的家用电脑相比,AI对内存有着近乎病态的渴望:AI的“智慧”是由数以千计、甚至万亿计的参数构成的。它的处理器计算速度也快得惊人,每秒能进行千万亿次运算。

所以,AI大模型如同一个“超级天才科学家”,需要时刻摊开的万亿级图纸,要求内存像工业级输油管一样高速供数,并提供海量空间记录中间计算过程。这样一来,现有的内存产能,很快就不够用了。

不同参数量的AI大模型所需的内存大小

不同参数量的AI大模型所需的内存大小(图片来源:Local AI Master)

不仅如此,聪明的芯片厂商发现,将原本生产普通内存的产能,大规模转向单价更高、工艺更复杂的AI专用内存(HBM),可以获得更多的利润。这种产能上的“偏心”,最终又挤占了普通内存的生存空间,导致全球内存供需失衡,价格飙升。

根据国际数据公司(IDC)的分析,这场“内存危机”将持续到2027年,对手机、个人电脑的市场都造成一定的打击。

实验室里的“贫富差距”

对于我们自用的手机电脑来说,几百元的涨价虽然使人不快,但咬咬牙还算买得起,实在不行让现有的设备再坚持两年,也不是不行。但对于那些依赖大量算力资源进行科学研究的科学家,“内存危机”的影响可没那么简单。

在那些经费充足的顶尖实验室看来,或许涨的还只是账单上的数字;但还有许多资源受限的研究团队,内存的紧缺几乎成为了他们关乎生存的难题。

科学研究需要用到大量的计算资源

科学研究需要用到大量的计算资源(图片来源:UBC)

例如,印度帕拉拉克赫蒙迪森图里恩理工大学的植物病理学家Pravallika Sree Rayanoothala表示,他们的项目利用大量数据集构建的模型预测农作物的植物病害风险,而短缺促使她和同事们减少了他们研究的作物数量。

为了进一步减少云端内存服务日益昂贵的需求,Rayanoothala 和她的团队成员将数据拆分成块,分别进行建模。虽然这能完成任务,但会拖慢数据分析。这一切都在延迟农作物早期疾病预测工具的开发进展。

在非洲,资源分配不均的问题更加突显。一些研究者因为缺乏本土算力支持,不得不前往富裕国家的大学“蹭”设备。他们待上几个月,分析完数据,最后只能带着一份PDF报告离开。内存危机正在加剧这种全球科研能力的极化。

GRIT Lab Africa是南非的一所非营利研究机构。他们获得了人工智能业界对其研究的支持,因此没有受到内存短缺危机的影响。但其它无法获得资助的学校或机构就没有那么幸运了。

GRIT Lab Africa是南非的一所非营利研究机构。他们获得了人工智能业界对其研究的支持,因此没有受到内存短缺危机的影响。但其它无法获得资助的学校或机构就没有那么幸运了。(图片来源:GRIT Lab Africa)

被逼出来的“节约之道”

古人云:“穷则变,变则通。”内存危机虽然令人头疼,但也成为了创新的催化剂。

过去,内存都很便宜,所以没有人有动力去节约它。而现在,科学家们开始思考:如果我们不能买更多的内存,能不能少用一点?因此一些研究人员正在被迫重新审视代码,开发更精简、更高效的算法,以在更小的内存空间内运行。

另外,硬件的“结构改革”也可能提升效率:传统的计算机设计中,内存和处理器是分开的,数据在两者之间搬运会浪费大量时间和能量。为了改善这种情况,科学家提出了一种“近内存设计”——将计算功能直接整合进内存芯片。

(a)传统计算系统:在中央处理器(CPU)中对数据执行操作;(b)近内存设计:在数据的附近计算,而 CPU 主要作为控制单元运行。

(a)传统计算系统:在中央处理器(CPU)中对数据执行操作;(b)近内存设计:在数据的附近计算,而 CPU 主要作为控制单元运行。(图片来源:Asif Ali Khan et. Al)

而依赖传感器数据的科学家使他们的传感器从“全天候待机”转向“触发式启动”。只有在需要时才生成和处理数据,从而从源头上减轻内存的压力。

“内存末日”确实给科研进度蒙上了阴影,但它也打破了科研界对廉价硬件的依赖惯性。

这场危机或许也是一个契机,推动计算机架构和算法走向一个更高效、更绿色、更智能的新时代。毕竟,人类智慧的“内存”,永远不会因为芯片短缺而停止运转。

参考资料:
特别声明:以上文章资讯内容(含文字、图片、视频)不代表科普岛平台的观点或立场。如有关于作品内容、版权或其它问题请于作品发布后的30日内与科普岛联系。
本文在以下平台有分发:
我来评论
我来评论 举报和反馈
最新评论 已精选评论
猜你喜欢
南州六月荔枝丹
科学小品
南州六月荔枝丹
本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献
作者:陈绍文
书架
南州六月荔枝丹
科普图书
南州六月荔枝丹
本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献...
作者:贾祖璋
收藏
南州六月荔枝丹
推荐商品
自营 藏在地图里的中国地理百科+世界地理百科全
本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献...
出版社:人民教育出版社
自然教育
地球家园
¥75.5 到手价 ¥99
南州六月荔枝丹
科普活动
自营 藏在地图里的中国地理百科+世界地理百科全
本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献本文点明荔枝为中国原产拥有两千多年栽培史与珍贵文献
主讲人:李四光
自然教育
地球家园
收藏
请用微信扫描下方二维码 ×
打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。
赞赏
给撰稿人打个赏
1元
2元
5元
赠1张推荐票
10元
赠2张推荐票
20元
赠4张推荐票
50元
赠10张推荐票
发表成功
分享
分享至微信朋友圈
X
微信扫码支付
请打开[微信扫一扫]扫描上方二维码完成支付
好的内容,值得赞赏
2
举报与反馈原因
* 建议您填写电话和留言对象信息,将有助于我们尽快解决您提出的问题,并及时与您沟通。
E-mail:
姓名:
电话:
赞赏成功
确定
点击任意位置关闭