手机浏览器扫描二维码访问
“算力是AI世界发展的基础,而算力的瓶颈归根到底还是电力....”
“根据ChatGPT原国外团队,提供的数据来说,他们的AI大模型训练,电力需求将以每年约10%的速度增长,能耗将为常规云工作的三倍。”
“而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。而我们的1%,在这一方面,即便服务器使用的相对来说比运算量的ChatGPT要少30%,这一年来的运转下来,我们的用电量依旧是相当惊人的。”
“是的,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本直接3100元直接飙升到元,大涨3倍。”
“你还没有算应对为运行日益能源密集型工作负载的计算机服务器组群供电和散热而产生的额外成本。”
“以目前的形式来看,大厦的回收电量勉强能够支撑部分支出,但是到了冬日....”
“据全球最大商业房地产服务公司统计,数据中心客户囊括了小型企业到大型云服务供应商,目前消耗电力的速度快于数据中心运营商扩展容量的速度。由于人工智能用例的增加,供应限制日益严重,导致数据中心收取的价格更是离谱,显然这个方案是不可行的。”
.......
在ly大厦的一间会议室中,大家为1%“吃电”的大模型服务器,而感到头疼。
何依霖看着会计送过来的账单,竖起了眉头。“技术开发那块现在怎么说了?”
“可使用高度优化、甚至是更简单、更专业的小型神经网络模型来降低数据中心成本,方法是减少云端的模型规模,将海量参数网络用于快速训练较小的模型,并将工作负载完全移出云端,从而将生成式AI应用程序更加经济高效地分发给智能手机、PC、车辆和移动XR产品等分布式平台上运行。”技术部总监说道。
何依霖在桌子上敲动着手指,对这一块拿不定主意,他技术方面得仰仗李奥才行啊。
“随着消费者使用量的增加,成本将不可避免地攀升。将计算转移到边缘,并将其分配给PC、智能手机和XR设备等客户端是降低资本和运营成本的关键途径。”技术部总监又补充说明道。
“通俗的来说....就是现在人工智能的潜力是无限的,但物理和成本最终可能是界限。”何依霖概括的说道。
“是的。”技术部总监点头说道。
按照当前的技术路线和发展模式,1%必将引发两个问题:一方面,数据中心的规模将会越来越庞大,其功耗也随之水涨船高,且运行越来越缓慢。
另一方面,AI芯片朝高算力、高集成方向演进,依靠制程工艺来支撑峰值算力的增长,制程越来越先进,其功耗和水耗也越来越大。
这时,李奥打来了电话。
何依霖的烦恼顿时烟消云散,今天是李奥出院的日子,今天早上还发微信过来说过几天来新家过生日派对呢。
何依霖赶忙接起,刚接通,就听到李奥近乎咆哮的声音。
“他妈的,我要你从现在开始,以任何手段,针对深控这个狗娘养的,我要穆家从此再无翻身之日,马勒戈壁的。艹!!”
万人迷:电竞主播她深陷修罗场 快穿之那个女配每天都在摆烂 闪婚当天,后妈把霸总强推了 将军府之唐宁传 钓仙之我觉醒了神级道种 盗墓:七岁小爷,开局发丘天官 老公对我冷冰冰,上司对我火辣辣 重生大明只想养老系统要征服天下 深渊入侵,我执掌暗黑权柄 开局:获得逍遥派传承 钢铁雄心:时空征途 贫僧很硬 曙光战 出名要趁早(娱乐圈) 离婚后,团宠大佬疯狂掉马甲 西楼第一梦 应龙再世 琵琶骨 偷听奶团心声,全城豪门都在崩人设 抗战:反扫荡后,我带回个独立师
主角小时候出去过一趟,回来后留下了没法儿碰菜刀的毛病。进入无限世界,逐渐变强,逐渐解开心结,唔,或者说是这毛病越来越严重。主角是古武强化,兼修煞气和枪械...
双重生夜千璃借体重生,本想痛改前非,好好的报报仇,然后在养养徒弟,结果徒弟越养越歪。不仅感叹这徒弟实在是不好养魔君顾祁重活一世,怎么也不明白为何上辈子手刃自己的仇人,如今却成了自己的师傅!而且这师傅似乎脑子不好使宠徒狂魔夜千璃,永远也不会知道自己心心念念,放在心尖尖的乖徒弟,从头到尾都只想要她的命...
要种地,就种得大一点收废站老板胡途,以废铁价格收购的黑色莲台,竟是空间宝物。宝物低调辅助,开启开挂人生。他擅长种地,种出一个小世界他钟爱艺术,制作一件件国宝级艺术品他敢于冒险,上天下海无所不能他探墓挖宝,挖出一面面飞扬的锦旗...
上一世,沈辞死在替嫁后的第四年。死得凄惨又委屈。只因为正主回来,她这个冒牌货就要死无葬身之地!这一世,惹不起,我还躲不起吗?沈辞只想离这些人都远远的,一心一意地修仙得道。某人却偏偏紧追不舍。沈辞修仙已经这么难,别烦我!某人双修不难啊!这是一篇前虐后虐,但还是甜甜甜的修仙文。书友群27236360欢迎小可爱们来聊聊八卦谈谈人生˙▽˙...
...
又名我的七个姐姐风华绝代叶凡下山之后,七个姐姐赶来迎接,大姐陆楚曼,霸道总裁二姐居秋白,极品医生三姐沈冰,特殊职业四姐顾安然,绝色明星五姐童萱,童颜杀手六姐明如蓉,身份成谜七姐阮雨竹,国际空姐...