澎湃新闻记者邵文 在过去几年中，大规模人工智能或机器学习的限制因素首先是硬件能力，其次是复杂软件框架的可扩展性。最后一个限制与计算组件的关系不大，而与冷却处理器、加速器和存储设备有关。而随着对计算需求的持续增长，以及对削减电力成本，降低碳排放的需要，可能意味着我们要对计算系统冷却方式重新思考。 《TheNextPlatform》在近日的一篇报道中指出，液体冷却是未来人工智能发展的下一个关键点。其认为，之所以没有更广泛地讨论这一点，是因为数据中心已经具备充足的冷却能力，通常配备空调机组和标准的冷通道、热通道实施方案。对于需要一个或两个CPU的一般企业应用程序，这是可以接受的。 然而，AI训练系统不是两个CPU，而是至少有两个高端CPU和额外的四到八个GPU。功耗从普通企业级服务器的500瓦到700瓦，到单个AI训练节点的2500瓦到4500瓦之间。 想象一下这样的功耗下产生的热量，然后想象一个空调装置试图用冷空气冷却它。对于这种每机架的计算和热量密度，有一点很清楚，那就是没有办法吹出足够的空气来充分冷却地球上一些最昂贵、高性能的服务器设备。这会导致计算元素受到限制，或在极端情况下导致关闭。 同时，空气是一个糟糕的热导体，比如在寒冷的冬天，人们会觉得裸露在室外的金属块比空气更寒冷，这是因为金属是良好的热导体，它比空气从你手中带走的热量要多。同时，相比水来说，空气也无法容纳大量的热。 这时就要考虑另一个因素：服务器机架密度。 疫情期间，由于企业居家办公、学校远程教育及健康码等大量应用，数据需求量暴增。据《WealthManagement》的报道，数据中心的机房需求处于历史最高水平，最大化密度的需求正在推动新的服务器创新，但冷却只能通过在机架（可以驻留更多系统的地方）留出空隙来让空气保持跟上。在这些情况下，空气冷却不足以完成任务，同时会导致每个机架的计算量减少，服务器机房空间浪费更多。 对于在双CPU服务器上具有单核作业的普通企业系统，问题可能不会很快复杂化。但是对于密集的AI训练集群，需要大量的能量来引入冷空气，在后端捕获热量，并将其恢复到合理的温度。这种消耗远远超出了为系统本身供电所需的消耗。 那么液体冷却如何呢？联想HPC（HighPerformanceComputing，高性能计算）和AI欧洲、中东和非洲地区总监NoamRosen解释道，当你使用温水、室温水来散热来冷却组件时，你不需要冷却任何东西，无需投入能源来降低水温。当你获得进行大规模AI训练的国家实验室和数据中心的节点数时，这将变得非常重要。 Rosen在《NLP中深度学习的能量和政策考虑因素》（EnergyandPolicyConsiderationsforDeepLearninginNLP）中，通过对几种常见大型AI模型的训练进行生命周期评估，指出定量细节以比较一般企业机架级电源需求与AI训练所需的电源需求。他们检查了自然语言处理（NLP）的模型训练过程，发现NLP训练过程可以排放数百吨碳，相当于一辆普通汽车整个寿命周期排放量的近五倍。 从头开始训练新模型或将模型应用于新数据集时，由于调整现有模型所需的持续时间和计算能力，该过程会排放更多的碳。因此，研究人员建议行业和企业齐心协力，使用更高效、运行所需能源更少的硬件。Rosen表示。 Rosen具体比较了温水冷却与空气冷却，今天，可以在一个机架上安装一百多个NvidiaA100GPU，但唯一的方法是用温水冷却。相同的密度在风冷机架中是不可能的，因为所有空插槽都可以让空气冷却组件，即便如此，它也可能无法解决那么多GPU产生的热量。 根据服务器配置，温水冷却可以带走85到95的热量。Rosen解释道，由于水的允许入口温度达45C，在许多情况下，不需要耗能的冷水机，这意味着更大的节约、更低的总成本和更少的碳排放。 用水来冷却并不新鲜，它在大型主机业务中的使用已经历时几十年。但随着大型主机在数据中心中的应用慢慢减少，水冷也随之被淘汰。但目前，由于空气已经不足以冷却高功率密度设备，水或者说是液体冷却再次被提起，并被视为未来冷却数据中心的关键。 责任编辑：李跃群 校对：张亮亮
双世宠妃2今日开播孙艺宁暖心助攻甜蜜来袭星关系10月22日讯由企鹅影视出品、余洲影视承制、邢昭林、梁洁、孙艺宁等人领衔主演的古装爱情剧《双世宠妃2》于今日在腾讯视频播出，该剧延续第一部的高甜，主要讲述失忆的曲小檀与隐……RustforLinux源码导读Ref引用计数容器引子2022年，我们很可能会看到Linux内核中的实验性Rust编程语言支持成为主流。2021。12。6早上发出了更新的补丁，介绍了在内核中处理Rust的初始支持和基础设……创造101王一博袒露成长经历令人动容教导吴宣仪再掀热议《创造101》自开播以来，关注度直线上升，每位选手都受到不同程度的热议，而王一博更是在一众选手中异军突起，成为《创造101》的黑马导师，每逢节目播出必上热搜、2天5热搜的骄人成……陈粒献唱时间都知道主题曲灵动嗓音传递长情陪伴与珍惜意义星关系7月15日讯由华策集团克顿旗下好故事影视、丰璟传媒以及企鹅影视联合出品，导演钟澍佳，总编剧任宝茹、高璇，编剧周展、程雪菲共同打造，唐嫣、窦骁、杨烁领衔主演的都市情感电视剧……距七夕只剩一天，还没准备好礼物？vivoS10Pro为你上个提到vivoS系列手机，相信很多人都不会感到陌生，年轻、新潮、创新都可以说是它的代名词，而作为全新推出的产品，vivoS10Pro再次为该系列带来了新的代名词自然。与其他代名词……iPadPro12。9英寸官翻版来了！5999起，比M1版更说到苹果的官翻机，相信很多果粉有印象，这是苹果回收用户的旧机进行官方翻新后重新出售，苹果对所有Apple翻新产品都进行了检测、认证，并为其提供一年保修。最近苹果正式上架了iPa……特斯拉订购刀片电池？比亚迪回应不予置评，耐人寻味比亚迪被国人视为唯一能与特斯拉抗衡的国产新能源汽车品牌，两者之间的竞争关系一直都非常明显。近日却有消息传出，明年比亚迪将向特斯拉提供刀片电池，目前配有刀片电池的特斯拉车型已经进……去重庆旅游，有哪些旅游攻略值得推荐？网上重庆攻略很多，行程规划都很详细，我就不多说啦。今天就和大家分享重庆旅游心得，一些注意事项，避免踩雷。第一，喜闻乐见的景点注意项1。重点说在前面！！！！！！美心洋……固态U盘到底值得购买么？上手体验aigo国民好物U393说到储存文件，相信很多人第一选择网盘或者社交软件上的在线传输，但当碰到超大文件时，网盘或者在线传输就显然无法胜任，速度太慢严重影响我们的工作效率。因此，面对这个情况大多数人都会……电动车遭遇史上最严监管规定，消费者这下可以安心购买了！传统燃油车历经一百多年的发展史，其稳定性和耐用性早已在人们心中留下了不可磨灭的地位，但随着能源枯竭、大气污染越来越严重，新能源车早早地被提上了议程，近几年来，世界各地都开始疯狂……又一网站被约谈处罚据北京网信办微信公众号消息，近日，国家互联网信息办公室指导北京市互联网信息办公室依法约谈知乎网负责人，针对知乎网多次出现法律法规禁止发布或者传输的信息等问题，依据《中华人民共和……零基础如何学习互联网营销？互联网营销在百度百科上的定义如下：互联网营销也称为网络营销，就是以国际互联网络为基础，利用数字化的信息和网络媒体的交互性来实现营销目标的一种新型的市场营销方式。营销的最终……