多管齐下让人工智能更节能
世界经济论坛官网近日报道指出,多管为让人工智能(AI)发挥其变革潜力、齐下提高生产力水平及社会福祉,让人淄博市某某矿山设备有限公司人类必须确保它可持续地发展。工智这一愿景面临的多管核心难题在于,随着算力和性能的齐下不断提升,能耗也在快速增长。让人
AI生态系统,工智从硬件、多管训练协议到操作技术,齐下都会耗费大量能源。让人淄博市某某矿山设备有限公司鉴于此,工智科学家正在设法让其更节能。多管措施包括改变AI的齐下运行策略、研制更节能的让人算法和芯片等。
能源“吞金兽”
AI是能源密集型技术。它究竟有多耗能?数据给出了答案。
据法国《回声报》网站报道,AI平台“抱抱脸”研究员兼环境问题主管萨沙·卢乔尼表示,Midjourney或Dall-E等AI算法生成一张图片消耗的电力,相当于给一部智能手机充满电。一块英伟达H100型图形处理单元一年消耗的电量,比一个中等规模的美国家庭一年所耗的电量还要多。
美国《哈佛杂志》网站提出,大语言模型在生成类似人类、连贯且符合上下文逻辑的文本方面做得更好。但这种改进也有代价,训练GPT-3消耗的能源相当于120个美国家庭一年消耗的能源。美国《纽约时报》的报道更是惊人,ChatGPT每天要响应大约2亿个请求,这一过程中消耗超过50万度电。
世界经济论坛的数据显示,运行AI任务所需的能源消耗,年增长率介于26%至36%之间。这意味着到2027年,AI行业消耗的能源堪比冰岛或荷兰等国家一年的能耗。
改变运行策略
让AI更节能势在必行。
首先是调整AI运行策略。世界经济论坛官网指出,AI运行一般分两个主要阶段:训练阶段和推理阶段。在训练阶段,模型通过消化大量数据来学习和开发;经过训练后,它们进入推理阶段,用于解决使用者提出的问题。在这两个阶段限制能耗,可将AI运行总能耗降低12%到15%。
美国俄勒冈州立大学电气工程与计算机科学学院托马斯·迪特瑞克教授指出,另一个有效的策略是优化调度以节省能源。例如,在夜间运行轻量级的任务,或在寒冷的月份运行更大的项目等,也可节省大量能源。此外,将AI处理转移到数据中心也有助于减少其碳排放,因为数据中心的运行效率非常高,其中有些运行使用了绿色能源。
从长远看,促进AI与新兴量子技术的协同也是引导AI走向可持续发展的重要战略。传统计算能耗随计算需求增加呈指数级增长,而量子计算和能耗之间呈线性增长。
此外,量子技术可使AI模型更紧凑、学习效率更高并可改善其整体功能。
新模型和新器件
AI公司之间竞争的一个驱动力是相信越大越好,这也意味着参数越来越多,能耗越来越大。例如,GPT-4拥有1.8万亿个参数,而其“前身”GPT-3拥有1750亿个参数。因此,为让AI更节能,不少科学家正在尝试找出不需要那么多参数的算法。
HawAI.tech公司使用了新型电子元器件和基于概率论的AI技术来节省能耗。在相同时段和能耗下,新器件运算速度是英伟达Jeston芯片的6.4倍。该公司联合创始人兼首席执行官拉斐尔·弗里施表示,结合概率论和更优化的电子元器件,他们的解决方案所用的数据和能源会更少。
此外,模拟人脑功能的神经形态芯片也有望提升AI的效率。近日,英特尔公司发布了名为Hala Point的大型神经拟态系统。其内置1152个基于Intel四制程的Loihi 2处理器,支持多达11.5亿个神经元和1280亿个突触,每秒可处理超过380万亿个8位突触和超过240万亿个神经元操作。它独特的功能可实现未来AI应用的实时持续学习,如解决科学和工程问题、物流、智能城市基础设施管理、大语言模型和AI代理等。
(责任编辑:焦点)
-
华为智选车产品总监彭磊:享界11月交付6000,本月目标1万
IT之家 12 月 1 日消息,鸿蒙智行官方今日发布“战报”:11 月,全系车型交付新车 81864 台,同比增长 89.61%,创单月交付历史新高。IT之家注意到,华为智选车产品总监享界系列)彭磊今
...[详细]
-
羽坛全满贯得主、中国羽毛球传奇林丹7月3日在微博悼念日前在印尼因心脏骤停离世的青年羽毛球运动员张志杰,附文字“走好,少年”。点击进入专题: 国羽小将张志杰突然晕厥后去世
...[详细]
-
7月2日21时20分,岳阳水文水资源勘测中心发布《水情快报》:7月2日21时00分,汨罗江干流平江站出现73.81米的水位,退出保证水位74.00米)0.19米。点击进入专题: 南方多地遭暴雨侵袭
...[详细]
-
巴勒斯坦加沙地带安全和卫生部门消息人士当地时间7月2日表示,以军当天袭击加沙地带多地,造成至少14人死亡。△加沙地带南部城市汗尤尼斯资料图) 消息人士说,以军轰炸加沙地带南部城市汗尤尼斯和拉法等
...[详细]
-
三战102分比肩库里!湖人里皇剑指2.87亿 美媒晒他与科比数据力挺
没有勒布朗-詹姆斯,东契奇、里夫斯联手依旧拿到大胜,这两人又都上20+,对阵鹈鹕与上一场对阵独行侠一样,东皇+里皇两人都上30+,湖人豪取七连胜稳居西部次席,里夫斯本赛季的成长过于喜人。东契奇35分钟
...[详细]
-
浙江省研究生教育学会2024年第一次秘书长会议在中国美术学院召开
7月1日上午,由浙江省研究生教育学会主办,中国美术学院承办的浙江省研究生教育学会2024年第一次秘书长会议,在南山校区顺利召开。 中国美术学院副院长曹晓阳、教育厅高教处二级调研员吴振辉出席会议。 会议
...[详细]
-
来源:封面新闻近日,家住湖北的李女士反映,前段时间她通过网络平台向成都一旅行社报川西游的团。出发前几天被铁路部门通知,受到天气影响,他们预订的动车停运了,无法按期抵达出发地。李女士申请取消订单,旅行社
...[详细]
-
【#福建海警查扣一艘涉嫌非法捕捞台湾省籍渔船#】中国海警局新闻发言人刘德军表示,7月2日,福建海警位泉州近海依法登检查扣一艘涉嫌非法捕捞的台湾省籍渔船。该渔船违反伏季休渔规定,在底拖网禁渔区线内违
...[详细]
-
来源丨深蓝财经撰文丨杨波近期,粮油巨头金龙鱼因子公司牵涉一起金额高达50亿元的合同诈骗案备受市场关注。这起案件的一审判决结果若最终生效,可能导致金龙鱼相关主体承担18.81亿元的巨额赔偿,金额相当于其
...[详细]
-
[科斯塔天神下凡 葡萄牙点球大战淘汰斯洛文尼亚]欧洲杯1/8决赛,葡萄牙经过点球大战,以0-0点球3-0)淘汰斯洛文尼亚,葡萄牙晋级欧洲杯8强。加时赛第105分钟,C罗错失点球。第115分钟,舍什
...[详细]

更5集收视破2!柳岩成功让观众入坑,连看4集后,央视这次押对宝