·人工智能比其他形式的计算消耗更多的能源,训练GPT-3需要的电力相当于120个美国家庭全年使用的电力。但由于该行业发展太快,且透明度十分有限,所以没有人确切知道人工智能的总耗电量和碳排放量。
·艾伦人工智能研究所的科学家杰西·道奇表示,人工智能可以成为保护海洋或改善气候的有力工具,但如果其碳足迹不透明,人工智能也可能导致气候危机。
在人工智能发展的同时,一项可能被忽略的隐患随之浮现:AI时代的算力需求远超以往,带来的电力消耗以及产生的碳排放也与日俱增。
人工智能比其他形式的计算消耗更多的能源,训练一个大型语言模型需要的电力比100个美国家庭全年使用的电力还要多。然而,由于该行业发展如此之快,且透明度十分有限,以至于没有人确切知道人工智能的总耗电量和碳排放量。
艾伦人工智能研究所(Allen Institute for AI)的科学家杰西·道奇(Jesse Dodge)近日表示,人工智能可以成为保护海洋或改善气候的有力工具,但如果其碳足迹不透明,人工智能也可能导致气候危机。
110辆美国汽车一年的排放量
根据2021年发表的一篇研究论文,训练GPT-3耗电1.287千兆瓦时,相当于120个美国家庭一年消耗的电力,产生502吨碳排放,相当于110辆美国汽车一年的排放量,而且此数据仅限于这一个模型。ChatGPT的开发者OpenAI已经在准备推出GPT-4,随着这类模型的体量越来越大,且模型必须定期重新训练,以便了解最新数据,用电量还将逐年上升。
“如果你不重新训练模型,你就会有一个不了解新冠疫情的模型。”卡内基梅隆大学(Carnegie Mellon University)教授艾玛·斯特鲁贝尔(Emma Strubell)说,她是最早研究人工智能能源问题的研究人员之一。
另一项数据来自谷歌,研究人员发现人工智能耗费该公司总用电量的10%至15%,到2021年为18.3太瓦时。这意味着人工智能每年消耗谷歌约2.3太瓦时的电量,大约相当于亚特兰大这样大小的城市中所有家庭每年的电力。
根据国际能源署的数据,数据中心的温室气体排放量已约占全球温室气体排放量的1%。随着云计算需求的增加,这一数字预计还会上升。而随着人工智能被纳入互联网上最重要的应用——搜索引擎,所需的计算量将更大。加拿大数据中心企业QScale的联合创始人马丁·布沙尔(Martin Bouchard)表示,根据他对微软和谷歌搜索计划的研究,将生成式人工智能加入搜索引擎这一过程至少需要将每次搜索的计算量增加四到五倍。
布沙尔指出,ChatGPT在2021年底停止了训练,作为减少计算需求的一部分。但为了满足搜索引擎用户的需求,这一现状将不得不改变。他说:“如果经常对模型进行再培训,并增加更多的参数和东西,那将是完全不同的规模。”
英国萨里大学(University of Surrey)网络安全教授艾伦·伍德沃德(Alan Woodward)也表示:“虽然过去在搜索引擎中已经有大量资源参与,但纳入人工智能需要更多资源。每当我们看到人工智能的阶段性变化,我们就会看到大型处理中心所需的电力和冷却资源显著增加。”
AI公司Hugging Face的研究员萨沙·卢奇奥尼(Sasha Luccioni)表示,需要将AI模型的功耗和排放透明化。有了这些信息,政府和企业可能会决定,使用GPT-3或其他大型模型来研究癌症治疗或保护土著语言是值得的,但编写蹩脚的剧本则不值得。
碳足迹透明是当务之急
道奇表示,许多行业已经开始报告自己对环境的影响,但目前在整个人工智能领域,产生的碳排放仍缺乏透明度,量化其碳足迹的努力才刚刚开始。随着模型变得更强大和被更广泛地使用,碳输出水平只会继续上升,因此,建立透明度以减轻人工智能碳足迹的潜在影响至关重要。透明度将使得研究人员可以开发可操作的工具,并进一步巩固人工智能的应用,使其成为帮助应对气候变化的工具,而不是加剧气候变化。
那么,如何衡量人工智能的碳足迹?道奇和来自微软、卡内基梅隆大学和耶路撒冷希伯来大学(the Hebrew University of Jerusalem)的研究团队正着手解决这个问题,目前,一个非营利组织正在开发名为“碳强度”的软件,使用该软件可以将微软在其云服务Azure上训练的人工智能模型的排放映射到能源网格上。该团队能够量化人工智能日益增长的环境影响,并为AI从业人员提供思路,以遏制碳排放。
道奇和研究人员发现,改变人工智能模型的运行地点对其排放的影响最大。数据中心遍布全球,某些国家的电网中清洁能源的比例高于其他国家。如果云计算提供商选择更多可再生能源的数据中心,可能会将模型的碳强度降低75%。
伍德麦肯兹能源咨询机构(Wood Mackenzie)的本·赫兹-沙格尔(Ben Hertz-Shargel)表示,由于人工智能培训可以随时进行,开发人员或数据中心还可以将培训安排在电力更便宜或过剩的时候,从而使运营更加环保。道奇也认为,当电网的碳强度较低时,模型定时运行也可能是一个可行的解决方案。
目前,微软、谷歌和亚马逊都有碳负增长或碳中和承诺。谷歌在一份声明中表示,到2030年,预计将实现其运营的净零排放,目标是完全依靠无碳能源运行其办公室和数据中心。该公司还使用人工智能来提高其数据中心的能源效率。
谷歌发言人朴吉英(Jane Park)也表示,谷歌发布了聊天机器人巴德(Bard)的新版本,该版本由一款体量更小的大型语言模型驱动,以节省资源。“我们还发布了语言模型LaMDA的能源成本。”朴吉英说,“我们的研究结果表明,将高效的模型、处理器和数据中心与清洁能源相结合,可以将机器学习的碳排放减少多达1000倍。”
OpenAI则强调了它为提高ChatGPT API(应用程序编程接口)效率所做的工作,这一工作减少了客户的用电量和价格。“我们非常重视阻止和扭转气候变化的责任,我们思考了很多如何充分利用我们的计算能力的方案。”OpenAI发言人在一份声明中说,“OpenAI在Azure上运行,我们与微软团队密切合作,以提高运行大型语言模型的效率。”
微软指出,其正在购买可再生能源,并采取其他措施来实现先前宣布的2030年实现负碳的目标。“作为我们创造可持续未来的承诺的一部分,微软正在投资研究,以衡量人工智能的能源使用和碳影响,同时致力于提高大型系统在培训和应用中的效率。”该公司在一份声明中表示。
此外,艾伦人工智能研究所目前正在使用人工智能保护海洋或改进气候建模。道奇认为,人工智能在消耗电力的同时,其创新应用也会帮助应对气候危机。“如果我们今天不直面这些挑战,它可能会加剧气候变化。在我们要求全行业透明的同时,我们也必须做出决策,开发有助于拯救地球的人工智能应用。”道奇表示。