ChatGPT 每月用的电已经够一个小城镇生活
2023-04-07 15:18:07 晚点LatePost


(资料图片)

在 GPT-4 惊艳亮相并激发各类生成式 AI 极快迭代的同时,ChatGPT 自身也遇到了不少阻力。马斯克跟科学家们关于暂停大型 AI 实验的公开信已经征集到近 1.3 万人签字,英国、意大利等国也相继发布了限制政策。

不过反对的声音没能压住用户需求,后者已经先让 OpenAI 有些扛不住了。继上周大面积封号后,OpenAI 昨天又主动暂停了 ChatGPT Plus 会员的售卖(截至4 月 6 日上午已经恢复)。官方称暂停升级的原因是需求量过大。

根据流量监测网站 Similarweb 最新统计数据,今年 3 月 ChatGPT 吸引了全球近 16 亿次用户访问,较 2 月增长近六成,是 1 月时访问量(5.9 亿次)的近 3 倍。访问量激增同时带来算力需求和能耗成倍数增长。

假设每个用户平均每次访问提 5 个问题(微软 New Bing 平均提问轮数约为 3 次,而 ChatGPT 不限制回合数),则 ChatGPT 上个月总咨询次数接近 80 亿次,对应日咨询量约为 2.7 亿次。

这还没算上其他应用通过 API 访问 ChatGPT 所产生的消耗。但已经极其消耗资源。

已知 1 张 A100 GPU 推理 1 个单词大约需要 0.35 秒。假设每个提问长度约 30 个字 / 单词,则 ChatGPT 每天需要处理 80 亿字咨询量,用一张 A100 GPU 来跑需要约 78 万小时,对应每天需要约 3.24 万张 A100 GPU。以上只是平均数值,考虑到访问流量存在峰值,OpenAI 如果想完全响应用户请求,需要储备的 GPU 数量还要高出好几倍。

紧张的不光是算力。

前述 3.24 万张 A100 GPU 大约等同于 4000 台英伟达 DGX A100 服务器(搭载 8 张 A100 GPU),后者售价 19.9 万美元 / 台,最大功率为 6.5 kW。

以此推算 ChatGPT 硬件成本至少为 8 亿美元,其 3 月耗电量约为 1872 万 kWh。每处理一次用户请求的耗电量,相当于 60 瓦的灯泡亮 140 秒。这样一来,项目光是电费就得交近 200 万美元。

2021 年中国居民人均生活用电约 68 kWh/ 月,ChatGPT 单月耗电量差不多跟 27.5 万中国人相当。(邱豪)

热门推荐

文章排行

  1. 2023-04-07ChatGPT 每月用的电已经够一个小城镇生活
  2. 2023-04-07半夏投资李蓓:A股地产股大涨这个锅我不背 我持仓大部分是港股地产股
  3. 2023-04-07【世界播资讯】21胜1负!杜兰特真可怕!恭喜湖人躲过一劫
  4. 2023-04-07全球百事通!财信证券:业绩稳健增长,银行板块上行有动力
  5. 2023-04-07同音字大全及答案100个_同音字大全同音字查询-全球最新
  6. 2023-04-07兴瑞科技:4月6日融资买入1139.81万元,融资融券余额3245.74万元
  7. 2023-04-07【天天报资讯】全省已立项和发布云南省地方标准3078项
  8. 2023-04-07外汇交易提醒:美联储或逆转政策方向,美元震荡静待非农上场定基调|环球资讯
  9. 2023-04-07业内人士:旅游市场的“开门红”对餐饮、娱乐、住宿、购物的拉动作用明显 有效促进各地消费加速复苏 世界头条
  10. 2023-04-07全球速读:7025米!胜利济阳页岩油国家级示范区诞生钻探新纪录
  11. 2023-04-07世界微动态丨【同人】悠子幻想纪事-四月六日
  12. 2023-04-06【天天新要闻】laomaotao54188(laomaotao)
  13. 2023-04-06万寿果的籽有什么作用?_快播报
  14. 2023-04-06看点:2023五一艾妮漫展武汉哪里举办?
  15. 2023-04-06世界球精选!总价约290万元起 千余套房源正在认购
  16. 2023-04-06大唐集团前3月份合约销售金额40.37亿元 销售面积约为39.06万平米_环球热门
  17. 2023-04-06每日热闻!哈三联董秘回复:公司将在定期报告中披露截止至报告期末的股东人数,敬请您关注
  18. 2023-04-06环球速读:官庆媳妇_官庆的老婆
  19. 2023-04-06天天信息:内海造船建造高速客滚船“澎湖”轮命名下水
  20. 2023-04-06速讯:手臂过敏起红疹图片_宝宝红疹图片