OpenAI开发的ChatGPT在全球掀起AI聊天机器人浪潮,但内容生成涉及高昂成本。根据模型数据,假设每次生成平均回答50个词,在使用8x英伟达A100显卡的情况下,中信証券估计ChatGPT每次生成答案的成本约1.3美仙(约0.1港元),较Google搜索引擎多2倍。如果Google一成搜索结果由大型语言模型生成,将会使到Google每年额外增加约12亿美元运营成本。
ChatGPT的英文版本数据是截至2021年止,中文版本数据则截至2020年止,数据库版本滞后的原因是语言类大模型的技术限制。
满负荷运行 ChatGPT暂停服务
ChatGPT目前在GPT大模型上加入标注数据训练模式,让实时数据的引入非常困难。如果重新训练模型,估计每次训练需要超过1000块英伟达A100显卡,并且工作时间长达半个月至一个月,成本在百万美元以上。
另外,由于ChatGPT的使用量过多,继周二免费版页面出现“现在满负荷运行”后,周三继续见“满负荷运行”提示。网页指出,由于许多人使用服务,网络不胜负荷,开发人员正在处理。
ChatGPT早前表示,如果用户希望能够畅顺使用服务,可通过付费订阅ChatGPT Plus。实验订阅计划的订价为每月20美元。