Internet Develppment
互联网开发& 推广服务提供商

我们擅长商业策略与用户体验的完美结合。

欢迎浏览我们的案例。

首页 > 新闻中心 > 新闻动态 > 正文

分析师称每日运行 ChatGPT 投入的成本或高达 70 万美元

发布时间:2023-04-21 10:14:10来源:新浪科技


图片来自网络/侵删
  据报道,芯片行业研究公司 SemiAnalysis 首席分析师迪伦・帕特尔(Dylan Patel)表示,由于 ChatGPT 运行在价格昂贵的计算基础设施之上,OpenAI 每天为运行 ChatGPT 投入的成本可能高达 70 万美元(当前约 481.6 万元人民币)。

  帕特尔指出,ChatGPT 需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”

  此外,帕特尔最初的估计基于 OpenAI 的 GPT-3 模型,而在采用最新的 GPT-4 模型之后,ChatGPT 现在的运行成本可能更高。

  对此,OpenAI 尚未对此做出回应。

  帕特尔和 SemiAnalysis 的另一位分析师阿夫扎尔・艾哈迈德(Afzal Ahmad)表示,此前外界已经注意到,训练 ChatGPT 背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT 的推理成本超过了训练成本。”

  过去几年,使用 OpenAI 语言模型的公司也一直在承担高昂的价格。创业公司 Latitude 开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克・沃尔顿(Nick Walton)表示,运行该模型,以及相应的购买亚马逊 AWS 云服务器的费用 2021 年达到每月 20 万美元(当前约 137.6 万元人民币)。因此,沃尔顿最终决定改用 AI21 Labs 支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半,至每月 10 万美元(当前约 68.8 万元人民币)。

  沃尔顿在接受采访时表示:“我们会开玩笑说,我们有人类员工和人工智能员工,在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”

  近期有报道称,为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片。该项目于 2019 年启动。在此几年前,微软与 OpenAI 达成了 10 亿美元的投资协议,要求 OpenAI 仅在微软的 Azure 云服务器上运行其模型。

  微软启动这一芯片项目的背后有两方面思考。知情人士透露,微软高管意识到,他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的方案去替代英伟达的 GPU 芯片。

  目前,微软大约有 300 多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和 OpenAI 内部使用。微软拒绝对此消息置评。
  (码上科技

最新资讯
© 2018 河北码上网络科技有限公司 版权所有 冀ICP备18021892号-1   
© 2018 河北码上科技有限公司 版权所有.