【天天新视野】ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本

2023-04-22 05:31:27 来源:和讯网 分享到:


(相关资料图)

新浪科技讯 北京时间4月21日早间消息,据报道,芯片行业研究公司SemiAnalysis首席分析师迪伦·帕特尔(Dylan Patel)表示,由于ChatGPT运行在价格昂贵的计算基础设施之上,OpenAI每天为运行ChatGPT投入的成本可能高达70万美元。

帕特尔指出,ChatGPT需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”

此外,帕特尔最初的估计基于OpenAI的GPT-3模型,而在采用最新的GPT-4模型之后,ChatGPT现在的运行成本可能更高。

对此,OpenAI尚未对此做出回应。

帕特尔和SemiAnalysis的另一位分析师阿夫扎尔·艾哈迈德(Afzal Ahmad)表示,此前外界已经注意到,训练ChatGPT背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT的推理成本超过了训练成本。”

过去几年,使用OpenAI语言模型的公司也一直在承担高昂的价格。创业公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克·沃尔顿(Nick Walton)表示,运行该模型,以及相应的购买亚马逊AWS云服务器的费用2021年达到每月20万美元。因此,沃尔顿最终决定改用AI21 Labs支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半,至每月10万美元。

沃尔顿在接受采访时表示:“我们会开玩笑说,我们有人类员工和人工智能员工,在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”

近期有报道称,为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片。该项目于2019年启动。在此几年前,微软与OpenAI达成了10亿美元的投资协议,要求OpenAI仅在微软的Azure云服务器上运行其模型。

微软启动这一芯片项目的背后有两方面思考。知情人士透露,微软高管意识到,他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的方案去替代英伟达的GPU芯片。

目前,微软大约有300多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和OpenAI内部使用。微软拒绝对此消息置评。

标签:

【天天新视野】ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本

来源:和讯网 2023-04-22 05:31:27

股票行情快报:艾比森(300389)4月21日主力资金净卖出458.97万元

来源:证券之星 2023-04-22 05:24:00

AI概念股全线回调 科技行情要熄火了吗?丨就市论市|世界新动态

来源:第一财经 2023-04-22 05:33:45

纽威股份2022年净利4.66亿同比增长23.49% 期间销售增长 资讯推荐

来源:挖贝网 2023-04-22 04:56:29

扪心自问的意思是什么_扪心自问的意思

来源:互联网 2023-04-22 04:29:52

德方纳米(300769):4月21日北向资金减持3.62万股|全球今热点

来源:证券之星 2023-04-22 04:29:22

冰轮环境(000811):4月21日北向资金减持89.39万股 世界关注

来源:证券之星 2023-04-22 03:54:14

全球要闻:4月21日机构最看好的10只股票

来源:金融界 2023-04-22 03:11:15

【全球播资讯】徐州区号是多少_徐州在哪儿

来源:互联网 2023-04-22 02:45:12

美国共和党人敦促拜登停止向乌克兰提供“无节制”援助 全球热头条

来源:央广网 2023-04-22 02:38:42

潢川县交通运输局:会同包联企业宣传 助力小微企业发展-世界微资讯

来源:大象河南 2023-04-22 02:05:58

热讯:网上银行市场前景如何?国内网上银行市场规模现状及发展趋势分析

来源:百度 2023-04-22 01:55:09

股票行情快报:佳士科技(300193)4月21日主力资金净买入82.82万元 环球精选

来源:证券之星 2023-04-22 01:30:54

甘肃打造一流融合算力平台 赋能数字经济高质量发展

来源:中国新闻网 2023-04-22 01:22:30

见证超跑科技赋能高尔夫装备,FILA GOLF x McLAREN联名系列全球首发|焦点速递

来源:中关村在线 2023-04-22 00:39:21

热讯:私人房贷合同范本(推荐37篇)

来源:互联网 2023-04-22 00:18:17

比亚迪在贵阳成立汽车销售新公司

来源:DoNews汽车 2023-04-21 23:48:37

五一游贵州丨这个假期一起去蓬莱仙界放飞童趣

来源:多彩贵州网 2023-04-21 23:54:09

如何下载安装方正小标宋字体_如何下载方正小标宋简体字体

来源:互联网 2023-04-21 23:31:08

生 意 宝(002095):该股换手率大于8%(04-21) 世界速读

来源:自选股智能写手 2023-04-21 22:47:21

天天精选!捕捉大牛股的两种逻辑思路

来源:中金在线财经号 2023-04-21 22:42:49

今日热门!医道无双华枫下载 医道无双华枫

来源:城市网 2023-04-21 22:03:54

xp13第一登陆器2014_xp13登陆器

来源:互联网 2023-04-21 21:43:37

江苏省教育学院网站官网_江苏省教育学院

来源:互联网 2023-04-21 21:23:57

王大为医生简介擅长公开!做正畸/种植牙技术点评走一波 每日资讯

来源:一美网 2023-04-21 20:55:13

刚复婚起诉离婚有效吗

来源:法务网 2023-04-21 20:41:39

我国拟立法规定:对青藏高原重要雪山冰川实施封禁保护

来源:天眼新闻 2023-04-21 20:45:58

蔚来总裁秦力洪:专注做更好的产品、技术和服务 品牌向上不易 不参与“价格战”

来源:证券日报 2023-04-21 20:16:52

头条:证监会回应泽达易盛、紫晶存储欺诈发行案中投资者保护方面的安排

来源:水晶球财经网 2023-04-21 19:17:56

朗特智能4月21日快速上涨|当前观点

来源:东方财富Choice数据 2023-04-21 19:23:37

Copyright   2015-2022 全球知识产权网 版权所有  备案号:豫ICP备20009784号-11   联系邮箱:85 18 07 48 3@qq.com