ChatGPT运行每天或花费70万美元微软开发自主芯片尝试降低成本

2023-04-21 12:25 来源:TechWeb   阅读量:5121   

北京时间4月21日早间消息,据报道,芯片行业研究公司SemiAnalysis首席分析师迪伦·帕特尔表示,由于ChatGPT运行在价格昂贵的计算基础设施之上,OpenAI每天为运行ChatGPT投入的成本可能高达70万美元。

帕特尔指出,ChatGPT需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”

此外,帕特尔最初的估计基于OpenAI的GPT-3模型,而在采用最新的GPT-4模型之后,ChatGPT现在的运行成本可能更高。

对此,OpenAI尚未对此做出回应。

帕特尔和SemiAnalysis的另一位分析师阿夫扎尔·艾哈迈德表示,此前外界已经注意到,训练ChatGPT背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT的推理成本超过了训练成本。”

过去几年,使用OpenAI语言模型的公司也一直在承担高昂的价格。创业公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克·沃尔顿表示,运行该模型,以及相应的购买亚马逊AWS云服务器的费用2021年达到每月20万美元。因此,沃尔顿最终决定改用AI21 Labs支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半,至每月10万美元。

沃尔顿在接受采访时表示:“我们会开玩笑说,我们有人类员工和人工智能员工,在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”

近期有报道称,为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片。该项目于2019年启动。在此几年前,微软与OpenAI达成了10亿美元的投资协议,要求OpenAI仅在微软的Azure云服务器上运行其模型。

微软启动这一芯片项目的背后有两方面思考。知情人士透露,微软高管意识到,他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的方案去替代英伟达的GPU芯片。

目前,微软大约有300多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和OpenAI内部使用。微软拒绝对此消息置评。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

热门

一键全自动换电——泰州市首家蔚来第三代换电站在兴化戴南上线
一键全自动换电——泰州市首家蔚来第三代换电站

一辆新能源汽车稳稳地停到蔚来充换电一体站的停车平台上,汽车下部的换电装置自动开启,卸下用完电的电池,换上充足电的...更多>

azg集团多维度赋能品牌,助力打造可持续产业生态
azg集团多维度赋能品牌,助力打造可持续产业

日前,由azg集团与Bubs贝儿联合举办的“Bubs贝儿纯净营养,守护新队友”五一特别场线下亲子活动圆满结束,门...更多>

喜报!中诚信托荣获深交所优秀债券投资交易机构奖项
喜报!中诚信托荣获深交所优秀债券投资交易机构

2月27日,深圳证券交易所组织召开2022年度债券监管发展业务座谈会,并表彰在服务国家重点战略、推进债券市场高质...更多>

银保监会就保险保障基金管理办法公开征求意见
银保监会就保险保障基金管理办法公开征求意见

为促进保险业稳健经营和高质量发展,更好发挥保险保障基金的积极作用,维护保单持有人合法权益,银保监会商有关部门对2...更多>

人民银行:指导银行将个人信贷延期还款政策落到实处
人民银行:指导银行将个人信贷延期还款政策落到

2022年第一季度金融统计数据新闻发布会现场。人民网黄盛摄人民网北京4月14日电(黄盛)今日,中国人民银行(以下...更多>

聚焦

发放消费券、举办消费节、推动线上线下消费融合,近期一批促消费措施密集推出—— 为消费升温积聚合力
《灌篮高手》周边卖断货官方急挂公告:真没货了
今日,《灌篮高手》剧场版在中国上映,东映动画在天猫旗舰店也上...更多>
东方铁塔双主业发力盈利8.25亿倍增继续扩产
钢结构、化肥两个完全没有关联的行业,汇集在东方铁塔(0025...更多>
LPR连续8个月“原地踏步”二季度实体经济融
4月20日,最新一期LPR出炉。中国人民银行(下称“央行”)...更多>
央行谈银行存款“降息”:市场化环境下的正常现
近期中国部分地方法人银行发布了下调存款利率的公告。中国央行货...更多>
2023五一档新片预售总票房突破5000万:
,灯塔专业版官方微博今日发文宣布,截至4月20日11时32分...更多>
4万美元购入,MKBHD开箱有“LuckyY
,YouTube数码频道MKBHD主播MarquesBrow...更多>
“茅台王子·明亮少年”—“播撒梦想·声传你我
4月18日,由中华思源工程基金会主办,贵州省青少年发展基金会...更多>
创新敢为,上海农商银行为“知产”与“资产”架
2023年全国知识产权宣传周拉开序幕,作为申城服务科技企业的...更多>
1999元,机械革命无界M5小主机4月20日
,机械革命上周推出了一款无界M5小主机,搭载英特尔12代酷睿...更多>
苹果iPhone手机支持自动充值AppleP
,据上海交通卡发布,已全新支持自动充值ApplePay交通卡...更多>