庆云古诗词

庆云古诗词

ChatGPT每日运作成本高达70万美元!微软自研芯片挑战英伟达

互联资讯 0

2023年11月20日 每日一猜答案: 答案:ABC
每日一猜答案分析:

微软 英特尔 英伟达

人工智能聊天机器人ChatGPT,去年一推出便火爆全网:发布5天获100万用户,两个月月活跃用户过亿,成为历史上增长最快的消费者应用。

ChatGPT一天的运作成本高达70万美元:ChatGPT的出现,让AI成为关注的焦点,同时也让半导体市场变得火热,但不得不承认这确实很烧钱。半导体领域研究公司SemiAnalysis预计,ChatGPT当前每天花费的运营费用高达70万美元,即每次查询需要花费0.36美元。众所周知,ChatGPT因文本生成、聊天机器人、语言问答、翻译、绘画、编程等便捷的功能模块深受用户青睐,但整体运作需要庞大的算力,因为只有这样才能对用户输入的问题等相关信息做出相应的回应,而每日运营花销高达70万美元估算只是基于GPT-3模型,而优化升级的GPT-4模型运作成本估计会更高。

英伟达H100售价超4万美元:随着ChatGPT的爆火,芯片需求也持续飙升。作为去年新发布的人工智能芯片,英伟达H100性能优于A100,加之产量短缺,远远无法满足日益增长的市场需求,因此,我们可以看到目前英伟达H100在eBay平台售价已超过4万美元,甚至有标价高达6.5万美元。

图源:网络

微软研制Athena人工智能芯片:为解决高昂费用成本问题,微软通过研发AI芯片以代替英伟达的GPU,进而降低运营成本。据悉微软于2019年就开始研发代号为“雅典娜”(Athena)的人工智能芯片,目前已提供给微软内部员工及OpenAI员工测试使用,用于训练大语言模型和支持推理。

据悉,微软约有300多名员工正参与这款芯片的研发,该芯片最早将会于明年发布,主要提供给微软和OpenAI内部使用。微软表示芯片的研发主要是为了减少对英伟达的依赖,以降低成本,以更便宜的费用运行ChatGPT,并不期待能直接取代英伟达。

如果大家对出海行业相关知识感兴趣,欢迎关注Qbit趣比汇并积极留言讨论,我们会持续更新跨境电商干货和最新最热的行业资讯~



chatgpt是最智能的ai吗 chatgpt引发的人工智能的故事

chatgpt,chatgpt官网,chatgpt国内能用吗,chatgpt开源

半导体研究公司 SemiAnalysis 的首席分析师迪伦・帕特尔 (Dylan Patel)表示,使用 ChatGPT写求职信、生成课程计划和重做约会资料可能会使 OpenAI 每天花费高达 70万美元,人工智能运行的技术基础设施价格昂贵。

这是因为 ChatGPT 需要大量的计算能力来计算基于用户提示的响应。

“大部分成本是基于他们所需的昂贵服务器”。Patel 表示现在运营成本可能更高,因为他的初步估计是基于 OpenAI 的 GPT-3 模型。该公司的最新AI模型GPT-4运行成本会更高。

虽然训练 ChatGPT 的大型语言模型可能要花费数千万美元、运营费用或推理成本,但“在以任何合理规模部署模型时,远远超过训练成本,”SemiAnalysis 的另一位分析师 Patel 和 Afzal Ahmad表示。“事实上,每周推理 ChatGPT 的成本超过了训练成本。”?

多年来,使用 OpenAI 语言模型的公司一直在付出高昂的代价。Latitude 是一家使用提示生成故事情节的 AI 地牢游戏背后的初创公司,其首席执行官尼克沃尔顿表示,运行该模型以及向 Amazon Web Services 服务器付款,该公司每月花费 20万美元来让 AI 回应百万数据。

高成本是沃尔顿表示他决定转向由 AI21 Labs 支持的语言软件提供商的原因,他说这将他公司的人工智能成本削减了一半,达到每月 10 万美元。

沃尔顿表示:“我们开玩笑说我们有人类员工,也有人工智能员工,我们在他们每个人身上花费的钱差不多。” “我们每个月在 AI 上花费数十万美元,而且我们不是一家大型初创公司,所以这是一笔非常巨大的成本。”

据报道,微软正在秘密开发AI芯片

据 The Information 报道,为了降低运行生成式 AI 模型的成本,微软正在开发一种名为 Athena 的 AI 芯片。该项目于 2019 年启动,数年后微软与 OpenAI 达成了 10 亿美元的交易,该交易要求 OpenAI 仅在微软的 Azure 云服务器上运行其模型。

根据报道,微软AI芯片背后的想法有两个方面。一位知情人士称,微软高管意识到他们在构建自己的内部芯片方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的替代品――其人工智能模型在英伟达的图形处理单元芯片上运行,并决定制造一种成本更低的芯片。

据报道现在有 300 多名微软员工正在开发该芯片。两位知情人士称该芯片最早可能在明年发布,供微软和 OpenAI 内部使用。

其他阅读