保护程序员人人有责 人人程序员
淘宝搜：【红包到手500】领超级红包，京东搜：【红包到手500】
淘宝互助，淘宝双11微信互助群关注公众号 【淘姐妹】
作 者丨骆轶琪,朱艺艺
编 辑丨张伟贤,巫燕玲
图 源丨图虫
“我们正处于AI的‘iPhone时刻’。”78分钟的GTC演讲过程中，NVIDIA（英伟达）创始人兼首席执行官黄仁勋提了三次这一观点。
正当一些行业人士感慨跑一次GPT4训练需要庞大的资金成本支持时，英伟达自己来炸场了。面向迄今历史上用户数量增长最快的应用ChatGPT，英伟达发布了包括硬件迭代和云服务一系列组合，核心目的之一，就是加速运算速度、极大降低成本。
（ChatGPT是迄今历史上用户数量增长最快的应用，图源：英伟达发布会现场展示）
黄仁勋表示，类似ChatGPT大型语言模型（LLM）的部署是一个重要的全新推理工作负载，为了支持这类模型推理，英伟达发布一款新GPU，是带有双GPU NVLink的【【微信】】。同时基于N【【微信】】架构的H100配有一个Transformer引擎，是为处理驱动ChatGPT的类似模型，相比用于GPT3处理的HGX A100来看，配备四对H100和双GPU NVLink的标准服务器速度最高可达10倍。“H100可以将大型语言模型的处理成本降低一个数量级。”他续称。
为什么在AI变革进程中GPU尤为重要？这是源于AI大模型在训练时，对基础设施的要求是大规模并行计算，这也是GPU相比于其他类型计算芯片如CPU（串行运算为主）等的显著优势。当然计算的同时也需相应配套高速数据存储、光模块、通信等一系列能力。
其中对英伟达的诉求最为旺盛。今年2月份发布最新业绩时，黄仁勋就曾表示：“AI正处于一个拐点，从初创企业到大型企业，我们看到生成式AI的多功能性和能力让全球企业感受到开发和部署AI战略的急迫性。”这也成为彼时业绩交流中的核心关键词。
在3月21日深夜的演讲中，他再次提到这一点，并且指出，“生成式AI是一种新型计算机，一种我们可以用人类语言进行编程的计算机，与PC、互联网、移动设备和云类似，每个人都可以命令计算机来解决问题，现在每个人都可以是程序员。”
黄仁勋认为生成式AI是一种新型计算机，图源：英伟达发布现场
在英伟达和一众合作伙伴的推动下，关于前两天还在火热探讨的“GPT会取代哪些职业”这个话题，似乎也并不那么让人困扰了。
算力账单
先看看这次炸场之前，用英伟达GPU产品部署一次GPT训练需要的实力。
CINNO Research半导体事业部总经理Elvis Hsu对21世纪经济报道记者分析，2023年是ChatGPT元年，构成人工智能的三大要素包括：数据、算法、算力，其中尤以芯片的算力是最重要一环。由于模型训练参数量的使用与算力成正相关，ChatGPT持续升级进程中，其参数使用量增长幅度不可谓不大，投入资金自然水涨船高。每一次模型训练所需的资金从数百万到千万美金不等，随着硬件和云计算服务的价格不断变化。
（GPT3论文概要，其参数使用量为1750亿，图源：Open AI官网公布）
“英伟达GPU A100每片约1万美金，除了投入的人力成本、网络宽带成本和数据储存之外，最重要的就负责算力的芯片成本支出，如何降低成本与功耗便成为未来发展AI芯片的重要课题。”他总结道。
之所以现阶段较难以准确预估训练背后的整体成本，是因为OpenAI在最新关于GPT4的论文中，明确提到出于竞争和安全等因素考虑，相关模型具体信息选择并不公开。由此业内目前对于GPT4背后的具体训练参数量并没有十分统一的测算结果，有认为是万亿级别，也有认为是百万亿级别。
（GPT4论文中并未公布训练量和模型架构等信息，图源：Open AI官网公布）
当然其中核心的成本考虑避不开GPU。IDC亚太区研究总监郭俊丽也对记者指出，算力是AI模型的能源，将最直接受益于人工智能的普及，也成为GPT4最重头的成本投入。同时，想要训练类似ChatGPT的大模型，除了芯片投入，还包括服务器、通信等基础设施。
考虑到不同时期英伟达GPU相关芯片产品的价格有所波动，背后所需的软件能力配置也有不同，造成其具体算力账本一般是一个大概的构想。
郭俊丽进一步指出，基于参数数量和token数量估算，GPT-3训练一次的成本约为140万美元；对于一些更大的LLM模型，比如拥有2800亿参数的Gopher和拥有5400亿参数的PaLM，采用同样的公式可得出，训练成本介于200万-1200万美元之间。
“以GPT-3.5为模型的ChatGPT模型，都要460万-500万美元。据OpenAI测算，自2012年以来，全球头部AI模型训练算力需求每3-4个月翻一番，每年头部训练模型所需算力增长幅度高达10倍。以此来推测，GPT4的运行成本将大幅高于GPT3.5。对于想要切入该赛道的企业来说，资金成本将会是一个门槛。”她得出结论。
TrendForce集邦咨询分析师曾伯楷综合对记者分析，从GhatGPT开发历程看，其在发展初期约采用1万颗N【【微信】】（以下简称“A100”），经扩充升级后，运算资源估计已等同2万颗A100 GPU。目前ChatGPT并未实时更新文本数据，所有信息只涵盖至2021年，GPT4也是如此，一旦ChatGPT开始更新数据、为用户提供更长篇幅的生成内容，且用户数持续成长至1.5亿户以上，则运算资源可能得再扩充1倍，届时或许要增加1.5-2万颗A100 GPU才能满足算力需求。
“在此基础上推估，大约到2025年，每一款类似ChatGPT的超大型AI聊天机器人算力需求，约等同2.5-4万颗A100 GPU；若以每张A100 GPU显卡价值2万美元估算，总体GPU建置成本将落在5-8亿美元。”他补充道，叠加考虑到GPT4相比前代升级为多模态(multimodal)模型，能分析文字输入、也能进行图片解读，估计超大型AI聊天机器人的整体运算资源可能须再扩张5%左右。
从这个角度看，若是从无到有打造、训练类似GPT4的超大型AI聊天机器人，并且能够向全球用户提供流畅的生成内容服务，其构建成本必然比ChatGPT 3.5高出一倍。“至于日后成本是否呈现倍数成长，仍取决于三方面：一是大型语言模型的发展趋势，二是全球AI聊天机器人应用的使用情况，三是硬件资源分配优化方案的进展。”曾伯楷续称。
在当前半导体行业仍没有完全走出周期低点的过程中，AIGC对算力的需求无疑对英伟达的业绩带来较大支撑，但是对于其他芯片类型来说可能影响不会那么显著。
Elvis对记者指出，由于在执行计算期间需要大容量、高速的存储支持，预计高阶的内存芯片需求将会扩大，短期对于低迷的市场助长有限，是因为普及度不够，但有利于长期高性能高带宽内存HBM及高容量服务器DRAM存储器市场的增长，这对于训练成本的下降稍有助益。
计算生态
基于前面的计算和判断，行业一种观点认为，当前要部署相关AI大模型需要较大的资金实力和能力魄力。由此引发进一步思考：难道AI大模型就只能以如此高成本运行，一般企业根本无力应对吗？
这在3月21日的发布中黄仁勋已经给出了答案：GPU本身已经在快速通过硬件产品和软件生态服务等综合方式，帮助更多AI大模型成长。
GTC期间，英伟达在硬件方面针对大型语言模型发布了新款GPU――带有双GPU NVLink的【【微信】】，配套Transformer引擎，相比前代用于处理GPT3的HGX A100相比，配置四对H100和双GPU NVLink标准服务器的速度最高可达10倍，由此将大型语言模型的处理成本降低一个数量级。
（新版本GPU产品将令AI大模型处理成本降低一个数量级，图源：英伟达发布现场）
同步发布的还有Grace Hopper超级芯片，黄仁勋指出这是处理超大型数据集的理想选择，比如可以用于推荐系统的AI数据库和大型语言模型。据介绍，通过900GB/s高速芯片对芯片的接口，英伟达Grace Hopper超级芯片可以连接Grace CPU和Hopper GPU。
最近大火的ChatGPT4书写的综述：乳酸性酸中毒什么是乳酸性酸中毒?这种病有那些表现,什么是乳酸酸性中毒,乳酸性酸中毒表现在哪些方面,乳酸性酸中毒的常见原因
| 最近大火的ChatGPT4书写的综述:乳酸性酸中毒 ChatGPT4 摘要 乳酸性酸中毒是一种严重的代谢紊乱病症，可导致高乳酸血症和低pH。其发生率逐年增加，与患者预后密切相关。本综述旨在梳理乳酸性酸中毒的病因、临床表现、诊断、治疗、护理管理和预后评估等方面的内容，以期为临床医师提供有益的参考。（仅供参考） 一、简介 乳酸性酸中毒（Lactic Acidosis, LA）是一种常见的严重代谢紊乱病症，主要表现为高乳酸血症和低pH。乳酸主要由糖酵解过程中产生，正常情况下，乳酸的生成和清除平衡维持在稳定水平。然而，在某些情况下，乳酸的生成过多或清除减少，会导致乳酸血症，进而发展为乳酸性酸中毒。乳酸性酸中毒不仅可导致多器官功能障碍，严重时还可导致死亡。 二、病因和分类 乳酸性酸中毒可分为两类：类型A和类型B。 类型A：缺氧性乳酸性酸中毒。主要由于全身或局部组织的缺氧导致，如休克、心肺功能不全、严重贫血等。 类型B：非缺氧性乳酸性酸中毒。与全身疾病、药物和毒素、遗传性疾病等相关。根据病因可进一步分为三类：a. B1：与全身疾病相关，如肝功能不全、糖尿病、恶性肿瘤等。b. B2：与药物和毒素相关，如抗癌药物、抗逆转录病毒药物、乙醇、乙二醇等。c. B3：与遗传性疾病相关，如线粒体疾病、糖原贮积症等。 三、临床表现 乳酸性酸中毒的临床表现因个体差异和病因不同而异。常见的症状和体征包括： 症状：a. 乏力、乏力、呼吸急促：由于组织缺氧，患者常出现乏力、疲劳、呼吸急促等症状。b. 消化道症状：恶心、呕吐、腹痛、腹泻等。c. 心血管症状：心慌、胸闷、心率失常等。d. 神经系统症状：头痛、眩晕、意识障碍、抽搐等。 体征：a. 皮肤表现：皮肤苍白、发绀、湿冷等。b. 生命体征：心率增快、血压下降、呼吸急促等。c. 神经系统体征：意识障碍、肌力减弱、反射异常等。d. 代谢性酸中毒的表现：Kussmaul呼吸、呼吸频率增加等。 四、诊断 乳酸性酸中毒的诊断主要依据临床表现、实验室检查和影像学检查。 实验室检查：a. 乳酸水平：血乳酸浓度明显升高（通常>5mmol/L），提示乳酸性酸中毒的可能。b. 血气分析：动脉血气分析显示代谢性酸中毒（pH低于7.35，碳酸氢根降低）。c. 生化指标：血糖、肝肾功能、电解质等指标有助于评估患者的病情和鉴别诊断。d. 肌酸激酶和其他酶类：如肌酸激酶（CK）、肌酸激酶同工酶（CK-MB）、谷丙转氨酶（ALT）等可协助诊断。 影像学检查：a. X光：如胸片、腹片等，有助于发现潜在病因（如肺部感染、肠梗阻等）。b. CT：如头颅CT、腹部CT等，进一步明确病因和病变范围。c. MRI：如头颅MRI、腹部MRI等，对某些病变具有更高的敏感性和特异性。 鉴别诊断：需要与其他引起代谢性酸中毒的疾病进行鉴别，如：酮症酸中毒、乙醇中毒、乙二醇中毒、肾功能不全等。 五、治疗 治疗乳酸性酸中毒需针对病因进行，同时进行对症治疗和并发症的预防。 基础治疗：a. 确保氧气供应：保持呼吸道通畅，提高吸氧浓度，必要时进行气管插管或机械通气。b. 液体复苏：输注生理盐水或平衡盐溶液，维持循环容量和组织灌注。c. 纠正休克：使用升压药物如去甲肾上腺素、多巴胺等，维持血压稳定。 针对病因的治疗：a. 缺氧性乳酸性酸中毒的治疗：解除缺氧原因，如纠正心肺功能不全、止血、补充血容量等。b. 非缺氧性乳酸性酸中毒的治疗：针对全身疾病、药物和毒素、遗传性疾病等进行相应治疗。 对症治疗：a. 缓解症状：止痛、止吐、镇静等。b. 纠正代谢性酸中毒：轻度酸中毒可通过改善循环和组织氧供进行纠正，重度酸中毒可使用碱剂如碳酸氢钠进行治疗，但需谨慎评估风险。 监测和预防并发症：a. 循环系统：监测心率、血压、尿量等，评估循环状态。b. 肾功能：监测肌酐、尿素氮、尿量等指标，评估肾功能。c. 肝功能：监测肝功能指标，如ALT、AST、总胆红素等。d. 神经系统：密切观察神经系统症状，如意识、肌力、反射等。 六、护理管理 1.一般护理措施：a. 观察生命体征：定期测量心率、血压、呼吸、体温等，及时发现异常情况。b. 病情监测：关注患者的症状变化，如疼痛、呕吐、神志等。c. 舒适度管理：调整床位，保持环境安静舒适，降低疼痛等不适。 营养支持：a. 能量补充：根据患者的代谢情况和营养需求，提供适量的能量补充。b. 适宜的营养物质：根据患者的病情和代谢特点，提供适宜的蛋白质、脂肪、碳水化合物等营养物质。c. 饮食管理：鼓励患者合理膳食，避免摄入高乳酸食物，必要时进行肠内或肠外营养支持。 康复护理：a. 早期康复：鼓励患者在病情稳定后进行适度的活动，如床边坐立、翻身等。b. 心理支持：关注患者的心理需求，提供心理疏导，帮助患者建立信心。c. 社会支持：协调家庭和社会资源，为患者提供必要的生活支持和康复服务。 七、预后评估 预后因素：a. 病因：缺氧性乳酸性酸中毒预后较差，非缺氧性乳酸性酸中毒预后相对较好。b. 病程：病程长，代谢紊乱严重的患者预后较差。c. 患者年龄和基础疾病：老年患者、存在严重基础疾病的患者预后较差。 预后评分：a. 序贯器官衰竭评分（SOFA）：可用于评估多器官功能障碍的严重程度。b. 简化急性生理评分（SAPS II）：可用于评估重症患者的病死风险。c. 乳酸水平及趋势：乳酸水平和清除速度与预后密切相关，持续升高或清除缓慢的乳酸水平提示预后较差。 预防复发：a. 针对性治疗：治疗病因，如改善循环、控制感染、调整药物等。b. 定期随访：定期进行实验室检查、生活方式指导等，评估病情变化。c. 病情教育：教育患者及其家属了解疾病的病因、病程、预防措施等，提高自我管理能力。 总之，乳酸性酸中毒是一种严重的代谢紊乱病症，紧密关联患者预后。在诊治过程中，需要充分了解病因、临床表现、诊断、治疗、护理管理和预后评估等方面的内容，为患者提供个体化、全方位的医疗服务，以提高患者生活质量和生存率。 |
