chatgpt是人工智能转折点吗 关于chatgpt的思考与分析
淘宝搜:【红包到手500】领超级红包,京东搜:【红包到手500】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
本文来自微信公众号:investguru (ID:investguru),作者:王川,原文标题:《王川:关于 chatGPT 的随想 (一)》,头图来源:视觉中国
1. 过去三个多月,大部分人都已经听到各种关于 ChatGPT 的铺天盖地的消息了。如果你还不清楚,ChatGPT 作为一种基于人工智能地用自然语言实现人机对话的工具,可以帮助你:
一本正经地写诗、小说、剧本;帮助学生做作业、写论文;写出一份看上去还不错的商业计划书;写各种捣浆糊的软文;根据自然语言指示,直接生产高质量的代码,用户界面设计;通过了医生和律师资格考试;翻译上万字的英文书籍到其它文字,据说翻译质量有些地方已经超过人工。
衍生的应用包括上传 PDF 文档后,自动读取信息,帮你提供总结,迅速回答关于此文的各种问题,等等。
2. 这个新工具的涌现是如此之快,以至于,不管现在的文章描绘什么样的功能,估算什么样的成本和费用,再过几个月,大概率会变得更好。
3. 根据各方面信息的综合,从 GPT-3 到 ChatGPT 在技术上的改进,主要不在于训练参数的增加,而在于对其进行对话方面的专门培训。这里有个概念叫做 “人工反馈增强学习” (Reinforcement Learning from Human Feedback,简称 RLHF)。
简而言之,就是每次模型生成文本,用人工反馈作为性能衡量标准,优化模型。RLHF 实践的第一个挑战是人工反馈成本相对比较昂贵;第二是不同的人对同样的输出可能会有不同的反馈,让语言模型无所适从。正确使用社交媒体,也可以看成是对自己的 RLHF 粉丝越多,获取反馈的成本就越低,这样培训自己的成本也越低,进步也越快。(当然需要注意的是,迅速拉黑没有任何价值的,不友好的反馈和抬杠)
4. AI 的算力成本主要分两部分,一部分是训练成本,一部分是推理 (inferencing)。练成本好比把一个小孩从生下来到 22岁大学毕业的教育成本。而推理成本好比要给大学毕业生支付工资,让他来帮你做事。
微软 、OpenAI 对于 ChatGPT 之类模型的具体训练和推理成本采取了一个刻意模糊和语焉不详的态度,大概是不想让竞争者知道太多实质性细节。从公开信息里大概可以了解到微软在 OpenAI 的计算上至少投入了一万台 GPU和价值十亿美元以上的算力成本。
5. 二月九号网上有 【【微信】】 为第一作者的文章 “Inference cost of search disruption - LLM cost analysis” 分析,基于日活用户一千三百万的分摊成本,算出 OpenAI 提供的推理服务的硬件成本大约每天 $694000 (需要 28936 个 GPU), 每个搜索成本在 0.36 美分左右。文章分析如果谷歌给普通用户提供同质的大语言模型的搜索服务,每年将增加三百六十亿美元的推理成本,这是它目前不愿意做的。
6. 另一方面, OpenAI 三月一号推出的最新的对于 ChatGPT API 调用的价格,每一千个词的输入处理只要 0.002 美元。反推的结论,就是目前其边际成本应当是略低于这个价格。实际成本数据估计非常复杂。但有一点可以确定,单位边际成本每个月都会下降。任何估算数字,你看到的时候,已经过时,高于实际成本了。
7. ChatGPT 现在给普通用户提供每个月 20 美元的付费服务,称之为 ChatGPT Plus,但 OpenAI 的主要营收,应当是来自给开发者和企业提供的 ChatGPT API 服务。早期的企业客户包括 Snapchat, Instacart 和 Shopify。
著名对冲基金 Citadel 创始人几天前宣布正在和 OpenAI 磋商购买整个企业内部使用 ChatGPT API 的软件许可证。有超过一千万日活用户的即时通讯软件 Slack,也宣布已经把 ChatGPT 的功能整合到自己的软件里了。
8. 推特上有一位网名叫debarghya_das 的作者三月二号发布了一个计算 OpenAI 的收入和利润的非常粗略的模型。算下来每小时的 A100 GPU 带来的收入是其成本的至少 2.1倍,一万张 GPU 一年带来的收入超过两亿美元。现阶段,OpenAI 的主要策略应当是不断降价以吸引更多的开发者进入其生态系统,分摊算力成本,利润多少相对次要。
9. 一个参考数据:2022年 AWS 的云计算收入大约八百亿美元 (2015年是八十亿美元),有机构估算,全球云计算市场规模到 2029 年预计达 1.7 万亿美元。OpenAI 作为 AI 市场领先者,来自 ChatGPT API 的收入五年内突破十亿、五十亿美元,甚至更高的可能性存在。目前暂时看不到天花板。
另外一个数据可以比较:微软 2016 年以二百六十亿美元的价格收购 LinkedIn,后者被微软收购后,在 2022 年的年收入就达到一百四十亿美元 。OpenAI 被用户追捧的热度和产品发展的潜力,显然远大于 LinkedIn ,有了微软的销售渠道,收入和利润潜力的想象空间,自然大很多。
这里还有两个关键,最大的开发者社区,拥有一亿活跃用户的 Github (远超所有其它竞争者),它的主人是微软;而微软的云服务 Azure,在全美市场份额占 23%,仅次于 AWS 在 Github 上开发人工智能应用,调用 ChatGPT 的 API ,再顺手部署到 Azure 的云服务上,将成为大部分第三方开发者阻力最小的选择。
10. OpenAI 积累了几个季度的营收数据后,可能到 2024 年的某个时段择机上市。当下的营收数据没有那么重要,只要能够显示出强劲的市场需求和增长,只要有投行愿意画大饼,勾勒出营收突破五十亿美元的路线图,那么大概率有足够多热钱愿意为之买单,支持二十倍营收,也就是至少一千亿美元的市值。
11. OpenAI 如果成功上市,在 2015年的原始几家风险投资机构的回报,可能达到 50 ~100 倍以上。他们一定拿着这个业绩去四处吹嘘,向机构投资者融资建立更大,几十亿、上百亿美元级别的,专门投资人工智能和相关应用的基金。
12. 微软是 OpenAI 的股东之一,和 OpenAI 有比较复杂的利润分成协议,但基本上在 ChatGPT 的问题上,可以把他们两家看成是一体的。微软会把此技术和其生态内其它工具如 Bing、Edge 浏览器、Office、Github、Azure 等牢牢绑定,帮助建立用户习惯和依赖性,扩大生态圈的影响力。微软有先发优势,规模成本优势和渠道优势。对于大多数用户和软件服务商而言,投入微软的怀抱,将是阻力最小的演化方向。
13. 除了微软之外, 英伟达(Nvidia),台积电 (TSMC)这两家公司是这波浪潮的直接受益者。英伟达 2021 年在 GPU 市场的份额超过 80%,并且有强大的 CUDA软件开发生态。台积电 2021 年在全球晶圆代工厂的市场份额超过 50%。
14. ChatGPT 语言模型的生成,微软在 OpenAI 的计算上至少投入了一万台 GPU, 所以如果没有上亿美元的原始投资,外人不可能在算力上和 ChatGPT 直接竞争。这还不包括需要获取海量的数据用于培训,软件工程师调算法模型等成本。
ChatGPT 本身也在不断进步,创业公司要想另起炉灶和微软展开军备竞赛,GPU 的投入是不能省钱的。Nvidia 的销售人员也一定会给你足够多的鼓励。人工智能的风投基金,最后相当比例的钱一定会去购买 Nvidia 的 GPU;这正如 Web2 风投的钱,相当比例去谷歌脸书打广告;Web3 风投的钱,相当比例去以太坊上变成 GAS 烧掉。
15. 人工智能的本质,就是做大量的矩阵乘法计算,这是大学里线性代数的必修课。如果要把军备竞赛升级,那就要去做自己的专用人工智能芯片,做一些专门的优化,以期待在算力成本上超越现有的 GPU,谷歌搞了自己的 TPU,特斯拉有 dojo,但要在单位算力成本上超越年收入两百亿美元的 Nvidia,一定要有巨大的生产规模,这是普通小公司无法参与的游戏。不管谁做自己的专用芯片,最后大概率会投入台积电的怀抱。台积电在亚利桑那州建造的晶圆代工厂,一定要忙死了。
16. ChatGPT 的主要收入来源是财大气粗的企业用户。微软的 Azure 2022年下半年在云计算上的收入是四百一十亿美元,在云计算的市场份额上大约是谷歌的两倍。ChatGPT 的很多功能可极大提高企业用户的效率,OpenAI 已经在和咨询公司 Bain 合作,用 ChatGPT 的技术帮助可口可乐提高市场营销和运营的效率。这个趋势只是刚刚开始。
这一方面可以增加微软的云计算的营收,另一方面可以分摊算力的成本,在单位算力成本上拉大对谷歌的优势,并以此进一步扩大其云计算的市场份额。微软的另外一块主要业务,“Producti【【微信】】ss”,2022 年下半年的收入为三百三十亿美元,包含 Office suite、ERP、LinkedIn 等服务,这块业务也同样将大大受益于 ChatGPT 的技术,增加营收,帮其分摊算力成本。
17. ChatGPT 可能直接颠覆“搜索点击广告”的商业模式。谷歌的收入超过 80%来自搜索广告业务,如果直接用同样的方式来迎接微软的挑战,新增的算力成本会大幅度减少利润。而微软本来在搜索领域市场份额就很低,可以完全不考虑盈利来获取搜索的市场份额。
另一方面,随着 ChatGPT 的功能的持续进步,网上用户使用习惯可能会慢慢脱离“搜索为主”的模式,而最终将搜索的商业模式边缘化。谷歌将处于一种 “Damned if I do, damned if i donot ” ( 伸头也是一刀,缩头也是一刀)的尴尬状态。
18. OpenAI 成功上市后会促进大笔热钱涌入,短期内制造更多 AI 领域的需求,部分公司营收增速极快,推高估值,对整个行业造成一波又一波的水涨船高的效应,在某个时间段内会产生“所有人都在发财,再不加入我就晚了”的错觉。
但大部分投资者最终都会在此领域亏钱,因为:一,所投的企业的竞争优势狭隘且短暂,很容易突然被新来的竞争者赶上并淘汰。二,所投企业的利润来源本身就是风投带来的热钱支持的企业,一旦风投资金增量减缓甚至萎缩,营收和利润萎缩也很快。三,投资时往往企业的 PE 值已经很高,把未来四五年的最乐观的预期增长情况都算进去了,一旦增速低于预期,市值很容易大幅下跌。
19. 投资高科技不等于发大财,散财的几率其实超过 90%。只有在高科技可以让极少数公司获得全面的垄断性时,这才可能发财。津津乐道高科技,而不讨论它是否,以及如何能带来权力和垄断,那就是 “连错都谈不上” (not e【【微信】】), 可以参考笔者的老文章:《王川:从权力和垄断的演化机制,看投资(一)》。
20. 极少数核心竞争力不在 AI 领域之内,但五到十年内不可能被 AI 所替代,可以利用 AI 大幅度提高效率,增收节支,强化其核心竞争力和垄断性的企业,也会是这波 AI 浪潮的赢家之一。九十年代后期互联网兴起时,一些传统消费类的企业如 Proctor & Gamble、Walmart、Coca cola,就是这样的例子。这一次有哪些类似的赢家,需要慢慢观察。
21. 但 ChatGPT 的意义远不在此。很多需要高技能的行业人员 (从程序员到律师,到游戏设计, 翻译等等)反映使用此工具对效率的提高从 30%到 80% 不等。这还只是序曲。这个工具本身还在加速变得更好。各行各业的效率的提高还会不断组合叠加。
22. 可以比较的是,瓦特 1776年推出可商用的蒸汽机,到1804年英国首次出现蒸汽机推动的火车,间隔28年。按照沃顿商学院教授 Ethan Mollick 的说法,十九世纪初美国的各类小工厂采用蒸汽机后,效率普遍提高 25%。1776年的美国人根本无法想象和理解,将近一百年后铁路贯通美洲大陆对经济模式和社会结构的革命性影响。1885年成立的斯坦福大学,其初期主要资金,就是来自铁路大亨的财富。
23. ChatGPT 已经开始对各行各业产生立竿见影的,比当年蒸汽机还要更大的效率提升,这意味着 AI 对人类社会的巨大影响将注定远超蒸汽机在十九世纪的影响。AI 时代的“火车”的涌现, 我们无需等待 28年,它将超越现在所有人最狂野的想象。
本文来自微信公众号:investguru (ID:investguru),作者:王川
如何引导ChatGPT写出好的论文 chatgpt通俗易懂的讲解
目录1 Transformer2 GPT-33 InstructGPT4 Sparrow5 RLHF6 TAMER7 PPO8 In-Context Learning8.1 Why Can GPT Learn In-Context8.2 What learning algorithm is in-context learning9 Prompt参考团队博客: CSDN AI小组 相关阅读 ChatGPT 简介从 ELMo 到 ChatGPT:历数…...
第一次知道霜波,是我印象中是阿里职级最高的测试,双11的大队长,现在她是乌鸫科技负责人和本地生活技术中台负责人,职级P10。为什么我要讲这个故事,很多人说测试没有前途,然而霜波就是从阿里的P6一直做到P10…...
Java 重写(【【微信】】)与重载(O【【微信】】) 重写(【【微信】】) 重写是子类对父类的允许访问的方法的实现过程进行重新编写, 返回值和形参都不能改变。即外壳不变,核心重写! 重写的好处在于子类可以根据需要,定义特定于自己的行为。 也就是说子类能…...
Python 元组的用法详解Python 中的元组(tuple)是一种有序的、不可变的数据类型,通常用于存储不同数据类型的值,如数字、字符串和其他元组。在本篇博客中将详细介绍 Python 元组的用法。创建元组创建元组的方法非常简单,…...
对于游戏开发者、网站站长来说最担心的就是服务器攻击,服务器一旦受到大量攻击,对游戏、网站、服务器影响都是比较大的,一般遇到了大量攻击,可以升级防御,升级防御后直接解封。但是防御的成本有些高,可以根…...
动画视图动画AlphaAnimationRotateAnimationTranslateAnimationScaleAnimationAnimationSet动画监听属性动画Property【【微信】】SetValueAnimator动画监听XML中使用animate()布局动画Interpolator自定义动画SVG矢量动画【【微信】】ctor实例――线图动画实例…...
目录 一、插入排序 二、希尔排序 三、选择排序 四、堆排序 五、冒泡排序 六、快速排序 七、归并排序 八、计数排序 一、插入排序 排序过程: 从第 j 个数字开始,往前面寻找比 arr[j] 小的数,如果找到比 arr[j] 小的数,假设…...
过滤器(filter) 一、主要功能 怎样在SALV中添加过滤器方法如下 通过方法get_filters()取得filter类CL_SAL【【微信】】的引用,调用方法ADD_FILTERS添加过滤的条件,过滤条件和range和select-options一样,用到了sign,optionÿ…...
2022年深圳杯数学建模 B题 基于用电可靠性的配电网规划 原题再现: 如果一批用户变压器(下面简称用户)仅由一个电源变电站(下面简称电源)供电,称为单供。这时配电网由电线和开关联接成以电源为根节点的树状…...
1、要实现ChatGPT需要哪些技术支持呢?自然语言处理(Natural Language Processing, NLP):NLP 是实现语言模型的基础技术,它可以对人类语言进行分析和处理,例如语义理解、词法分析、实体识别等等。在ChatGPT的…...
交通预测一直是一个重要的问题,它涉及到交通运输系统的可靠性和效率。随着人工智能的发展,越来越多的研究者开始使用深度学习模型来解决这个问题。其中,基于Transformer的交通预测模型在近年来备受关注,因为它们具有优秀的建模能力…...
前言 leetcode前言1 ? [21]合并两个有序链表 Easy 2023-02-22 2222 [102]二叉树的层序遍历 Medium 2022-09-21 2023 ? [33]搜索旋转排序数组 【【淘密令】】-08 1974 ? [20]有效的括号 【【微信】】12 1945 ? [5]最长回文子串 【【淘密令】】-05 1936 ? [121]买卖股票的最…...
代码清单 1.1 命名规范 常量的命名变量的命名方法的命名应该使用动词类名应该使用名词命名应该清晰 1.2 NPL处理 方法入参检验返回对象检验 1.3 单一职责原则 不应该有重复的代码方法不应该过长,过长考虑是否可以拆分方法必须明确做的事情方法只能做一件事 &…...
文章目录一、k8s调度简介二、影响kubernetes调度的因素1.nodeName2.nodeSelector3.亲和与反亲和(1)node亲和:nodeaffinity(2)pod 亲和:podaffinity(3)pod 反亲和:podantiaffinity4.Taints:污点5.cordon、drain、delete一、k8s调度简介 调度框架…...
SPI总线 简介 高速、全双工、同步的串行通信总线SPI采用主从方式工作,一般有一个主设备和多个从设备通信至少需要四根线MISO(主设备输入从设备输出)、MOSI(主设备输出从设备输入)、SCLK(时钟)、CS(片选)有多个从机则必须大于四根线引脚较少且布线方便 寻址方式 当主…...
文章地址:https://arxiv.org/pdf/2302.01115.pdf 一、一些基础知识点 多任务、多场景 原文:Multi-task methods focus on fitting target distributions of different tasks, but ignore the semantic differences in the feature space under multi-do…...
structural co【【微信】】 结构协方差网络 结构协方差网络是一个较老的概念,只是近年受到了一定的重视。 大佬 Aaron Alexander-Bloch 在2013年通过一篇综述描述了这种结构协方差网络的应用意义及前景。 既往一般是在bold信号和【【微信】】建立连接…...
第一个Vue应用 <!【【微信】】> <html lang"en"><head><meta charset"UTF-8" /><【【微信】】"【【微信】】" 【【微信】】"IEedge" /><【【微信】】"【【微信】】" 【【微信】】"【【微信】】…...
工作生活压力不断增加,睡眠不好渐渐成为普遍问题。如果入睡困难,有一个简单的方法可以试试:用鼻子吸气4秒,然后憋气7秒,再呼气8秒,以上循环3次,你就会感到困意。先坚持一天做两次,持…...
作者:银河罐头 📋系列专栏:JavaEE 【【微信】】;“种一棵树最好的时间是十年前,其次是现在” 目录实现博客列表页预期效果导航栏页面主体左右布局左侧区域右侧区域完整代码实现博客详情页预期效果导航栏 左侧右侧完整代码实现…...
前提 【【微信】】 管理后台项目 业务需求:前端实现数组对象数据顺序可修改,并将修改传递给后台; 依赖版本: “vue”: “^3.2.37”, “ant-design-vue”: “^3.2.11”, “【【微信】】”: “^4.1.0”, 秉承着能不造轮子就不…...
【ROS学习笔记16】ROS常用仿真组件URDF集成Xacro 文章目录【ROS学习笔记16】ROS常用仿真组件URDF集成Xacro前言1. URDF优化Xacro1.1 Xacro快速体验1.2 Xacro语法详解1.3 Xacro完整使用流程示例1.4 Xacro实操2. Arbotix控制机器人运动2.1 Arbotix使用流程Reference写在前面&…...
增强样点自适应补偿(Enhanced Sample Adapti【【微信】】)是AVS3中新增的环路滤波技术,和SAO相比其更充分的考虑了纹理和边缘方向特征。ESAO是在整帧的层面是对所有像素进行分类,然后对每一类像素分别传输一个偏移量进行偏移补偿&…...
1. 打开”属性“设置首先我们要【右击“计算机 或者是 此电脑”】,点击【属性】按钮。2. 高级系统设置然后点击【高级系统配置】按钮:接着选择【高级】选项卡,再点击【环境变量】按钮:3. 新建JA【【微信】】系统变量接下我们需要在【系…...
记录并分享一下在c下搭建【【淘密令】】服务器,并实现与浏览器js的通信过程 1、下载【【淘密令】】pp库 【【淘密令】】pp是一个c的【【淘密令】】库,github地址为:https://github.com/zaphoyd/【【淘密令】】pp/ 其使用文档可以参考http://docs.【【淘密令】】pp.org/。 …...
目录 1. 模型介绍 2. matlab实现 3. Tensorflow2.0实现 1. 模型介绍 YOLO(v1)全称为【【微信】】,是一种基于深度学习的物体检测算法。与传统的物体检测方法(如R-CNN、Fast R-CNN等)不同,YOLO算法只需要一次前向传递网络…...
本文整理于博文ARM指令ldr和adr的区别_ldr adr,有修改。 一、使用格式 我们先弄清楚ldr与adr的使用格式。adr是伪指令,而ldr根据使用的格式可分为ldr指令与ldr伪指令。 1、adr伪指令 格式:adr{cond} Rd,addr 功能:将基于PC相对…...
🍏🍐🍊🍑🍒🍓🫐🥑🍋🍉🥝 详 解 C 如何用数组实现最高效的"单调队列" 文章目录【【微信】】;常见疑惑?🔥经…...
从前序与中序遍历序列构造二叉树 leetcode题目链接 给定两个整数数组 【【淘密令】】 和 inorder ,其中 【【淘密令】】 是二叉树的先序遍历, inorder 是同一棵树的中序遍历,请构造二叉树并返回其根节点。 输入: 【【淘密令】】 [3,9,20,15,7], inorder [9…...
ubuntu系统自带的imagemagick没有c函数库,需要能重新下载一个新一点的库,重新编译并且安装 一、教程 官网详细教程:https://imagemagick.org/script/install-source.php 源码编译: 下载: git clone https://githu…...
目录 一、Zookeeper 入门 1.1 概述 1.1.1 Zookeeper 工作机制 1.2 Zookeeper 特点 1.3 数据结构 1.4 应用场景 1.4.1 统一命名服务 1.4.2 统一配置管理 1.4.3 统一集群管理 1.4.4 服务器动态上下线 1.4.5 软负载均衡 1.5 下载地址 二、Zookeeper 本地安装 2.1 本…...
vuex有哪几种属性?vuex是什么?【【微信】】ctionsModulevuex是什么? vuex 是 Vue 配套的 公共数据管理工具,它可以把一些共享的数据,保存到 vuex 中,方便整个程序中的任何组件直接获取或修改我们的…...
一、hadoop版本号确认1. hadoop > 2.7.2[rootdm46 TDH-Client]# hadoop 【【微信】】.7.2-transwarp-6.2.0Sub【【微信】】://xxxx:10080/hadoop/hadoop-2.7.2-transwarp.git -r f31230971【【微信】】621366826【【微信】】ins on 2019-07-27T11:33ZCompi…...
场景待入快速理解小场景描述:【一群人】来到【一个大厅】办理业务,大厅中有【多个窗口】给我们办理业务。每个人都有自己要办事情,处理过程需要消耗时间。大厅根据人群多少,开始窗口梳理。如果把“一群人”理解成一群待处理的n个【…...
安装mysql 5.7 容器执行安装命令$ docker run -itd --name mys【【微信】】 -e MYSQL_ROOT_PASSWORDroot mysql查看执行结果使用navicat等数据库连接工具,连接mysql容器,默认用户名为root,密码即root创建数据库person,创建…...
请访问原文链接:https://sysin.org/blog/kali-linux-2023/,查看最新版。原创作品,转载请保留出处。 作者主页:www.sysin.org 更新说明 2023 年 3 月 13 日,星期一 Kali Linux 2023.1 发布(Kali Purple 和…...
一、算术运算符:标志位:(1)Cy:最高位溢出(2)OV:最高位和次高位其中之一有溢出(3)AC:低四位向高四位进位(4)P:偶…...
网上的文章五花八门,不写SpringBoot的版本号,导致代码拿来主义不好使了。 本文采用的版本 SpringBoot 2.7.7 Java 1.8目录1、默认访问路径2、整个项目增加路由前缀3、通过注解方式增加路由前缀4、按照目录结构添加前缀参考文章1、默认访问路径 packag…...
埃里克米克利希 编写棒球规则并不是 19 世纪唯一发生多次变化的领域。随着击球手和投手之间竞争平衡的转变,规则进行了调整以保持比赛的平衡。这受到修改这些位置的物理域以及它们之间的距离的影响。投手所在的区域从一条








