chatgpt海量数据算力 chatgpt催生高算力需求
2023年11月20日 每日一猜答案：。 答案：ABC。 每日一猜答案分析：
海量数据计算,海量数据快速查询,海量数据实时查询,海量数据app摘要:国产自主意识爆发,3.14,亿铸率先提出存算一体超异构,引领新一代技术潮流。
AI 3.0时代,国产自主意识爆发
ChatGPT自出世以来,在国内AI界卷起千层浪:
先是百度、科大讯飞等AI大厂纷纷表示自己有着类ChatGPT能力;再是国家发布东数西算一体化算力服务平台,支撑中国人工智能运算平台急需的大算力服务。
而大算力的实现,都需仰仗“大脑”AI芯片。
纵观AI芯片在国内的发展史,我们大致可以将AI芯片国产化分为几个时代。
在AI芯片国产化1.0时代,继Google推出ASIC芯片后,国内寒武纪、灵汐、华为等国内厂商陆续跟上脚步,针对云端AI应用推出ASIC架构芯片。
接着AI芯片国产化进入2.0时代。在看到以英伟达为代表的GPGPU架构在AI算力芯片上有着不错的性能表现后,国内多个厂商例如天数智芯、珠海芯动力、壁仞等纷纷布局GPGPU芯片,主打CUDA兼容,试探着AI算力芯片的极限。
在前两个时代中,国产AI芯片厂商都在竭力顺应时代潮流,前赴后继地跟随国际大厂的步伐,通过研发最新芯片解决AI算力芯片的挑战。
现如今,随着ChatGPT等大模型掀起热潮,我们站在AI芯片国产化3.0时代的门口,面对越发严峻的地缘政治处境,国产芯片厂商自主意识更为强烈,希望能够自发提出芯片解决方案。
例如,国内AI大算力芯片企业亿铸科技,已为中国的AI大算力芯片一次又一次提出先进的解决方案:
先是在2020年,亿铸科技一成立就尝试通过架构创新突破冯・诺伊曼瓶颈,成为首个研发基于ReRAM(RRAM)全数字存算一体AI大算力芯片的企业,为解决国内AI算力尤其是大算力的困局提供了新的方向。
再是今年3.14日,在《电子创新网》“从ChatGPT的角度聊聊存算一体AI大算力芯片”直播中,亿铸科技创始人熊大鹏博士首次提出“用存算一体超异构做AI大算力芯片”的技术思路。
亿铸科技多次提出新解法是因为,种种迹象表明,AI算力难题愈发严重,国产化AI芯片的处境越来越难。
先是算力本身就因摩尔定律失效在加速狂飙,每5-10个月就要翻倍:
(不同机器学习时代的算力增长趋势 图源:浙商证券研究所)
到2021年,全球计算设备算力总规模达到615EFlops,增速44%。浙商证券预测,2030年,算力有望增至56ZFlops,CAGR达到65%。而这还是ChatGPT还未降临之时,正常的算力需求预测值。
(全球算力规模及增速 图源:浙商证券研究所)
2022年底,ChatGPT来临之后,无疑又将拔高算力的增长曲线:
根据通信世界数据,ChatGPT的总算力消耗约为 3640PF-days (即假如每秒计算一千万亿次,需要计算3640天) ,需要 7-8个投资规模30亿、算力500P的数据中心才能支撑运行。
而这才是参数规模1750亿的GPT-3,除此之外还有参数5620亿的PaLM-E……彼时,算力以及其背后的功耗还能顾得过来吗?
AI算力需求如脱缰的野马,但FPGA、ASIC、GPGPU等芯片本身,已苦于先进制程久矣。据芯粒说表示,目前芯片先进制程升级面临着性能极限、技术极限、成本极限。成本极限具体来说就是,到了5nm以下,建造一座先进制程的晶圆厂动辄需要上百亿美元的投入。
钱是花了,工艺是卷到头了,但能效比提升有限:
传统架构下,由于数据需要频繁地在存储、计算单元间来回跑,随着数据越增越多,“存储墙”、 “能耗墙”、“编译墙”等问题也愈发严重。
现如今,这“三堵墙”已导致大量算力无谓浪费:据统计,在大算力的AI应用中,数据搬运操作消耗90%的时间和功耗,数据搬运的功耗是运算的650倍。
ChatGPT们正提出“极为离谱、不切实际”的算力需求,而芯片们又陷入先进制程升级濒临极限、能效比提升受阻等困境,时代正呼吁着新鲜的血液注入AI大算力芯片。
突破天花板的底气
亿铸科技自发提出的存算一体架构、存算一体超异构计算皆能为AI大算力困局“排忧解难”:
存算一体架构,将存储和计算的融合,能够打破传统架构下的三堵墙,彻底消除访存延迟,并极大降低功耗。同时,由于计算完全耦合于存储,因此可以开发更细粒度的并行性,获得更高的性能和能效。
超异构计算,能够把更多的异构计算整合重构,从而各类型处理器间充分地、灵活地进行数据交互而形成的计算。
简单来说,就是结合DSA、GPU、CPU、CIM等多个类型引擎的优势,实现性能的飞跃:
? DSA负责相对确定的大计算量的工作;
? GPU负责应用层有一些性能敏感的并且有一定弹性的工作;
? CPU啥都能干,负责兜底;
? CIM就是存内计算,超异构和普通异构的主要区别就是加入了CIM,由此可以实现同等算力,更低能耗;同等能耗,更高算力。另外,CIM由于器件的优势,能负担比DSA更大的算力。
亿铸科技创始人、存算一体 AI 大算力芯片的开拓者熊大鹏博士表示,其好处在两个方面:一是在系统层,能够把整体的效率做到最优;二是在软件层,能够实现跨平台架构统一。
亿铸选择将两大技术结合,即“存算一体超异构”的想法,与苏妈的“系统级创新”不谋而合:在ISSCC 2023,苏妈提出系统级创新概念,即从整体设计的上下游多个环节协同设计来完成芯片性能的提升,并给出使用该概念实现数量级的效率提升案例。
也就是说,若是将存算一体、Chiplet(芯粒)、3D封装等技术同步使用,很有可能带来数量级的效率提升,从而突破性能瓶颈。
亿铸提出这一极具创新度的构想,也是因为其底气十足。亿铸科技拥有实力雄厚的研发、工程及顾问团队:
其核心研发团队成员均为来自国内芯片大厂的资深专家,毕业于斯坦福大学、哈佛大学、上海交通大学、复旦大学和中国科学技术大学等。研发能力覆盖工艺器件、架构设计、电路设计和软件生态等全链条;
其工程团队核心成员平均拥有25年以上的高端集成电路设计和量产经验,有着丰富的应用和产品化实战经历。
基于此,作为首发存算一体超异构概念的亿铸科技,提出了自己的技术畅想:
若能把新型忆阻器技术(RRAM)、存算一体架构、芯粒技术(【【微信】】)、3D封装等技术结合,将会实现更大的有效算力、放置更多的参数、实现更高的能效比、更好的软件兼容性、从而抬高AI大算力芯片的发展天花板。
(关于存算一体+超异构 做AI大算力芯片的技术畅想 图源:亿铸科技)
一方面,ChatGPT等大模型的发展对算力提出了史无前例的要求,吞噬着算力与能源;
另一方面,ChatGPT也为存算一体架构、超异构等技术带来核级推动力。无论是大厂和初创公司,都在为突破算力瓶颈“奋力一搏”。基于亿铸科技有最适合大算力的器件(RRAM),再加上3D封装和【【微信】】等技术,熊大鹏博士表示,亿铸科技能够为解决存储墙、能耗墙问题带来杀手级的硬件解决方案。
在摩尔定律几近终结、ASIC、FPGA以及GPGPU架构能效比难以提升的当下,亿铸科技率先提出“存算一体超异构架构” 这一全新的技术发展路径,为我国AI大算力芯片进一步发展,增添了新的动能。
对抗ChatGPT，谷歌Bard公测炸场了：巨头开启AI对决｜GGView
谷歌 alphabet,google brain team,谷歌bbr,谷歌baselineGGV有话说：
面对OpenAI和微软的步步紧逼，谷歌终于不再坐以待毙。
近日，谷歌宣布正式开放旗下ChatGPT竞争对手Bard的公测，首先将面向美国和英国地区启动。目前这两个国家的用户都可以在【【网址】】上进行排队等候，随着测试的推进Bard也会逐步在其他地区上线。
但相较于OpenAI和微软踌躇满志的状态，此前在Bard栽了“翻车”跟头的谷歌显然更加谨慎。不同于New Bing的大规模开放策略，Bard的测试名额将被逐步放出，同时初始版本将只能对文本响应。
此次，谷歌也向大家展示了更多关于Bard使用界面、功能等信息。
今天的GGView ，让我们一起看看未来我们将如何在Google上使用Bard，以及它跟New Bing有什么不同。
本文授权转载自硅星人（ID：guixingren123）
文 | Juny 编辑 | 【【微信】】
同样的AI配方，更强的“求生欲”
总体来看，谷歌的Bard跟New Bing的使用模式和功能基本一致。此次Bard也为用户提供了一个单独的聊天界面，用户可以在文本框中进行提问和搜索，比如让Bard帮你写一个计划、列一个食谱、帮你搜索一个冷知识等。
但在定位上，谷歌强调 Bard 并不是其搜索引擎的替代品，而是“搜索的补充”, Bard自称为“你具有创造力的得力协作者（Collaborator）”，而New Bing则把AI助手称之为“副驾（Copilot）”。
当你在Bard上提问之后，在答案的最下方有四个按钮，分别是点赞、不喜欢、重新生成和Google it。 也就是说你在聊天界面内可以无缝连接到谷歌的主要搜索界面，二者将互为补充。
但New Bing目前能够给AI生成答案提供信息来源，以及基于生成答案自动提供拓展问题的功能目前Bard还并不具备。这或许也将在一定程度上影响Bard的信息产出的可信度，以及给搜索信息场景扩展带来局限。
New Bing的AI对话机器人界面
但Bard也有比New Bing做得更多的地方。当用户提出一个问题之后，Bard能直接帮用户生成3个不同版本的答案，你只需要选择 “查看其他草稿”，就可以在这些草稿中切换，并根据你的内容喜好进行选择。
总体来说，从AI功能上来看，Bard跟New Bing大同小异。 但在New Bing上线后曾出现的混乱和批评的前车之鉴之下，此次谷歌Bard最大的特点就是整个界面都透露出谷歌满满的“求生欲”。
无论是在Bard提问的文本框下面还是答案生成框下方，时刻都写着一行小字，提醒用户“Bard可能生成不准确或者略带攻击性的信息，但并不代表谷歌官方观点”。在你开始使用Bard之前，也会先明确提醒你Bard目前还只处于实验阶段，在页面Bard logo的旁边也有一个大大的experiment的标志。
在今天的官方博客中，谷歌甚至还自己先举出了一个Bard回答错误的例子，给用户打好“预防针”，让大家做好预期管理。
承载着谷歌“全村的希望”，Bard是否能一雪前耻？
谷歌这次的谨慎完全可以理解，毕竟，一个月前Bard首次亮相时一个事实的错误就端掉了谷歌1200亿美元的市值。当时谷歌曾信誓旦旦地表示Bard不仅能够胜任ChatGPT的所有角色，还能比ChatGPT更负责任，但没想到立刻就在演示中翻了车，不仅Bard被一顿群嘲，谷歌最近也一直被微软“压着打”。
而这次开启公测Bard，谷歌明显吸取了上次的教训，态度上更加谦虚，发布的信息准备也更加全面充足。据了解，在Bard翻车之后，谷歌CEO皮柴给公司全员发布了内部信， 一方面告诉大家要稳住心态，另一方面号召谷歌全体员工积极参与Bard的内测，并公布了Bard完整训练指南。
在该指南中，谷歌强调了如何构建“负责任AI”，让员工向Bard提问并评估其回复，并标注出如不符合事实等不当回复。同时也明确了可做和不可做的事项，包括不要将Bard描述为一个人、不要进行情感暗示等。特别强调了当发现AI生成了仇恨、有害、虚假、非法或辱骂或征求敏感信息的内容的时候要进行标记并上报给团队。
谷歌此前提供给员工的Bard训练指南，图片来自Business Insider
跟目前开放的公测界面类似，员工在测试期间也有“点赞”和“踩”的按钮，能够帮助快速分类信息。消息显示， 在过去的几周中，已有8万谷歌员工参与了测试，很多员工每天都要花上2-4小时和Bard进行对话和提供测试反馈。
在内部会上皮柴曾暗示，在推出Bard这件事上谷歌不是一定要赶时间，而是首先要保证技术的可靠性。如今Bard正式开启公测，似乎也意味着在过去几周中Bard已经通过一些内部的审核标准。
拿到内测资格之后，硅星人今天也第一时间对Bard进行了测试。当被问及认为自己跟GPT-4有什么区别时，Bard显现出了相当的自信，Bard表示虽然自己跟GPT-4都是大型语言模型，但自己使用了5000亿参数进行训练，而GPT-4只有1750亿，所以自己能比GPT-4产出更复杂、更具相关性的内容。
图片来自硅星人对Bard的提问测试
乍听之下好像没问题？但仔细一品你就会发现，在这一段中也出现了一些不够准确的信息。比如没有准确描述GPT-4重要的多模态模型特征，同时，目前OpenAI官方并没有 公布GPT-4使用了多少参数进行训练，1750亿参数只是GPT-3的训练量。在这段回答中，Bard似乎直接将GPT-4处理成了GPT-3，因此也导致了Bard的自信结论的“崩塌”。
但提供不准确的回答是不是意味着Bard能力不行呢？硅星人用同样的问题问了New Bing，以下是New Bing给出的回答。
硅星人对New Bing的测试提问
虽然没有什么事实的错误，但New Bing给出的回答落点很偏、逻辑也比较混乱，先是说了Bard和ChatGPT训练数据集时间的不同，接着就又说专家相信GPT-4会让ChatGPT看起来像个笑话，回答内容逐步远离所提的问题。
如果就这一个问题的表现来看，Bard的内容逻辑架构明显要比New Bing更好，但从信息可靠度来看，New Bing目前至少做到了不出错。
Bing日活已突破1亿，谷歌试图后来居上
众所周知，谷歌在AI之战上是起了个大早、赶了个晚集。最近OpenAI和微软发起的猛烈攻势可以说是把谷歌逼到了悬崖边上。
本月初，在New Bing上线一个月之际，微软官方发布了最新的数据统计，表示 一个月以来，New Bing共吸引了超过百万的新用户，在此推动之下，现在Bing每日活跃用户已经突破了1亿大关。其中，大约有三分之一的用户每天在使用 Chat 的功能，平均每个会话约有 3 次聊天，总聊天次数超过 4500 万次。
除了在搜索之外，在谷歌Chrome统治的浏览器领域，集成了AI能力的Edge也开始发力抢夺用户，微软“搜索+答案+聊天+创造”生态正在逐渐形成。
微软宣布Bing用户突破1亿，图片来自微软官方
对于微软的进攻，谷歌不可能不着急。这段时间，两家公司基本都处于你来我往、见招拆招的状态，只要一家开了AI发布会或者宣布新产品，另外一家必定隔天就会放出新消息。如今两家的战火已经从搜索、浏览器一路烧到了办公软件领域。
对于已经落后一步的谷歌来说，想要短时间突破微软的包围并不容易。 但在搜索领域，谷歌所占据的得天独厚的地理位置也让它“易守难攻”，只要接下来Bard不频繁翻车或者出现什么大离谱事件，Bing很难对它造成很大威胁。
同时，瞄准ChatGPT目前所存在的技术缺陷，着力解决信息安全和可靠的问题，也可能成为谷歌弯道超车的机会。
对于ChatGPT的威胁，此前皮柴就曾表示，谷歌过去一些最成功的产品也并不是第一个推向市场的。之所以能够最后取得成功是因为谷歌重视了用户的需求，并建立在深刻的技术洞察力之上，随着时间的推移才最终赢得了用户的信任。在AI的竞争上，谷歌将依然如此。
而随着今日Bard的出场，微软和谷歌的搜索之战或许才刚刚拉开帷幕。那么，你更看好谁呢？欢迎大家留言讨论。
*内容已获独家授权，如需转载请联系硅星人（ID：guixingren123）。
温馨提示：虽然我们每天都有推送，但最近有读者表示因平台推送规则调整，有时候看不到我们的文章~
欢迎大家进入公众号页面，右上角点击“设为星标”点亮，收藏我们的公众号，新鲜内容第一时间奉上！
*文章观点仅供参考，不代表本机构立场。返回搜狐，查看更多
责任编辑：
