LLM之战，谷歌输了！越来越多顶尖研究员跳槽OpenAI
2023年11月20日 每日一猜答案：。 答案：ABC。 每日一猜答案分析：
之战百科新智元报道
编辑：Britta Aeneas
【新智元导读】如今，谷歌最具开创性论文的许多主要贡献者已经离开，或是加入了OpenAI等竞争对手，或是创办了自己的公司。LLM之战，谷歌终是输了？
前几天，谷歌差点遭遇一场公关危机， Bert一作、已跳槽OpenAI的前员工Jacob Devlin曝出，Bard竟是用ChatGPT的数据训练的。
随后，谷歌火速否认。
而这场争议，也牵出了一场大讨论：为什么越来越多Google顶尖研究员跳槽OpenAI？这场LLM战役它还能打赢吗？
知友回复
莱斯大学博士、知友「一堆废纸」表示，其实谷歌和OpenAI的差距，是数据的差距。
「OpenAI对LLM有强大的执念，这是Google这类公司完全比不上的。当然人的差距只是一个方面，数据的差距以及对待数据的态度才是其成功的关键。人可能可以花钱挖回来，技术可能可以补上，但数据的差距Google短时间内没法追上。」
https://arxiv.org/abs/2303.10158
显然，ChatGPT的成功中，至关重要的一环，就是高质量的标注数据。
「一堆废纸」介绍，OpenAI对数据和标签质量的重视程度令人发指，对标注人员的选择极为严苛（有考试），最后甚至会发放问卷。正是这种执念造就了GPT模型的成功，这是Google根本比不上的。
而随着上亿用户不断给OpenAI提供新的数据，谷歌和OpenAI的差距只会越来越大。
Data-centric AI的理念，奠定了OpenAI的成功。
自然语言处理、深度学习话题的优秀答主「张俊林」表示，OpenAI已经把所有人都甩开了一大截。
包括Google在内，其实对于LLM发展理念的理解，明显都落后OpenAI一个身位。现实是OpenAI表现过于优秀，把所有人都甩开了，不仅仅是国内。我觉得，OpenAI对LLM在理念及相关技术方面，领先国外的Google、DeepMind大约半年到一年的时间，领先国内大概两年左右的时间。
知乎答主「周道道」表示，谷歌近期的翻车和OpenAI以对比，必然给了这些顶尖的研究员巨大的震撼。
另外，据说OpenAI相对谷歌也会给研究员更多的资源和更宽泛的要求，毕竟OpenAI更像是一个研究机构，而谷歌更像是把AI当成产品在研发的部门。
而答主「陈大宝」的回答可谓非常扎心。
未来商业历史会记录两个又经典又嘲讽的案例：
1.柯达发明了数码相机
2.谷歌发明了transformer
图源：「陈大宝」
评论区还惊现了利益相关匿名人士。
又一名匿名人士说到点上了。
知友「飞了个猪的」点出来了谷歌作为大公司的「创新者困境」。
又一利益相关匿名人士出现。
知友「周星楠(Bill)」总结道，谷歌这样的大公司就是要去人材化，基于policy，所有大家都是螺丝钉。
而Insider为我们总结了一篇长文，盘点了这些年从谷歌人工智能团队流失的顶级人才。
人才都去哪了？
谷歌为人工智能领域贡献了一些很重要的研究。然而，该公司在将创新转化为产品方面一直进展缓慢。
因此，顶级人工智能研究人员纷纷离开，去往那些可以产生更大价值和影响的初创公司，例如OpenAI，Character.AI，DeepMind，Cohere，Inceptive。
谷歌已经处于防守地位，时时刻刻会失去人工智能领域领先的地位。而顶级研究人员的离开，更是加剧了这一问题。
Cohere的联合创始团队I【【微信】】, Aidan Gomez, 和Nick Frosst
虽然谷歌可能处于防守模式，但其实它没必要这样的。该公司自己创造了许多基础技术，为ChatGPT等产品提供动力。它还将其研究作为开放源码提供，这在某种程度上讽刺了OpenAI的迅速崛起。
由于担心该技术会对其业务造成声誉上的损害，谷歌长期以来一直对发布类似于ChatGPT的聊天机器人犹豫不决。
谷歌大型语言模型LaMDA背后的两位研究人员Daniel De Freitas和Noam Shazeer离开了公司，他们对公司迟迟不发布类似ChatGPT的聊天机器人感到沮丧。
其他前谷歌研究人员也认为，在人工智能如此激动人心的时代，创业公司会为研究人员提供成果的所有权，并且自己会发挥更多价值和影响。
以下是人工智能领域最引人注目的一些论文，这些论文的研究人员已经离开谷歌去了别的公司。
Ilya Sutskever
「用神经网络进行序列到序列学习」发表于2014年，这篇序列到序列论文探讨了训练语言模型，将一个领域的单词序列转换为另一个领域的序列。例如，将一个英语句子转换为法语句子。
Ilya Sutskever领导了这篇论文的研究。他在担任了近三年的研究科学家后于2015年离开谷歌。Sutskever是OpenAI的联合创始人，并继续作为其首席科学家在那里工作。
注意力是你所需要的一切
这篇Transformer的重磅论文，如今引用量已经突破七万次。Transformer被认为是自然语言处理方面的一个突破。它通过同时观察句子中的每个词并权衡每个词的重要性来收集上下文的细微差别，从而帮助人工智能理解含义。
而ChatGPT中的「T」代表的就是Transformer，足以见得这篇论文的重要性。
不过，本文的八位作者，除了Llion Jones，都已经离开了谷歌。
Ashish 【【微信】】在五年后离开了谷歌大脑（谷歌的深度学习人工智能研究团队），创办了Adept公司，该公司最近筹集了3.5亿美元，建立生成性人工智能工具，帮助人们更有效地使用生产力软件。他最近离开了Adept，去了一家隐秘的创业公司。
Noam Shazeer现在是Character.AI的CEO。
Niki Parmar在五年后离开谷歌大脑，担任Adept公司的联合创始人和首席技术官，不过和【【微信】】一样，她最近也离开了，去了一家隐秘的创业公司。
Jakob Uszkoreit在谷歌工作了13年，从事神经网络和深度学习。他现在是Inceptive的联合创始人，这是一家利用深度学习来设计新疗法的初创公司。
Aidan Gomez是Cohere公司的联合创始人和首席执行官，该公司已经筹集了大约1.6亿美元，帮助开发者将生成性人工智能纳入他们的应用程序和网站。他在谷歌大脑做了一年半的研究员。而他在Cohere的联合创始人Nick Frosst在谷歌大脑做了四年的研究员。
Lukasz Kaiser在谷歌大脑工作了7年多后离开了谷歌大脑，于2021年加入了OpenAI。Kaiser最近在OpenAI的GPT-4白皮书中被引用为其长语境能力的核心贡献者，他让聊天机器人在忘记讨论的语境之前，可以进行更长的对话。
Illia Polosukhin在谷歌大脑从事了三年的深度学习和自然语言理解工作。他在2017年离开，创办了Pagoda，一个Web3创业平台。
建立一个类似人类的开放域聊天机器人
这个论文介绍了谷歌最初的聊天机器人Meena，探讨了聊天机器人如何通过研究从公共社交媒体对话中搜取的数据来学习谈论话题。它还介绍了谷歌创建的一个来评定聊天机器人说话表现的测试。
这篇论文是大语言建模的另一个重要里程碑，作者认为他们可以在没有硬编码训练的情况下，做出一个大语言模型，对问题产生类似人类的反应。
作者之一Daniel De Freitas在谷歌大脑做了五年的研究员后，担任Character.AI的联合创始人和总裁。
De Freitas在Character.AI的同事Romal Thoppilan对本文也有贡献。
左为Romal Thoppilan；右为Daniel De Freitas
LaMDA：对话应用的语言模型
LaMDA是对话应用的语言模型的缩写，也是聊天机器人Bard的基础。它在2020年作为Meena首次演示，但谷歌从未向公众发布Meena。谷歌人工智能研究部门的前雇员解释说因为谷歌担心机器人会发表有害的评论，这会是一场公关的噩梦。
LaMDA背后的几个主要研究人员已经离开了谷歌大脑。
Daniel De Freitas和Noam Shazeer去年成立了Character.AI这家公司，他们最近筹集了大约2亿美元来创建以各种角色形式说话的聊天机器人，从马斯克到治疗师到生活教练的各种角色。
Romal Thoppilan在谷歌大脑工作了7年之后，担任Character.AI的创始研究员。
Alicia Jin在接近2022年底时加入Character.AI，担任研究工程师。她曾在谷歌大脑工作了三年。
BERT
BERT（Bidirectional Encoder Representations from Transformers）建立在自然语言处理的Transformer模型上，经过预先训练，可以很好地完成两项任务：掩蔽语言建模和对下一句话的预测。换句话说，BERT试图预测隐藏的或「被掩盖的」词语，迫使算法努力学习更多关于周围文本的知识，更好地预测隐藏的词语。
如果你输入「你能为别人的药房买药吗」，它将理解「别人」是查询的一个重要部分。
谷歌早在2019年就开始将BERT纳入搜索引擎之中。这是自2015年纳入另一种机器学习算法RankBrain以来，搜索准确性方面的最大进步之一。
Jacob Devlin是这篇论文的主作者，而他在ChatGPT推出前不久加入了OpenAI。
T5
T5论文的正式名称是「用统一的文本到文本Transformer探索转移学习的极限」，它建立在BERT的基础上，非常适合于翻译和总结等任务。
领导这篇论文的Colin Raffel在2021年离开之前，在谷歌大脑担任了大约五年的研究科学家。目前是联合国大学教堂山分校的助理教授，每周花一天时间在Hugging Face担任研究员。Hugging Face最近宣布，它在2022年5月筹集了1亿美元，公司的估值为20亿美元。用户可以在Hugging Face分享大型语言模型和数据集。
T5论文的另一位撰稿人Sharan Narang在谷歌大脑工作四年后，于2022年离开了那里。他现在是Meta公司的一名人工智能研究员。
一种用于快速芯片设计的图形放置方法
由谷歌科学家Azalia Mirhoseini和Anna Goldie领导的论文发现，人工智能可以比人类专家更快地完成芯片的设计过程。
两人领导的另一篇论文《用深度强化学习进行芯片布局》，提供了一种在芯片设计中使用人工智能的方法，以最大限度地提高性能，同时最大限度地减少面积和功率的使用。
这些发现有助于谷歌设计TPU芯片，专门用于机器学习任务。
Mirhoseini和Goldie都在2022年离开谷歌，加入了【【微信】】，也是OpenAI的竞争对手，它们正在开发自己的大型语言模型和一个名为Claude的聊天机器人。
DeepMind
Mustafa Suleyman是DeepMind的联合创始人，并担任该公司的首席产品官。这是一家人工智能实验室，于2014年被谷歌收购。该实验室开发了AlphaGo，该机器学习程序在围棋中击败了世界冠军的专业人士。
谷歌的母公司Alphabet最近在其第四季度财报中宣布，DeepMind的财务业绩将从 「其他投资」中独立出来，这标志着人工智能在谷歌未来战略中的重要性。通常情况下，「其他投资」是该公司的新生项目的总称，这些项目尚未达到盈利水平。
Suleyman一直是确保新人工智能产品安全的积极倡导者。在DeepMind工作期间，他成立了一个名为DeepMind伦理与社会的研究部门，研究人工智能的现实影响。2019年，他因被指控欺负员工而被DeepMind放假。在调查进行期间，他调回到谷歌担任副总裁一职。
Suleyman在许多与机器学习有关的研究论文中被引用。2022年2月，他与LinkedIn的创建者Reid Hoffman共同创建了人工智能初创公司Inflection。
谷歌最具开创性的人工智能论文的许多主要贡献者已经离开，或是加入了OpenAI等竞争对手，或是创办了自己的公司。
当OpenAI的ChatGPT于2022年年底问世时，谷歌首席执行官Sundar Pichai在内部宣布了「红色预警」，召集公司做出回应。
当时，Pichai表示，谷歌将毫无疑问地继续雇用人工智能领域的顶级研究人员。
不过失去了这么多得力干将，谷歌是否还能再造辉煌呢？
参考资料：
【【网址】】/google-ai-teams-brain-drain-researchers-leave-2023-3
https【【网址】】/【【微信】】/【【QQ微信】】/【【微信】】/【【QQ微信】】
https://【【微信】】【【网址】】/p/597586623
https【【网址】】/【【微信】】/【【QQ微信】】/【【微信】】/【【QQ微信】】返回搜狐，查看更多
责任编辑：
Google 将把 AI 聊天加入搜索引擎／苏炳添回应使用 iPhone 14／小米 13 Ultra 本月见
google浏览器,google play下载,google翻译,google play商店摄影：Zetong Li
重磅
Google 将把 AI 聊天加入搜索引擎
Meta 发布 AI 模型 SAM
Meta 计划今年推出商用 AIGC 技术
OpenAI 向意大利机构承诺：更透明地处理用户数据
大公司
苹果：不要直接挂断车祸检测接线员的电话
微软 Edge 浏览器整合 AI 绘图功能
乘联会：预计 3 月新能源车销量同比增长 30%
苏炳添回应使用 iPhone 14
很快，大部分企业软件就不需要 UI 了
好产品
小米 13 Ultra 本月见
小鹏 G6 展示外观
元太科技发布 E Ink Spectra 6 全彩墨水屏技术
微软用回收废品制作特别版 Xbox 控制器
新消费
乐高推出星战 T-65 X 翼星际战斗机套装模型
亨氏推出番茄酱双头瓶
沙特俱乐部向梅西开出 4 亿欧元年薪合约
好看的
「海王」将主演电影《我的世界》
《小丑 2》正式杀青
Google 将把 AI 聊天加入搜索引擎
Google 计划在其搜索引擎中增加对话式 AI，这是 【【微信】】 桑达尔·皮查伊 (Sundar Pichai) 聊及 Google 应对与对话机器人（例如 ChatGPT）的竞争及相关业务压力时所做出的回应。
皮查伊表示，人工智能的进步将加速 Google 回应各种搜索查询的效率，而且他消除了对话机器人对 Google 搜索业务构成威胁的观念：Google 已经有了庞大的用户群，不妨大力推广，没有人会完全停止使用 Google。
他还称「Google 还没有用到这项技术去影响人们使用搜索引擎的方式，但以后会。」
此举可能会颠覆 Google 过去 20 年以上基于传统链接的使用体验。此外 Google 还在测试几种新的搜索产品。皮查伊强调称，「你必须在 AI 领域不断前进，不管你喜不喜欢」。
Google 目前在搜索市场中占有90%以上的份额，2022 年的广告营收为 1620 亿美元。而微软认为，只要抢了 1% 的市场份额，就能带来大约 20 亿美元的收入。
Meta 发布 AI 模型 SAM
昨日凌晨，Meta AI 发布了最新的图像分割模型 Segment Anything Model(SAM)， 能够从任何照片或视频中一键分割任何对象。
这意味着它在商品识别、机器人视觉、医学图像诊断、自动驾驶、视频剪辑、增强现实等领域可以发挥重要作用。
用户可以通过简单的交互（如点击、框选、文本等）来进行交互式分割和自动分割。它所使用的数据集包括超过 11 亿个分割 Masks，这些 Masks 是在大约 1100 万张有版权及隐私保护的图像上收集的，它有着对物体的通用概念，不需要额外训练。
Meta 计划今年推出商用 AIGC 技术
昨天，Meta 公司 CTO 在采访中表示马克·扎克伯格正把大部分时间投入在 AI 上，透露公司计划在今年年底之前，将自研的 AIGC 技术商业化，并与谷歌共同探寻这项技术的实际应用。
在某种程度上，Meta 的 AI 技术可以通过告诉广告商使用什么工具来制作广告来提高广告效果。而广告是 Meta 的主要收入来源，该公司希望最终将这项技术应用到其所有产品和服务中，包括 Facebook 和 Instagram。
OpenAI 向意大利机构承诺：更透明地处理用户数据
意大利数据保护局（Garante per la Protezione dei Dati Personali）于当地时间周三与 OpenAI 代表会面，讨论在该国暂时禁止使用 ChatGPT 的问题。
OpenAI 表示，该公司愿意同意大利当局合作，以确保遵守隐私法规。
意大利数据保护局称，视频会议上 OpenAI 承诺在处理用户数据和核实用户年龄的方式上更加透明。该机构表示将评估 OpenAI 提出的措施。
意大利上周五宣布，基于欧盟的《通用数据保护条例》法律，暂时禁止 ChatGPT 在其境内运行。
苹果：不要直接挂断车祸检测接线员的电话
苹果近期更新了车辆监测的使用建议：如果此功能滑雪场、游乐场等场景被误触发，用户请不要挂断应急通话，而是告诉接线员不需要救援，苹果官方表示这可能引起误解且浪费救援资源。
车祸检测功能在 iPhone 14 系列和最新的 Apple Watch 上搭载，而随着此类设备增多，误触发的紧急电话却也同时增多，引起许多投诉。
微软 Edge 浏览器整合 AI 绘图功能
消息称，微软正在测试在 Edge 浏览器侧边栏中加入 Bing 图像生成工具的图标。点击该图标就可以访问该功能，用文字生成图片，帮助你快速生成图片内容。
若使用率不高，它可能会被放到「更多」选项当中。
近期微软一直在推动 Bing 快速迭代，同时也将 OpenAI 的其他功能引入到其他应用和服务中，包括 Office 和 GitHub。
乘联会：预计 3 月新能源车销量同比增长 30%
中国新能源汽车市场在 2023 年一季度迎来开门红。
虽然 1 月因补贴政策收回和春节假期影响销量下滑，但后续 2、3 月销量逐步回升，预计 3 月新能源乘用车销量将超过 60 万辆，环比增长 20%，同比增长 30%。
十大新能源车厂商占据市场绝对优势，预计一季度销量将增长 25%。
此外，碳酸锂降价带动了生产端降本，为新能源汽车的产业化发展提供了支持。
苏炳添微博回应使用 iPhone 14
近日，苏炳添发布微博时尾巴显示使用 iPhone 14，引发网友议论，猜测其放弃小米代言。
苏炳添在微博评论区中解释称，小米合约已到期，但手机依然用到碎屏才更换，并且以前的微博中也使用过小米手机。
小米方面没有作出官方回应。苏炳添代言小米品牌可以追溯到 2021 年，曾代言小米 12 系列手机。
很快，大部分企业软件就不需要 UI 了
过去，我写过很多钉钉、飞书之类基于聊天的协同办公软件的文章。他们可能都没有意识到新的 AI 技术加持下，自己的价值将会进一步放大――真正成为企业软件的前端 UI。
企业软件，会润物细无声地融入到 IM 中，以聊天的方式。之前，在写企业微信时，我说它的侧边栏（PC 端）是一个重要创新。很多人没理解。现在，你看看最新的 Office 就能理解了。
随时随地，打开侧边栏，输入指令给 AI，AI 按需执行指令，一切简单如当年我们想用触屏的 iPhone 放大查看照片一样，不需要按钮选择，只要两个手指，自然拉开。
原文链接
https://mp.weixin.qq.com/s/【【微信】】pg
小米 13 Ultra 本月见
徕卡昨日宣布，与小米合作升级了移动影像光学系统方案，小米 13 Ultra 将采用这一方案。
这一次小米从广角到长焦，实现了优异光学性能，还将带来移动影像领域迄今为止徕卡最完美的 Summicron 镜头。
据此前爆料，小米 13 Ultra 将搭载高通骁龙 8 Gen2 旗舰处理器，且配备 6.7 英寸三星 AMOLED LTPO E6 显示屏和四摄模组等多项高端配置，小米王化在该推文的评论区留言称小米 13 Ultra 将在本月发布。
小鹏 G6 展示外观照片
小鹏汽车昨日在微博公布了新车小鹏 G6 的前脸外观图，展示了 G6 的环形灯带的效果。
与 G9 不一样的是，G6 的灯带被小鹏车标分隔成两段，并且车标大概率不会发光。
根据工信部新车目录的信息，G6 基于小鹏汽车三代 F 平台打造，定位中型轿跑 SUV。
外观方面，车身采用了隐藏式门把手和溜背式造型设计，酷似 Model Y，前脸采用了小鹏标志性的贯穿式 LED 灯带以及分体式大灯设计，整车尺寸分别为，4753/1920/1650mm，轴距为 2890mm。
元太科技发布 Spectra 6 全彩墨水屏技术
E Ink 元太科技近日推出了全新彩色电子纸技术 E Ink Spectra 6，适用于店内广告、室内看板，或用来取代任何纸质海报的屏幕。
其解析度提升至 200PPI，支持在 0~50 摄氏度之间运作，同时使用超低耗电的解决方案。该技术预计将于 2024 年投入量产。
微软用回收废品制作特别版 Xbox 控制器
微软推出了一款可持续性手柄，其 1/3 的塑料材料是由 CD、车头灯、塑料瓶和旧 Xbox 手柄的回收材料制成。
该手柄的配色来源于美国西北海岸可见的地衣，以低彩度的蓝色和土黄色为北部。该手柄定价为 85 美元，可从 4 月 18 日开始购买。
乐高推出星战 T-65 X 翼星际战斗机套装模型
乐高推出全新《星战》正传三部曲中的 T-65 X 翼星际战斗机套装，由 1949 块积木颗粒组成，总长度超过 55 厘米，战斗机的机翼可在飞行模式和攻击模式之间转换，还带有卢克天行者小人偶和 R2-D2 机器人玩偶，以还原电影中的名场面。
该新品将于 5 月 4 日起在乐高各大渠道发售，感兴趣的读者不妨留意。
亨氏推出番茄酱双头瓶
近日，亨氏设计出一款名为「Ketch Up and Down」的番茄酱双头瓶。该新品在上部和底部都设有一个瓶盖，旨在让消费者轻松享用每一滴番茄酱。
这款包装概念由设计团队基于对番茄酱爱好者的偏好洞察而来。在研究过程，团队发现消费者的偏好大相径庭，有些喜欢「暴力」挤压番茄酱瓶，有的喜欢摇晃它，有的习惯将瓶子侧放或者倒放。
因此在亨氏 2010 年推出的颠倒瓶的基础上，有了这次的新设计。
沙特俱乐部向梅西开出 4 亿欧元年薪合约
近日，沙特阿拉伯足球俱乐部 Al Hilal 向梅西提出了年薪高达 4 亿欧元的天价合约，但尽管 Al Hilal 提出了高薪诱惑，但梅西本人仍以留在欧洲为首选。
另一边，巴塞罗那正在等待财政公平条例通过，而巴黎圣日耳曼已提出报价，但未给出保证，因此梅西尚未作出决定，未来梅西将会为谁效力，依旧成谜。
「海王」将主演电影《我的世界》
华纳高调宣布了一系列电影上映日期变动和新片发布，其中包括「海王」杰森·莫玛主演的《我的世界》，定档于 2025 年 4 月 4 日上映。
该片由华纳与传奇影业联合制作，改编自瑞典 Mojang 工作室热门游戏《我的世界》。
此外，华纳还对 2023 年年底的档期进行了调整，备受期待的 DC 电影《海王 2》将提前至 12 月 20 日上映，比原定日期提前 5 天。
《小丑 2》正式杀青
导演托德·菲利普斯周三在 Instagram 上宣布《小丑 2》拍摄已经结束，并分享了 【【淘密令】】 和华金·菲尼克斯的新剧照。
本片将在 2024 年 10 月 4 日北美上映，续作故事讲述了阿卡姆疯人院的心理医生哈莉·奎茵（【【淘密令】】 饰），爱上了她的病人「小丑」亚瑟·弗莱克（华金·菲尼克斯饰）的故事。
