庆云古诗词

庆云古诗词

图灵奖获得者Yoshua Bengio 认为 ChatGPT 是一个“警钟”

淘文章 0

2023年11月20日 每日一猜答案: 答案:ABC
每日一猜答案分析:

图灵奖获得者的主要贡献,图灵奖获得者 华人,图灵奖获得者是哪国人,图灵奖获得者简介

编者按:AI大语言模型ChatGPT(基于GPT-3.5)所展示的惊人能力,让AI技术的发展达到了一个新的转折点。许多人预测,接下来的GPT-4将会进一步改变甚至颠覆我们的世界。但内敛的图灵奖获得者 Yoshua Bengio 教授在最近接受采访时不禁担忧人们对大模型的狂热,以及强大的 AI 系统有可能沦为权力和利润的工具。他警告人们,市场压力可能会促使科技公司对其 AI 模型保密而不是公开,同时AI有可能会带来重大的道德问题;应该确认由人类决定如何设计这些机器,同时必须更多地关注人类的价值和需要... 我们特将该内容编译出来和各位客户、合作伙伴朋友分享。如需转载,请联系我们(ID:15937102830)】

昨天,微软德国 【【微信】】 表示,GPT-4 将于下周推出,并将包括多模态模型。这篇在德国新闻媒体 Heise 上刊登的报道立即引发了关于 GPT-4 首次亮相可能性的在线讨论,距离 ChatGPT 微调的 GPT 3.5 系列发布不到四个月。

巧合的是,与 Geoffrey Hinton 和 Yann LeCun 一起获得2018 年图灵奖的深度学习先驱 Yoshua Bengio 昨天也对 ChatGPT 和多模态模型的潜力发表了评论。

在一个名为“ChatGPT 缺少什么?”的虚拟问答中,Bengio说,目前在具有图像或视频以及文本的多模态大型神经网络方面的工作,将“极大地帮助”解决“世界模型”问题――也就是说,模型需要了解我们世界的物理学。

他还警告说,市场压力可能会促使科技公司对其 AI 模型保密而不是公开,围绕 ChatGPT 的“媒体马戏团”是一个“警钟”,提醒人们强大的 AI 系统有潜力对社会有益,又会带来重大的道德问题。

━━━━

ChatGPT提高了人们对AI潜力的认识

Bengio 强调,ChatGPT虽然令人印象深刻,但在科学上是“非常小的一步”,并将其称为“主要是工程的进步”。他解释说,从社会的角度来看,ChatGPT 更重要――也就是说,它让人们意识到人工智能可以做什么。

但是,他警告说,从道德和负责任的角度来看,应该由人类决定如何设计这些机器――这些机器在某种程度上已经可以通过图灵测试了。

“我们是要建立一个能帮助我们在哲学意义上过上更好生活的体系,还是仅仅成为权力和利润的工具?”他说。

━━━━

监管的必要性

在我们的经济和政治体系中,“正确的答案是监管,”他说,并指出初创公司愿意承担风险,这导致像谷歌和微软这样的大型科技公司“感到有必要加入竞争”。

他补充说,“从长远来看,保护公众对每个人都有好处,它使竞争环境变得公平――因此,那些更愿意为公众福利冒险的公司就不会因此而得到回报。”

他强调,目前正在讨论确保人工智能监管不会损害创新经济。“但它会减慢一些事情的速度,但这可能是一件好事,”他说。

━━━━

以长远眼光看待ChatGPT和LLM

Bengio 承认,目前,公司感到将ChatGPT和其他LLM引入他们的产品和服务的紧迫性。但他指出,学术界和一些公司也在着眼于更长远的未来。

“我们如何成为该领域的下一个大公司?我们如何领导?为此,你必须考虑缺少什么,失败模式是什么,”他说。“这种研究很难,可能需要数年才能得到答案。希望有些人能有远见,超越我认为现在正在发生的直接恐慌。”


国考笔试打印问题 国考笔试直播

公务员国考打印,国考笔试成绩单怎么打印,2021国考打印准考证打印入口,国考打印准考证截止时间

【热点链接】

1.要说最近谁是头号“网红”,想必非【【微信】】莫属。从面世到日活用户破亿,它在短时间内火爆全球,一时间成为现象级消费类AI应用。【【微信】】到底是啥?简言之,它是一款AI聊天机器人,本质上仍是替代人工劳动的生产力工具。但相较于其他聊天机器人,【【微信】】无疑更“聪明”,写论文、编代码、创作小说等工作,都能手到擒来。不少和它“聊过天”的网友感叹,“只有你想不到,没有【【微信】】办不成的”,甚至有人担心会被它抢饭碗。可以说,“高能”的【【微信】】,助推AI由“幕后”转向“台前”,是人工智能技术的突破性发展,也使更多人提高了对AI新蓝海的期待。

2.清华大学计算机科学与技术系副教授刘知远认为,【【微信】】所使用的人工智能预训练模型技术,能将人们从机械劳动中解放出来,一两年内,中国版【【微信】】有望出现。

“这类人工智能产品和我们‘聊天’,其实是在分析我们所发出指令的关键词,再调用相应任务模块给予回应。”刘知远解释,通过预训练语言模型生成的【【微信】】更像一个真实的交流者,通过对互联网极大规模数据的自主学习,它会“思考”,不仅能理解需求,还能很好地完成复杂的任务,“可以说这是一个革命性的飞跃,是人工智能领域里程碑式的产品。”

不过也有人担心,【【微信】】会被滥用于代写论文、考试作弊等违规行为。面对相关争论,刘知远认为,新技术的探索应用过程与当前社会发生摩擦在所难免,但从长远角度还是要积极地看待。

【政策理论】

1.背景

国际背景:chatGPT实际上是美国open AI工作室推出的一款聊天软件,最早发布是在2022年11月,open AI是美国一家叫做“开放式人工智能实验室”的机构,这家机构最大的出资方,就是比尔盖茨的微软公司,前前后后,比尔盖茨已经在这家机构的科学实验当中砸了一百多亿美元,这么多钱砸下去,推出的产品果然不同凡响。【【微信】】推出市场后,因为能快速地对各种复杂问题进行处理和反馈,在问世短短5天后,注册用户就突破了100万,两个月后,月活跃用户规模就突破了1个亿,成为人类历史上用户增长最快的消费软件,秒杀脸书和推特。

国内背景:代表科技创新和产业发展方向的战略性新兴产业,对我国经济社会全局和长远发展具有重大引领带动作用。党的二十大报告提出,推动战略性新兴产业融合集群发展,构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎。

近年来,我国战略性新兴产业发展势头迅猛,涌现出一批创新能力强、发展潜力足、带动作用大的优质企业和战略性新兴产业集群。

据国家统计局测算,2021年,战略性新兴产业增加值占GDP比重为13.4%,其中,规模以上工业战略性新兴产业增加值比上年增长16.8%,高技术制造业增加值比上年增长18.2%,这类产业已形成经济增长的强大动能。

同时也应看到,目前我国产业链整体上处于国际分工体系的中低端,大而不强、宽而不深;受新冠肺炎疫情及全球经济放缓影响,一些具有国际竞争力的产业链上中下游不配套等问题进一步显现;现代服务业与制造业融合发展不足,科技、产业、金融之间的良性循环尚未形成。

也因此,中央从“加快构建新发展格局、着力推动高质量发展”的高度,强调“推动战略性新兴产业融合集群发展”,意义重大。

2.问题

(1)在功能上,错误的信息源将会输出错误内容。【【微信】】有时会以流畅的文本展现错误的信息,甚至成为谣言之源,非专业人员难以发觉。例如,有人检索了【【微信】】所生成的论文的参考文献,结果显示部分文献查无此文,也就是说,【【微信】】提供的参考文献竟是杜撰的,提供信息的准确性令人担忧。

(2)在使用中,当AI能够代替人脑的一部分思考,人脑的思考价值性就被抵消了一部分。在教育中使用,可能会降低学生的思维能力,有了工具之后,越来越多的人开始不愿意动脑。人都有惰性,如果人人都使用软件来替代自己思考,那么代写论文、考试作弊等违规行为就会层出不穷。更可怕的是,有些人已经开始动起了歪脑筋,要是chatGPT被别有用心的人加以利用,后果恐怕不堪设想。

(3)【【微信】】可能涉及会法律或伦理问题。人工智能系统的行为是由其算法和决策过程中内置的伦理准则决定,系统是没有道德判断能力的,例如:【【微信】】其实是基于算法和大数据的智能问答平台,无论是自行采集还是通过自动化抓取的方式从其他平台的数据库中进行爬取整合进而输出信息,都会有侵犯知识产权的风险,因此【【微信】】的数据合规风险也不能忽视。

3.意义

(1)chatGPT代表的不仅仅是一款应用程序那么简单,很多人甚至说,chatGPT对于人工智能产业来说,就像是苹果手机对于移动互联网技术,都标志着一个新时代的来临,背后是第四次工业革命的浪潮。

每一次工业革命的爆发,都能推动社会生产力的大发展,让人类生活再上一个台阶,距离第三次工业革命产生也已经快100年了,虽然科技领域对于人工智能将主导第四次工业革命基本已经达成了共识,但苦于没有具体的商业化产品,科技领域早就嗷嗷待哺,chatGPT的产生,正可谓是“久旱逢甘霖”,正好迎合了人类社会进入智能时代的历史进程。

(2)新技术引领新发展、创造新生活,值得期待。于社会,科技就是生产力。【【微信】】商业化应用前景可期,有助于激活发展力,促进人工智能行业发展,带动其他领域产生新的行业变革。例如,通过此交互平台可以帮助企业与客户建立有效沟通,在提高服务品质的同时降低企业的服务成本。于个人,技术为生活添助力。随着【【微信】】应用深入生活各方面,为教育、医疗、汽车、游戏娱乐、智能家居等注入新活力,将让智能生活更加可及。

4.对策

和这一AI技术“Chat”(聊天)的同时,我们不妨多想一层“基”“批”“替”。

(1)“基”,是说我们要更快为中国人工智能技术突破,搭建良好的基础设施。

支撑【【微信】】过亿用户、快速迭代的,是海量数据和巨量算力。在这两大支撑AI落地的基础设施领域,我国都存在一定差距,一方面中文语料库暂时不够丰富,另一方面算力也受到芯片等“地基”的掣肘。积累语料是一个需要“慢工出细活”的领域,芯片等基础设施更需要科技自立自强的突破和创新。科技企业要主动走出舒适区,加力技术创新、产品创新。

(2)“批”,是说对伴随这一新生事物可能产生的种种灰色产业,例如虚假训练、文章造假、虚假广告等伦理问题,要保有一定批判态度。

人工智能有其社会属性,需要全球治理,既为创新“留白”、又为安全“立规”。政府应当建立并完善人工智能伦理准则、规范及问责机制,明确人工智能主体的职责和权利边界。其次,通过立法完善相关法律制度,确保使用者的合法利益不受侵犯,尤其是限制人工智能的使用场景,确保人工智能在不违背伦理的同时,提升数字治理效能,积极为人工智能全球治理贡献智慧。同时,在隐私保护、人工智能的“智力成果”是否享有著作权等问题上,都应设立相关规章制度,为技术发展划出边界,也为全球共同治理探路。

(3)“替”,是说【【微信】】大火后,国内大厂纷纷官宣将有替代版本,人们也期待中国版【【微信】】的惊艳亮相。

人工智能正在以润物细无声的方式,赋能百业、走进千家,不断创造出新业态、新模式、新市场,有力推动各行各业数字化、智能化转型。【【微信】】的火爆启示我们,人们不仅希望看到图像识别、语音识别等“看得见、听得懂”的感知智能,也希望出现更多“能读会写”的认知智能。扩展到人工智能赛道,需要协同推进技术创新、基础设施、赋能应用和治理体系建设,抢抓发展机遇,为制造强国、网络强国、数字中国建设提供有力支撑。对个人来说,与其担心人工智能抢饭碗,不如校准目光向内看,多下功夫拓展知识增量,锤炼自我的创造力、竞争力,并且要保持开放心态,这样才能适应时代发展。

【知识运用】

近日,智能聊天机器人【【微信】】备受关注,其上线仅两个月,注册用户破亿。这一通用聊天机器人以极低的门槛,让普通人体验到人工智能技术的魔力,但也有人对其发展表示担忧。对此,你怎么看?

【评分要点】

(1)表明自己的立场,明确面对新技术【【微信】】需要客观看待、主动适应、积极应对,新技术的探索应用过程与当前社会发生摩擦在所难免,但从长远角度还是要积极地看待。

(2)分析【【微信】】的意义与问题。意义层面,比如chatGPT正好迎合了人类社会进入智能时代的历史进程;有助于激活发展力,促进人工智能行业发展,带动其他领域产生新的行业变革;为教育、医疗、汽车、游戏娱乐、智能家居等注入新活力等。问题层面,比如准确度无法保证;代写论文、考试作弊等违规行为可能会层出不穷;涉及法律或伦理问题等。

(3)给出合理可行的建议,例如科技企业要主动走出舒适区,加力技术创新、产品创新;政府应当建立并完善人工智能伦理准则、规范及问责机制,明确人工智能主体的职责和权利边界;对个人来说,多下功夫拓展知识增量,锤炼自我的创造力、竞争力,并且要保持开放心态,这样才能适应时代发展。

2023国考面试备考群》》》扫码进入