chat gpt会造成信息泄露吗让chatgpt的输出精准可控

互联资讯 2023-05-16 11:48:05 0

2023年11月20日每日一猜答案：。答案：ABC。
每日一猜答案分析：

随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件――网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。

更新后，跟据全球媒体的反馈来看，GPT-4相较于GPT-3.5确实有很大的性能提升，也引起了全办公室的小编们的激烈讨论，惊人的成长速度和技术成熟度使得不少小编认为或许未来我们真的要和AI共同生活学习了。

但好景不长，性能提升不小的新版ChatGPT仍然出现了之前老版本的ChatGPT的“胡言乱语”的问题，甚至还出现了其他的信息安全问题。

据媒体报道称，有海外的博主通过ChatGPT生成了可激活Win95系统的密钥。

当该播主首先直接要求ChatGPT生成Win95系统的密钥时，遭到了拒绝，但通过让ChatGPT了解Win95的密钥规则，然后通过调整一些语序和叙述方式，居然直接生成了相应的密钥，随后博主对这些密钥进行测试，发现有三分之一的密钥可以成功激活。

此消息一出，引起了不少网友的热议，有媒体表示，该测试表明ChatGPT的限制并不能有效的限制侵权的行为发生，有可能会对信息安全造成一定的危害。

据人民网报道，就在3月31日，意大利数据保护机构称对ChatGPT的禁止和调查已于3月31日“立即生效”，意大利数据保护机构表示，该模型存在隐私问题。

而在此前，人们一直担心AI的潜在风险，包括它对工作的威胁以及错误信息和偏见的传播。本周早些时候，包括埃隆?马斯克在内的相关行业人士呼吁暂停开发更高级的AI系统。意大利数据保护机构则表示，意大利不仅会阻止OpenAI 的聊天机器人，还会调查它是否符合通用数据保护条例。

此外，爱尔兰数据保护委员会也表示，该机构正在与意大利监管机构跟进，以了解他们采取行动的依据，来保障爱尔兰用户的个人信息安全。

据之前的报道，OpenAI的首席执行官奥特曼曾公开承认开源库中出现错误，导致部分用户与ChatGPT的聊天记录被泄露。

并且在之前，奥特曼在在接受采访时表示，ChatGPT最近发展迅速，并且承认就连 OpenAI 团队，也根本没搞懂它是如何“进化”的。

他表示，从ChatGPT开始，AI出现了推理能力。但没人能解读这种能力出现的原因。

这些OpenAI CEO的相关言论的报道更是引起了不少网友对于ChatGPT的信息安全的担忧。

随后，网上曝出了千位全世界AI顶尖开发者的联名信，呼吁所有人暂停训练比GPT-4更强的AI，暂停期至少6个月。

据公开信表示，大量研究表明，得到顶级AI实验室的认可、具有人类竞争智能的AI系统，可能对社会和人类构成深远的风险。

正如广泛认可的Asilomar AI原则中所述，高级AI可能意味着地球生命史上的深刻变化，AI开发者和运营者应该投入相应的考量和资源，对之进行规划和管理。

但就目前来看，还是没有AI开发公司对这篇公开信所述的提议进行回应。

此外，由于这次GPT-4的性能提升幅度很大，不少国内外的科技媒体预测其将会在未来的几年之内迅速成长为可以独立思考的AI，但是否可控、性能怎样都无法得知，对未来AI发展感兴趣的小伙伴可以继续保持关注。

近期文章精选：

一年一度愚人节整活，看看哪家更合你的胃口？

iPhone持续加大机型差异化，苹果AR/MR头显或延期

2999 元起，魅族20、魅族20 PRO测评体验，满血旗舰搭配全新Flyme 10

哪款手机卖得最好？畅销智能机TOP10排行出炉，第一毫无悬念

1999元起，Redmi Note 12 Turbo正式发布，首发第二代骁龙7+

曝下一代 Exynos芯片开发中，三星Galaxy S25或将搭载

商务合作 ?【【邮箱】】

量子位AIGC峰会：百度微软等20+大咖激辩！线下爆满，超200万在线观看

量子位meet 2021,量子位公司简介,量子在线平台,量子界论坛

ChatGPT将带来怎样的新世界?产业大佬们都有很多话想说:

这是个全人类的机遇!

全球性“AI再造”已经拉开序幕,跟不上的企业将彻底失去未来的竞争力。模型即服务将催生万亿级别的市场。

与其说是“iPhone时刻”,这波浪潮更像是PC互联网初期。

AI真的创造了失业潮吗?我认为其实不是。

首届中国AIGC产业峰会现场,竟成了大佬专家们群起激辩的舞台。光看这“人从众”的景象,就足以见其火爆精彩程度。

在线直播也是热闹非常,大家紧跟着嘉宾分享展开讨论。

甚至还有网友在群里带队形:很有必要完整再看一遍。

已经公认的是,我们正处于一个关键节点。ChatGPT所引领的AIGC新纪元,正在重新定义我们的生产生活。

这场全球风暴,每个人应该如何把握?中国企业又有什么样的新机遇和挑战?

再来看整场大会的演讲和圆桌分享,近20位产业玩家和创投代表已经全方位地解答了上述两方面地问题,并展望了新未来。

包括微软、百度、科大讯飞、商汤科技、小冰公司、昆仑万维等知名产业玩家的高管;也包括了澜舟科技创始人周明、智源研究院总工程师林咏华、启元世界创始人袁泉,智谱华章CEO张鹏等在内的创新公司代表。

根据演讲内容主要整理成三个维度进行探讨,包括AIGC新世界,ChatGPT商业化的路径与思考,以及AI产业新价值。

此外,本次峰会还有两场融合了产业和创投大咖在内的圆桌论坛,直击当前最受关注的两大议题:AIGC商业化、中国AIGC新机遇。

话不多说,这就来带你一文看尽。

AIGC新世界

澜舟科技周明:进入AI 2.0不代表一定要抛弃1.0的技术

首先开场的,是当今NLP领域成就最高的华人之一、曾任ACL主席的周明。2021年6月,周明成立了澜舟科技,一家以NLP技术为基础的认知智能公司,并在2021年开源轻量“孟子模型”后,于今年3月推出了孟子MCaht可控大模型。

ChatGPT和之前的大模型有什么区别?周明阐述了自己的理解。

首先,ChatGPT对用户的意图理解非常清晰,也更加准确;其次,多轮对话的建模非常好,还有若干解析能力。但是,站在工业界角度,很多需要解析能力的任务用单独的引擎能比ChatGPT效果更好。所以,找到ChatGPT的应用场景非常关键,周明就提出了两种考虑:

>To C时,AGI能力越多越好,用户在简单界面完成所有调用;

>To B环境下,问题理解、多轮对话的能力,接上企业自己的核心引擎,好好结合起来。

这次,周明主要站在To B的角度,分享了对AI 2.0时代企业进行数智化转型的看法。

ChatGPT出现后,涌现了单模型、单任务永远出不来的能力,于是迈入进入AI 2.0时代,它的特点是一个模型N个任务,未来甚至一个模型可以解决无穷个任务。

但是,企业内部使用时,会发现AGI很多功能并用不上,一些能力反而还会出现捣乱的可能。

以此为背景,企业进行数智化转型时,不要追求必须用AI 2.0、一定要抛弃AI 1.0。企业应该试图把AI 1.0功能引擎和AI 2.0部分能力(如问题理解和多轮对话的能力)无缝对接起来,形成一纵一横的合力,练模型的团队和用模型的团队持续产生交互,共同提升效率。

澜舟在做大模型时,尤其考虑了企业落地的问题。不用非得做ChatGPT,在AIGC领域重点突出关键词生成、自定义模版、文图工作等能力,把模型做得又轻又好,再结合用户需求,企业数据就能巧妙利用起来。

小冰徐元春:任何一项技术的诞生都为产生产业价值

AI内容生成的价值,不仅在于降本增效,更重要的维度在于解决问题、提高效率、创造场景。

上述的三点,就是小冰公司COO徐元春结合过往经验对AIGC创造能力的总结。

其中,提高效率是最显著,也最容易被理解的一点。比如视频领域,2022年卡塔尔世界杯期间,解说员刘建宏的节目,超过半数都是在他本人录制的基础上,由AI复刻形象、合成声音生成的。

提升效率关键在于高并发和稳定性,强调稳定性的原因,在于很多技术在实验室实现了算法价值,但最后一公里的落地非常艰难,所以,技术的工业化应用标准要达到稳定性的要求。

在解决问题方面,所有的AI公司或科技公司都应该认识到,需要解决的问题应当是产业尤其是传统产业迫切需要关注和改变的真实痛点。

举例来说,利用AIGC能力创造和生成虚拟数字员工,就是在企业现有IP不改变和不稀释的情况下,能够在多时空、多场合创造更多内容――内容,是一个IP最主要的资产和核心生产力。

另外还有拓展新场景。除了利用数字孪生技术,用虚拟人生产、传播内容,获得更广泛的流量,让运营团队和IP解耦、内容和形象解耦,满足大量的内容输出需求。

比如,数字员工可以直播更多场次。这里提到直播不再局限于视频录播,还有实时直播,包括在海外利用当地语言、当地文字回复直播间问题,和用户产生实时互动和实际交流,最终触发购买行为。

在这个场景里,虚拟人和AIGC的融合达成交易、促成销售,从这个角度来讲,AIGC不仅产生内容,也产生了实实在在的销售收入。基于此,如何让模型更加适合推荐,是大模型里更加传统化的应用。

昆仑万维方汉:AIGC最大社会意义是提供低成本终极解决方案

作为资深的互联网从业者,昆仑万维CEO方汉谈到了他最近的一些思考。

首先是AIGC商业模式落地这一方面,他观察到两大定律:

第一,用户创作门槛降低,内容创作数量增加十倍;第二,C端工具商业逻辑是社区,B端实质则是功能的完备性。

其次是AIGC对生产者的影响。

对于存量知识的理解和表达,AIGC将以低廉的成本做到80分的水准。如果我们人类也只能做到80分,那工作一定会被替代;只有80分以上的人,才能去管理“AIGC操作员”,完成曾经需要腰部工作者去完成的工作,并极大地提升产量,而腰部工作者将大概率被淘汰。

除此之外,方汉还提到了几点观察:

第一,开源大模型是商业闭源大模型的有力补充和替代。

就像ChatGPT可以想象成早期的Windows。Windows的存在是整个电脑商业软件领域的一个基石,也是绝大多数人的生产工具,而Linux通过30年的努力把自己变成Windows替代。因此像“Linux”一样的开源大模型也一定会出现。

第二,只有开源模式才可以满足用户的长尾需求。比如Stable Diffusion,其质量、性能都低于DALL・E2、Midjourney,但用户增长很快,而且还催生了许多二次开发工具,解决刚性问题。可控生成作为 AI创作最后一道高墙,极有可能在可预见的时间内有进一步突破。

第三,各种AIGC工具能力仍受到预训练大模型限制,这点在GPT-4出现之后更加突出。

未来AIGC对整个社会最大意义,是提供了低成本终极解决方案;其次是将彻底改变艺术创作生产方式,最后具体到内容生成,大量创作内容的涌现,让VR和元宇宙变得更加可行。

类ChatGPT商业化

微软关玮雅:每个应用程序都可以由 AI来驱动

当前全球最受瞩目的AIGC头号玩家当属微软了,相继发布两款在搜索引擎、生产力工具上面的颠覆级应用。

微软大中华区首席战略官关玮雅就来到现场谈了谈《产业新机遇,AIGC开启新一代生产力革命》。

越来越多的组织和机构正向云原生、AI技术转型。可以畅想在人工智能时代,每个应用程序都能通过AI驱动,实现更高的效率、更好的用户体验。

她从与OpenAI的合作来展开举例。OpenAI的成功可以归结为四个方面:强大的人才梯队;先进的技术底座;秉承长期主义的研究和投入;开放合作的文化。

除此之外,微软对于OpenAI的发展也做出了积极地贡献:10亿美金的战略投资以及打造了世界前五的超级计算机,同时提供多元化、商业化的路径。

两家企业联合,不仅训练出了震惊世界的多个大型AI模型,更将AI技术与微软的全线产品深度结合,让企业、个人都能享受AIGC带来的潜力与可能。

AIGC的创业路径,可以分成三个功能维度:

第一类是帮助企业降低运营成本,比如最近推出的Microsoft 365 Copilot;

第二类是提高客户满意度和产品体验,比如,通过语音交互技术,帮助不同类型企业为消费者提供个性化产品,这一点在数字人技术体现尤为明显。

第三类,AGI作为一种革命性的技术,也承担着非常重要的社会责任。比如为残障人士提供更加便捷的生活服务。

同样,AIGC在不同行业的商用想象,也是实实在在而具体的,比如制造业、智能车、金融、医疗、游戏、娱乐、教育等领域。

对于企业而言,如何将AI战略提升到CEO的级别?哪些场景应该作为首选开展试点落地?又如何定位在AI时代下企业的核心能力,以及人才素质模型?如何重塑企业的流程、组织、文化,来更好地迎接新一代生产力革命?这些是所有企业家需要深度思考的问题。

百度袁佛玉:文心一言将改变云计算游戏规则

国内以文心一言为代表的应用,已经展现出了产品化、商业化的潜力。

百度集团副总裁袁佛玉就表示,文心一言将根本性地改变云计算市场游戏规则。源于大模型和生成式AI的两大突破,全球性“AI再造”已经拉开序幕,跟不上的企业将彻底失去未来的竞争力。

具体从三个方面来进行诠释。

首先,这是百度多年技术积累和敏锐洞察。一方面,如果没有长达13年、高达千亿元的技术研发投入,根本就不可能出现文心一言这个大模型。另一方面,去年就曾精准预测过技术层面的方向性改变,也就是生成式AI。今年文心一言将与百度搜索、小度、Apollo自动驾驶等业务融合,但更大的故事在云计算。百度智能云有信心成为引领者。

其次,生成式AI的兴起,将给生产经营效率与用户体验效果带来“双效”提升,将彻底改变所有行业,加速实现社会“智能化跃迁”。这一点从文心一言所释放出的能力就可以看出,可以帮助千行百业实现AI再造。

再者,今天IT技术栈已适配AI技术发展的四层架构(芯片、框架、模型、应用)。云计算的主流商业模式将从IaaS(基础设施即服务)变为MaaS(模型即服务)。

中国拥有全世界最先进、最完整的产业链,它能产生大量真实的行业需求、用户反馈,这会极大推动生成式AI快速发展,并且随着生成式AI在数字和实体经济落地,模型即服务(MaaS)将催生万亿级别的新市场。

科大讯飞高建清:认知智能大模型将带来重大产业颠覆和机遇

科大讯飞AI研究院常务副院长高建清分享了科大讯飞在AIGC技术探索与应用创新方面的一些进展。

整体而言,科大讯飞在AIGC三大模块,即音频创造、视觉创造和文本创造方面,都有积累和进展。

以音频创造这一关键技术为例,高建清认为未来有两大关键趋势,:

交互领域实现更好的拟人化、情感化甚至口语化。

内容生产领域,对音色、音律、口音等语义信息进行更好地控制。

目前,语音合成已经在新闻播报、纪录片旁白、游戏解说、广告直播等十多个领域。

在AIGC浪潮下,语音创造方面也有一些关键发展趋势:既可以利用大语言模型,如Audio LLM方案,对语音合成中的关键因素进行控制;也可以更好地利用AIGC追求声音艺术,通过插入音效、环境音,对语音合成感受进行改善。

视觉方面,讯飞积累了以虚拟人为核心的完整视频创造能力,包括虚拟人生成和复刻等。利用AIGC,虚拟人的发展趋势是以虚拟人为中心形成从文本到声音到图像的全栈视觉生成能力。