庆云古诗词

庆云古诗词

ChatGPT风险和隐患 ChatGPT影响金融业吗

互联资讯 0

2023年11月20日 每日一猜答案: 答案:ABC
每日一猜答案分析:

风险分析和隐患排查,风险识别和隐患排查,风险隐患和防范措施,风险分析与隐患排查

转自:中新经纬

中新经纬4月12日电 (魏薇 马静)ChatGPT引发的合规性问题正成为业界关注的焦点。

11日,国家互联网信息办公室(下称网信办)发布通知,就《生成式人工智能服务管理办法(征求意见稿)》(下称《意见征求稿》)向社会公开征求意见。

近日,中国支付清算协会也发布了《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》。

国内不少金融机构已在试水布局生成式人工智能。业内人士认为,金融机构使用ChatGPT等工具,应先进行可控范围的评估,同时提升数据保护意识,加强对客户的信息保护。

为生成式人工智能立规矩

“中国支付清算协会向行业发出倡议正当其时,对整个金融行业和从业人员都是一次提醒,具有较强的针对性。”招联首席研究员董希淼对中新经纬说。

中国支付清算协会表示,近期,ChatGPT等工具引起各方广泛关注,已有部分企业员工使用ChatGPT等工具开展工作。但是,此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全,提升支付清算行业的数据安全管理水平,根据有关法律规定,中国支付清算协会向行业发出倡议。

“从金融安全的角度看,特别是要上传隐私类数据时,要非常慎重。”清华大学新闻学院元宇宙文化实验室主任、教授沈阳对中新经纬表示,最近ChatGPT在多个国家已经被警示或者被禁用,日本也在和Open AI进行讨论,要强化对隐私的保护。ChatGPT本身有隐私泄露的风险、数据安全的风险、价值观偏见的风险、还有环保方面的压力。

一位支付机构的从业人员在接受中新经纬采访时指出,ChatGPT能够极大地提高工作效率,但对于金融、支付等严监管行业来说,其带来的数据泄露、虚假信息、知识产权合规等风险不容忽视。

在谈到数据泄露和安全问题时,博通分析金融行业资深分析师王蓬博在接受中新经纬采访时强调,金融行业对于个人信息和相关的商业数据特别敏感,更应该注意这方面的问题。

王蓬博分析称,ChatGPT是一个人工智能技术驱动的自然语言处理工具,需要对数据库不断更新,运行逻辑是通过大量的文本收集、数据训练回答客户问题,而金融从业者若想使用ChatGPT则需要添加内容数据做训练,需要经过数据不断填充才能进化,就一定会存在金融数据隐私及安全问题,即使用户是无意识的行为,也非常有可能造成个人信息和数据的泄露。个人信息的收集、使用和传输都面临着安全挑战。

金融数据跨境风险也是业内关注的焦点。中国社会科学院金融研究所金融科技研究室主任尹振涛称,“支付机构其实拥有大量的用户信息和敏感信息,以及涉及国家安全的重要数据,包括支付数据,如果不加强管理,部分信息上传至境外服务器,其实是非常大的隐私泄露事件。”

中国人民大学国际货币研究所研究员、独立国际策略研究员陈佳对中新经纬分析称,境外API与中国支付行业在数据海关问题上的风险漏洞尚未破题。中国支付行业经过多年来的发展积累了大量客户群体的核心数据,包括个人信息、产行业信息、支付信息,并在依法合规获得渠道授权条件下得以接入国家金融数据库,这些数据的物理地址都在境内且接受数据和算力海关的监管。

“相比之下,包括ChatGPT在内的几乎全部海外API开发工具的服务器、数据库和算力中心都在境外。”陈佳指出,如果中资支付机构过度依赖这类API,几乎无法避免商业数据甚至客户隐私信息跨境出关的问题。由于API每一次调用不知不觉间可能涉及天量隐私数据,支付行业机构将防不胜防,监管技术亦将短期内高度承压。因此清算协会提出谨慎使用是立足当前行业发展实际的审慎之举。

金融机构应加强信息保护

在王蓬博看来,金融机构要想使用类似的产品,起码先进行可控范围的评估,做好预防措施以后再进行应用。预计在数据安全相关法律法规的政策框架范围内,未来有可能出台相关补充监管政策,比如数据分级保护制度、数据跨境审核机制等等。

中央财经大学证券期货研究所研究员、内蒙古银行研究发展部总经理杨海平在接受中新经纬采访时建议,监管部门对金融机构围绕ChatGPT等工具的业务应用进行充分的沙箱测试,结合测试结果,以金融科技伦理规范、数据治理规范、金融安全等考量为依据,形成监管意见,并采取下一步的监管行动。

董希淼指出,对金融机构而言,下一步应从三个方面加强客户信息保护:第一,在思想上,要高度重视客户信息保护。应将保护个人信息的理念内化于银行血液中,以最严格的标准和最严密的措施确保客户信息安全。第二,在管理上,应建立信息数据库分级授权管理制度。根据个人信息的重要程度、业务需要、敏感程度等,实行分级管理。在个人信息处理过程中,应在技术上对客户信息复制、查询有硬约束,比如建立分级审批、双人控制等要求。第三,在机制上,加强金融信息安全保护的宣传教育。一方面,应开展员工内部培训,在工作中强化对用户信息的保护意识;另一方面,应当未雨绸缪,将加强信息保护等融入消费者教育内容,提高消费者金融素养和自我保护能力。

专家呼吁实现自主可控的大语言模型

尽管生成式人工智能在使用上还存在一定风险,但中新经纬注意到,ChatGPT风起,一些金融机构也已先行布局或“放言”要使用这类人工智能技术,涉及领域包括智能客服、投研、投顾、量化交易、风险管理等。在多家券商2022年度报告或业绩说明会上,人工智能+金融既是提及的未来发展方向,也是投资者们提问的话题之一。

近日,东方财富董事长其实在业绩说明会上回答投资者提问时表示,已经陆续研发了东方财富金融数据AI智能化生产平台、多媒体智能资讯及互动平台系统等多个人工智能相关项目,并在公司部分产品及服务中进行了具体应用。

银行方面,在工商银行2022年业绩会上,工商银行副行长张文武表示,对于人工智能的研发应用,工商银行一直高度重视。从技术实力看,工商银行已经建成了自主可控、功能完备的企业级人工智能平台。从研发应用看,工商银行一直在探索适合金融业的大规模应用,近期与头部科技机构合作,在国内同业中率先推出人工智能金融行业通用模型,初步探索出超大规模通用模型应用于金融行业的实践。

百信银行最近则上线了首个3D数字营业厅,百信银行行长李如东认为,未来3-5年,“AIGC+数字人”将成为服务用户的主流形态,内容生产力和精准营销能力大幅提升,陪伴式的用户服务将成为标配。

险企方面,中国太保在2022年度报告中也提到,将基于大数据基础和技术全面加快经营管理的数字化转型步伐,尤其加大ChatGPT等人工智能前沿创新应用落地。

“ChatGPT及类ChatGPT产品在金融业应用场景丰富,如果符合风控和合规要求,将在满足客户需求、提升风控能力、降低经营成本等方面发挥积极作用,应用前景十分广阔。”董希淼表示,金融机构应高度关注人工智能等前沿技术和应用,以核心客户需求为导向,适时加大前瞻性投入和布局,持续提高金融科技发展水平,加快推进和深化数字化转型,不断提高客户服务能力和客户体验,提升为实体经济服务质效。

《意见征求稿》指出,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

沈阳呼吁,中国自己的ChatGPT产品和大模型本地化部署是一个刻不容缓的现实需求,需要加大投入力量,快速缩小和国外的技术差距,实现自主可控的大语言模型,这是当下要高度重视的问题。

陈佳认为,未来中资API一旦破题,将实现科技伦理与理论创新,科技工具与产业链融合,科技监管与行业自律创新的全面配合。在结合中国一贯坚持从严监管、科技向善、自主创新的原则,支付行业在与中资API合作过程中,就可以规避新一代人工智能超速发展引发的科技伦理、监管缺位和发展超速的系统性问题,另一方面亦有利于中国金融科技和支付行业以我为主厚积薄发,实现不超速不失速的平衡发展,更好的将科技成果服务于人民群众。

【未经授权,严禁转载!联系电话02【【手机】】】

海量资讯、精准解读,尽在新浪财经APP


“中国版Chat GPT”来了!百度“文心一言”邀请测试,3月16日起向首批用户开放

中国版chatGPT,中国版chatGPT有哪些,中国版chatGPT百度,中国版chat

3月16日下午,百度新一代大语言模型和生成式AI产品“文心一言”亮相在北京总部,百度创始人、董事长兼首席执行官李彦宏和百度首席技术官王海峰出席,在文学创作、商业文案创作、数学计算、中文理解、多模式生成五个使用场景中展示了文心一言的综合能力,百度计划在所有业务中全面集成文心一言。

从现场展示来看,文心一言在一定程度上具有理解人类意图的能力,答案的准确性、逻辑性和流畅性逐渐接近人类水平。然而,李彦宏多次提到,这种大型语言模型还远远没有达到完善的发展阶段,还有很大的进步空间。在未来,一定会快速发展,日新月异。

百度还公布了文心一言的邀请测试方案,从3月16日开始,第一批用户可以通过邀请测试码在文心话官网体验产品,后续会陆续向更多用户开放。此外,百度智能云即将向企业客户开放文心话API接口调用服务。从3月16日开始,预约正式开放。搜索“百度智能云”进入官网,可以申请加入文心一言云服务测试。

目前,大语言模型和生成式AI代表了一种新的技术范式,是世界上每个企业都不能错过的机会。百度文心一言定位于人工智能基础的赋能平台,将有助于金融、能源、媒体、政务等各行各业的智能变革。李彦宏说:“百度希望与大家一起推动人工智能技术的进步,让大家都能使用最先进的生产力工具,让大家受益。”

一、大语言模型不能突击速成,百度具有四层技术栈的独特优势

根据百度的说法,自身是世界上第一家制造标杆Chat GPT产品的公司。李彦宏指出:“无论哪家公司,都不可能在几个月的突然袭击下做出这么大的语言模型。深度学习和自然语言处理需要多年的坚持和积累,不可能快速完成。”

可以说,文心一言是百度过去多年努力的延续。随着人类进入人工智能时代,IT技术的技术栈发生了根本性的变化,从过去的三层到“芯片-框架-模型-应用”四层。今天,百度是世界上为数不多的人工智能公司之一,在这四层进行全栈布局。从高端芯片昆仑芯,到飞桨深度学习框架,再到文心预训练大模型,再到搜索、智能云、自动驾驶、小型化等应用,在各个层面都拥有领先行业的自主研发技术。

李彦宏认为,百度AI全栈布局的优势在于,端到端的优化可以在技术栈的四层架构中实现,大大提高了效率。特别是框架层和模型层具有很强的协同作用,可以帮助构建更高效的模型,显著降低成本。事实上,超大型模型的训练和推理给深度学习框架带来了巨大的考验。例如,为了支持数千亿参数模型的高效分布式训练,百度飞桨专门开发了4D混合并行技术。

在全球范围内,几乎没有四层架构的每一层都有领先产品的公司,这是百度独特的优势。后续芯片、框架、大模型、终端应用场景可以形成高效的反馈闭环,帮助大模型不断优化迭代,从而升级用户体验。

二、生成式AI催生新业态,李彦宏预测三大产业机会

自2月份百度正式宣布“文心一言”以来,已有650多家企业宣布接入文心一言生态。这意味着许多企业已经明白,文心一言和生成式AI代表了一种新的技术范式,影响到每个公司。

AI市场需求的爆炸性增长将释放前所未有的指数级商业价值,李彦宏预测,大语言模型将带来三大产业机会。

第一类是新型云计算公司,其主流商业模式已经从IaaS转变为MaaS。文心一言将从根本上改变云计算行业的游戏规则。在此之前,企业选择云制造商更多地关注基本的云服务,如计算能力和存储等基础云服务。未来,我们将更多地关注框架好不好,模型好不好,模型、框架、芯片和应用。

文心一言将通过百度智能云提供服务,帮助企业建立自己的模型和应用。农业、工业、金融、教育、医疗、交通、能源等重点领域的效率将大大提高,新的产业空间将迅速在每个行业形成,这将有助于数字中国的实现。李彦宏预测,百度智能云将在不久的将来召开新闻发布会,主题是以文心为主题的云服务和应用产品为主,包括公共云服务和私有部署。

第二类是调整行业模型的公司,是通用大模型和企业之间的中间层。基于对行业的洞察,可以调用通用大模型能力为行业客户提供解决方案。在这方面,百度文心大模型已经在电力、金融、媒体等领域发布了10多个行业大模型。

第三类是基于大模型基础的应用开发公司,即应用服务提供商。李彦宏断言,对于大多数企业家和企业来说,真正的机会不是从零开始做Chat GPT和文心一言这样的基础模式,这是不现实的,也是不经济的。这可能是基于通用大语言模型开发重要应用服务的真正机会。目前,许多创业明星公司已经出现在文本生成、图像生成、音频生成、视频生成、数字人、3D等场景的基础上,这可能是未来的新巨头。

“我们相信人工智能将彻底改变我们今天的每个行业。AI的长期价值和各行各业的颠覆性变化才刚刚开始。未来会有更多的杀手应用和现象级产品,会有更多的里程碑事件。”李彦宏说。