再不监管AI就完了!马斯克、中国防火墙之父:ChatGPT操纵人类观点 华尔街多家银行禁用|AI|伊隆
淘宝搜:【红包到手500】领超级红包,京东搜:【红包到手500】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
FX168财经报社(香港)讯 人工智能(AI)聊天机器人ChatGPT快速进化下,新版本ChatGPT-4马不停蹄地推出论文,准备向市场推出。但OpenAI联合创始人马斯克(Elon Musk),以及“中国防火墙之父”方滨兴警告市场,市场剩下非常有限的时间对AI进行监管,强调若再不采取行动,人类安全和观点可能会被操纵。
马斯克、中国防火墙之父:再不监管AI就完了
OpenAI首席执行官Sam Altman联合方滨兴和马斯克,一起提出对人工智能(AI)危险的担忧。“我们在这里必须小心,”37岁的奥特曼补充说,“我认为,人们应该为我们对此有点害怕而感到高兴。”
“我特别担心这些模型可能会被用于大规模的虚假信息,现在他们在编写计算机代码方面做得越来越好,AI可能会被用于攻击性网络攻击。”
OpenAI是ChatGPT背后的公司,该公司在不到两周前推出GPT-4。高度成熟的聊天机器人可以在SAT数学考试中取得近乎满分的成绩,并在美国律师考试中取得90%的成绩。
它有竞争对手,他基于人工智能的初创公司也在该领域取得了令人惊讶的进步。RAD AI最近推出了第一个为理解情绪而构建的人工智能营销平台,地球上一些最大的公司已经在使用它。
GenesisAI是一家建立市场的初创公司,允许任何企业将人工智能和自动化集成到他们的业务中。这意味着人工智能可能很快就会像员工本身一样成为企业不可或缺的一部分。
然而根据Altman的说法,ChatGPT-4使用演绎推理与记忆,这可能会导致不准确的结果。
“我最想提醒人们的是我们所说的幻觉问题,”奥特曼告诉美国广播公司新闻。“该模型会自信地陈述事情,就好像它们是事实一样,但它们完全是虚构的。”
Altman认为,总体上需要对AI进行监管。
方炳兴说,这样的聊天机器人会导致信息茧,“人们在从AI那里寻求各种答案时,他们的观点可能会被操纵”。
他还警告说,当人工智能进一步发展时,它可能对人类构成威胁。
“现在它只是用于类似在线聊天场景的软件,如果它被整合到机器人和汽车中,我们需要对它们可能对人类造成的潜在伤害保持警惕。”
马斯克指出,ChatGPT向人们展示AI已经变得多么先进。他表示AI已经进步了一段时间,只是没有一个使用者介面能让大多数人使用。
马斯克表示,虽然飞机、汽车、医药等领域都有监管安全标准,但现在还没有任何规则或法律来控制AI的发展,他认为需要针对AI进行规范,相比飞机、汽车和医药,AI实际上对社会构成的风险更大。
马斯克已在2018年离开OpenAI董事会,不再持有该公司的股份。
华尔街起草禁用ChatGPT
在咨询公司Gartner的调查中,近一半的人力资源负责人表示,他们正在制定有关员工使用OpenAI的AI聊天机器人ChatGPT指南。这些政策最终可能会有很大差异,一些华尔街公司,如美国银行和高盛集团,已经禁止内部员工使用ChatGPT聊天机器人,而对冲基金巨头Citadel则已经接受了它。
与此同时,在接受 Gartner调查的人力资源主管中,有1/3表示他们不打算发布任何关于员工使用ChatGPT的政策,即使专家对侵犯版权和数据隐私表示担忧,并警告用户不要使用聊天机器人的倾向,它们有时只是编造东西。
在雇主评论网站Glassdoor旗下的社交平台Fishbowl的调查中,超过40%的专业人士已经在工作中使用过ChatGPT。软件开发人员、顾问和银行家是使用该工具编写电子邮件、报告和代码的早期采用者。根据Fishbowl的调查,大多数人都变得无赖,在没有告诉老板的情况下试验该工具。
华尔街公司已经开始打击,除了美国银行和高盛,花旗集团、德意志银行和富国银行也禁止使用ChatGPT。但他们只占少数:到目前为止,在接受Gartner调查的人力资源主管中,只有3%表示,他们出于任何商业目的禁止使用ChatGPT。
其他如Citadel公司,正在采取相反的策略,为该工具协商企业范围的许可。“这一技术分支对我们的业务产生了真正的影响,”其亿万富翁创始人Ken Griffin说,“从帮助我们的开发人员编写更好的代码到在不同语言之间翻译软件,再到分析我们在日常工作中分析的各种类型的信息,无所不包。”
微软推出改进后的Office应用程序套件,将OpenAI的新GPT-4 AI模型集成到Excel、PowerPoint、Outlook和Word中。该软件目前正在20家公司进行测试,其中包括8家财富500强公司。
Gartner人力资源业务高级主管分析师Eser Rizaoglu表示,围绕生成式人工智能的使用制定规则的公司可能仍处于探索阶段。
“他们可能会质疑有多少指导,哪些角色可能会使用它或不能使用它,以及他们是否应该完全禁止它,”Rizaoglu解释说。“许多领导者正在与IT、法律、合规和审计部门合作,以了解AI的风险是什么,潜在影响是什么?然后我们如何采取相应的方法?”
同时,在接受Gartne调查的人力资源主管中,有1/3表示他们不打算就员工使用ChatGPT发布任何政策。Rizaoglu指出,这可能是因为新技术可能与他们的组织和他们所在的行业无关,或者他们认为这只是一种过去的趋势。另一组人可能认为,提供指导的责任在于法律或IT部门。
Gartner调查的其他人采取了中间路线,既不禁止也不忽视聊天机器人,但警告工作人员聊天机器人的答案不一定可靠或保密,可以分析它们是否是AI所产生。
尽管如此,考虑到准确性、数据安全和隐私方面的风险,“勤奋的事情是评估组织的潜在风险是什么,并相应地制定一些指导,以确保组织减轻以后可能发生的任何风险,”Rizaoglu最后强调。
奋达科技格力 奋达科技和格力集团
奋达科技是国企吗,奋达科技股,奋达科技前景,奋达科技介绍本报记者 张军兵
(资料图片仅供参考)
见习记者 丁蓉
3月28日,奋达科技公告称,公司已与格力集团签订《战略合作框架协议》,双方拟在智能制造、业务开拓、产业生态等方面展开互利合作。
为深化合作关系,格力集团旗下的格力金投还与奋达科技签署了《股份转让协议》,拟受让奋达科技控股股东肖奋持有的9123.34万股奋达科技股份,占上市公司股本总额的5%,加上此前通过格金六号间接持股的1.9%,格力金投对奋达科技的总持股比例将达到6.9%,成为奋达科技的重要战略股东。
“奋达科技将依靠多年来在消费电子领域的智能制造经验,借助格力集团的发展平台及产业资源优势,进一步优化资产结构,促进公司实现持续健康发展。”奋达科技董秘周桂清在接受《证券日报》记者采访时表示,近期ChatGPT的应用落地有利于带动电子产品的迭代升级,公司健康电器、智能穿戴等核心产品有望受益,叠加格力集团的赋能加持,公司经营业绩提升值得期待。
探索商业、产业生态
两大方面合作
《战略合作框架协议》显示,奋达科技与格力集团将在商业和产业生态两个大的方面进行战略合作。
在商业合作领域,奋达科技将在珠海市设立智能制造产业基地,为珠海打造一个新的产业集群,而格力集团需以优惠条件向奋达科技提供旗下格创·云谷北区项目约22万平方米现代化园区作为该产业基地项目的核心配套和有力支持措施,并在物业服务、产业配套等方面提供力所能及的全方位优质服务。
“此次将深圳产线腾挪至珠海产业基地,有助于降低生产成本,同时也能将深圳产业园用于更高效、创新的用途。”周桂清表示,等到珠海智能制造产业平台运作完善之后,双方还将进一步以该平台为模板,将其复制至更多产品制造领域和园区。
在产业生态合作领域,奋达科技称,将与格力集团整合各自资源,形成紧密交融、共同发展的产业生态。一方面,在资本运作等方面密切合作,进行产业链上下游及相关产业的整合;另一方面,对于双方共同看好的行业、企业等,包括但不限于新能源、智能硬件等领域,双方将在合适时间与阶段,以包括但不限于共同投资、并购等多种形式进行合作。
“未来,我们也将在业务层面展开合作,充分发挥格力集团产品、客户关系和渠道资源,扩大市场提升业绩。”周桂清说。
ChatGPT将掀起
行业迭代浪潮
奋达科技作为国内领先的新型智能硬件及一体化解决方案提供商及服务商,主要产品包括电声产品、健康电器、智能可穿戴产品、无线模块、移动智能终端金属外观件等五大系列。
爱建证券首席投资顾问卢玉麟对《证券日报》记者表示,“此次奋达科技引入格力集团战投并合作,表明格力集团看好奋达科技本身具备良好的成长性。在未来AI浪潮带动智能制造新一轮升级的浪潮下,奋达科技有着较好的投资价值。”
近期ChatGPT概念的持续火热也带动了奋达科技等智能家居相关产业链公司的股价上涨。在业内看来,ChatGPT应用将催生应用场景快速落地,多模态模型发展进一步拓展应用外延。
中信证券表示,ChatGPT实现语义理解最快延伸出的场景,首先是文字,其次是语音,以智能音箱为例,ChatGPT驱动智能化2.0升级并带动新需求释放。现有智能音箱产品经常出现听不懂话、反应慢的状况,产品表现并不“智能”。此前语音交互功能将音箱升级为智能音箱1.0版本,ChatGPT提升智能音箱交互体验,有望逐步往智能音箱2.0升级。
中金公司也称,以ChatGPT为代表的生成式AI系统是对智能家居交互方式的升级,其未来应用方向是以智能音箱、家庭陪护机器人等为代表的智能家居产品。
周桂清认为,在当下消费电子终端疲软的行情下,ChatGPT的应用落地有利于带动电子产品的迭代升级,刺激消费需求,奋达科技作为智能音响等智能家电的制造商有望受益。
关键词:








