庆云古诗词

庆云古诗词

美科技伦理组织要求FTC调查OpenAI 禁止发布新的商业版GPT

互联资讯 0

2023年11月20日 每日一猜答案: 答案:ABC
每日一猜答案分析:

美国科技组织,科技伦理案例解析

新浪科技

  新浪科技讯 北京时间3月30日晚间消息,据报道,美国科技伦理组织“人工智能与数字政策中心”(CAIDP)今日要求美国联邦贸易委员会(FTC)禁止OpenAI发布新的商业版GPT-4。

  本月早些时候,OpenAI 发布了最新的GPT-4生成式人工智能多模态模型,在各种专业和学术的标准测试中表现出了人类水平的性能。但同时,GPT-4的强大也引发了不少人的担忧。

  今日,CAIDP在提交给FTC的一份投诉中称,GPT-4存在偏见和欺骗性,对隐私和公共安全构成了风险。CAIDP在投诉书中表示,OpenAI的ChatGPT-4未能达到FTC的标准,即“在促进问责的同时,保持透明、可解释、公平和经验上合理。”

  CAIDP主席、资深隐私倡导者马克・罗滕伯格(Marc Rotenberg)在一份声明中称:“FTC有明确的责任调查和禁止不公平和欺骗性的贸易行为。我们认为,FTC应该密切关注OpenAI和GPT-4。”

  为此,CAIDP敦促FTC对OpenAI展开调查,禁止发布新的商业版GPT-4,确保建立必要的护栏来保护消费者、企业和商业市场。”

  在CAIDP之前,特斯拉CEO埃隆・马斯克(Elon Musk)等上千名科技人士于昨日发表公开信,呼吁暂停训练比GPT-4更强大的AI系统。这封公开信称,所有人工智能实验室应立即暂停训练比GPT-4更强大的人工智能系统,至少6个月时间。否则,政府就应该介入采取强制措施。


美国 AI 政策组织状告 OpenAI,称其 GPT-4 模型威胁公共安全


IT之家 3 月 31 日消息,美国一 AI 政策组织指控 OpenAI 发布的 GPT-4 模型违反了消费者保护规则,要求美国联邦贸易委员会立即阻止 OpenAI 推出新的 GPT 模型,并进行独立评估。

这个名为 AI 和数字政策中心(CAIDP)的组织今天提交了投诉,认为 OpenAI 推出的 AI 文本生成工具是“有偏见的、欺骗性的和对公共安全有风险的”,违反了消费者保护规则。

IT之家注意到,此前一封备受关注的公开信呼吁暂停大规模的生成式 AI 实验。CAIDP 主席马克?罗滕伯格也是这封信的签署者之一,其他签署者还包括一些 AI 研究人员和 OpenAI 联合创始人埃隆?马斯克。与这封信类似,此次投诉也呼吁放慢生成式 AI 模型的发展,并实施更严格的政府监管。

CAIDP 指出 OpenAI 在 3 月中旬宣布的 GPT-4 生成式文本模型可能带来的威胁。这些威胁包括 GPT-4 可能产生恶意代码,以及由于训练数据存在偏见而导致固化刻板印象或在招聘等方面不公平地区分种族和性别。投诉还指出了 OpenAI 产品界面存在的严重隐私问题 ―― 比如最近发现的一个漏洞,导致 OpenAI ChatGPT 的历史聊天记录和可能的支付信息被其他用户看到。

OpenAI 此前已经公开承认了 AI 文本生成可能带来的威胁,但 CAIDP 认为 GPT-4 超出了对消费者产生伤害的界限,应该引起监管行动。CAIDP 试图以其违反联邦贸易委员会法第 5 条为由,追究 OpenAI 的责任,该法禁止不公平和欺骗性的贸易行为。投诉声称,“OpenAI 在充分了解这些风险的情况下,将 GPT-4 向公众开放用于商业目的。”CAIDP 还将生成式模型自信地编造不存在的事实称为一种欺骗。

在投诉中,CAIDP 要求联邦贸易委员会停止任何进一步的 GPT 模型的商业部署,并要求在任何未来的模型推出之前进行独立评估。它还要求建立一个类似于消费者可以提交欺诈投诉的公开可访问的报告工具。并且寻求联邦贸易委员会对生成式 AI 系统的规则进行明确的制定,以建立在该机构正在进行的但仍相对非正式的 AI 工具的研究和评估之上。

美国联邦贸易委员会此前已经表达了对监管 AI 工具的兴趣,该委员会警告称,有偏见的 AI 系统可能引发执法行动,而且在本周与司法部联合举办的一次活动中,联邦贸易委员会主席莉娜?汗说,该机构将寻找大型现有科技公司试图排挤竞争的迹象。