庆云古诗词

庆云古诗词

人类在网络钓鱼方面仍然比ChatGPT更有效

互联资讯 0

2023年11月20日 每日一猜答案: 答案:ABC
每日一猜答案分析:

网络钓鱼行为的是,网络钓鱼会遇到很多相关技术但不包括,网络钓鱼者会用到多种手段,网络钓鱼的说法中

据观察,在诱导潜在受害者点击恶意链接方面,人类社会工程师的表现比人工智能程序(AI)要好。

这一说法来自HoxHunt公司的一篇新研究论文,该公司根据其网络钓鱼训练流程分析了发送给100多个国家用户的53127封电子邮件。

HoxHunt联合创始人兼首席技术官Pyry Avist撰写的这项研究表明,专业红客成功诱导了4.2%的点击率,而ChatGPT的点击率为2.9%,比人工智能高出44.8%。

Avist写道:“有趣的是,在人类和人工智能发起的网络钓鱼模拟中,用户的失败率存在一些地理差异。人类与人工智能生成的网络钓鱼攻击之间的最大差距是在瑞典人口中。人工智能对美国受访者最有效。”

HoxHunt澄清说,该实验是在ChatGPT 4发布之前进行的,ChatGPT 4将为模型带来实质性的改进。

该研究称:“像ChatGPT这样的大型语言模型可能会迅速发展和改进,从而诱使人们点击。”

与此同时,Avist补充说:“即使人工智能增强的网络钓鱼工具不断发展,目前的人类风险控制也应保持相关性。”

人们花在训练上的时间越多,他们遭受攻击的可能性就越小,无论是人类还是人工智能。您不需要重新配置您的安全培训来解决潜在的ChatGPT滥用问题。

Tanium公司端点安全研究主管梅丽莎・比肖平(Melissa Bischoping)表示:“改善防范此类攻击的潜在措施包括更新意识培训计划,让员工了解网络钓鱼战术的新兴技术和趋势。虽然网络钓鱼的接收者通常是第一道防线,但重要的是,你也要投资于电子邮件、DNS、网络和端点安全监控和响应能力等防御层。”

在HoxHunt的研究发布几周前,黑莓的一项调查显示,北美、英国和澳大利亚的大多数安全领导者预计,到今年年底,ChatGPT将成为网络攻击的核心。



人形机器人行业点评报告丨ChatGPT,振奋人形机器人应用端锦绣前程

人形机器人的前景如何,人形机器人研制难度极大,却吸引着,人形机器人发展前景,人形机器人的优缺点

核心观点

近日OpenAI发布了诞生于GPT-3基础上的聊天机器人ChatGPT,短短几天引爆网络,用户数突破100万。ChatGPT根据强化学习的奖励模型调整迭代为用户生成建议,应用场景丰富,可以参加考试、写诗、修bug,“智商”很高。当前人形机器人优先“四肢发达”,未来“头脑发达”为其终极追求。人机交互领域智能体虽依然存在无法完全根据现实生活进行自主推演,具有道德约束风险等缺陷,但其在语义交互上的进步显著。随着人机交互技术在语音、语义、肢体等交互能力的成熟,人形机器人灵活适用于更广阔的 To C 场景指日可待。

ChatGPT根据强化学习奖励模型与用户进行语义交互,应用场景丰富OpenAI发布了诞生于GPT-3基础上的聊天机器人ChatGPT,具备用户友好的对话交互界面,根据指令提供详细响应。首先,由人类标记员对于用户提交的prompt来编写答案,把这些答案的数据集收集起来,通过监督学习对GPT进行微调。然后,由人类标记员对于模型产出的答案进行排序,以此收集比较数据用于训练强化学习的奖励模型,以捕捉人类偏好。最后,采用PPO(近端策略优化)算法对模型进行微调迭代,帮助AI优化回复内容。ChatGPT应用场景丰富,可以参加考试、写诗、修bug,“智商”很高。但同时,ChatGPT也存在局限性。有时会生成包含虚假和明显错误的回复;虽具合法和道德约束设置,但仍有破解方法。

人机交互模块的突破增强人形机器人 To C 商业化应用确定性人机交互系统为人形机器人的“大脑”。人形机器人主要包含三大核心技术模块:环境感知模块、运动控制模块和人机交互模块。三大核心模块技术进展差异显著,人机交互仍存挑战。语音语义分析作为人机交互核心途径,帮助机器人具备听、说、理解和思考的能力。当前人形机器人积极发展运动性能,通过“指令-执行”工作模式解决劳动力短缺问题,但人机交互的挑战限制其商业应用场景。当前人机交互领域捷报频传,AI越来越能够适应不确定性的真实世界并理解演绎角色。人机交互领域智能体虽然存在无法完全根据现实生活进行自主推演,具有道德约束风险等缺陷,但其在语义交互上的进步显著。随着人机交互技术在语音、语义、肢体等交互能力的成熟,人形机器人灵活适用于更广阔的 To C 场景指日可待。

GPT模型历经四代发展,模型简化满足细分任务应用GPT模型自发布以来历经四代,其中GPT3模型参数量达到1750亿,奠定了AI进入大模型时代。ChatGPT仅有约13亿参数,但细分任务领域表现依旧出色,我们认为基于大模型提炼小模型实现各类任务模块有望成为AI商业化的有效路径,能够有效解决AI模型训练成本过高的问题。