庆云古诗词

庆云古诗词

安恒信息董事长范渊回应每经:类ChatGPT应用带来的安全挑战毋庸置疑,建立相关安全模型还有很大空间

互联资讯 0

2023年11月20日 每日一猜答案: 答案:ABC
每日一猜答案分析:

安恒信息技术有限公司范渊简介,安恒范渊的发展史,安恒范渊金华,安恒信息技术有限公司 范渊

每经记者 张蕊每经编辑 陈旭

5月7日,以“数字安全@数字中国”为主题的2023西湖论剑・数字安全大会(原西湖论剑・网络安全大会)在杭州举办。

嘉宾在论坛现场发表演讲 每经记者 张蕊 摄

大会主论坛上,安恒信息董事长范渊围绕数字中国安全建设,以“构筑可信可控的数字安全屏障”为题发表主旨演讲,提出在数字中国建设的时代背景下,需要建立高远、平远、深远的数字安全观,厘清数据治理、数据安全、数据要素的关系,构建可信可控的数字安全基础设施。

主论坛后,范渊接受了《每日经济新闻》记者的采访。

类ChatGPT应用既有挑战也有机遇

类似于ChatGPT这样的人工智能是否会对网络安全带来一些威胁,可能会带来一些什么样的具体威胁?这会对网络安全类的公司提出什么样的新要求?

范渊在主论坛做主题演讲 图片来源:主办方

对于《每日经济新闻》记者提出的这一问题,范渊表示,现在大家对ChatGPT都非常关注,对于其带来的安全问题,有两个挑战是非常明显的:

一是现在的一些自动化生成工具会带来病毒、木马、后门等出现几率的大幅提升,甚至可能是几百倍的提升,这时候其实我们面临的挑战是毋庸置疑的。“所以,怎么样来对抗、来快速发现和快速进行智能化的防护,是一个非常有意思的话题,也是我们要践行的工作。”

二是本身类ChatGPT的应用,这种AI和大模型其实都会伴随大量的数据,在这样的场景当中,它自身的安全风险,包括一些安全漏洞也非常之大。

“当然,它同时也会带来很大的机遇。”范渊认为,在安全领域真正建立起相关模型,能够大大提升安全方面的智能防护能力、响应能力以及自动化程度,在这方面还有很大的空间,包括客户体验、设计等方面都还有很大空间。

范渊介绍,过去这几年,安恒的研究院在云端的数据大脑、云端的AI模型升级利用,以及快速应用于网络战略分析,也就是攻击的模型分析,包括攻击意图、攻击源头、攻击行为的分析等方面做了大量的努力,也取得了相关的成果。

“所以我认为在这方面,我们也可以快速地把这些业务开展起来。”

很快会看到公司利润模型回归

《每日经济新闻》记者梳理安恒信息(SH688023,股价200.00元,总市值157.7亿元)近三年的年报发现,2020年公司营收13.2亿元,同比增长40.14%;2021年公司营收18.2亿元,同比增37.59%;2022年公司营收19.8亿元,同比增8.77%。

对于每经记者提出的有关公司财务状况的问题,范渊表示,“公司今年一季度收入同比增长44%,我觉得整个公司的发展是非常健康的。我们始终坚持,在三年前我们募资就是投入到整个的数据安全治理、数据安全防护、数据安全运用这些产品,所以过去这两年可能也会感觉到好像利润会受到影响,但是我觉得未来的十年是非常重要的。”

范渊坦言,如果再来一遍,公司还是会这么选,也就是说公司希望看得更远一些,走得更久一些。“我们希望真正的网络安全、数字安全的能力必须是能够自主可控的,否则将来哪怕是一时的报表,可能也掩盖不了未来的这种趋势,这也是安恒的一个价值观。”

“当然,从今年开始,我觉得我们很快会看到这种利润模型的回归,因为伴随着数字安全产业的增量,伴随着我们过去的储备,伴随着数字中国的开启,我觉得我们还是会更持续、健康、高质量地发展。”范渊说。

封面图片来源:每经记者张蕊摄

海量资讯、精准解读,尽在新浪财经APP

超级计算机 用于ai学习 ai智能学习机数学


“学校经历了很多变革,以前的师生适应了字典,又适应了计算器。现在可以将AI看成一种非常极致的计算器。”

撰文 | 陈劲松

《看天下》杂志原创出品

2023年1月,南卡罗来纳州弗莱明大学哲学教授达伦・希克布置了一份作业,让学生写一篇关于18世纪哲学家大卫・休谟学术思想的论文,探讨如何从令人恐惧的事物中获取乐趣,要求500字,在家里完成。

当学生陆续上交作业时,希克教授从一篇文章中嗅到了一丝不妥。“文章写得很聪明,但过于干净了,”希克在接受《纽约邮报》采访时称,“从内容上讲没有任何问题,就是使用的措辞很奇怪。不像是学生写出来的,倒像是老师写出来的。”

希克教授决心探究他的学生们是否使用了ChatGPT来完成作业。

他首先将文章内容复制到ChatGPT的提问框,直接询问这些文字是否由它生成,但ChatGPT并没有给出肯定的答案。希克随后拿着文章去学校的论文抄袭检测软件进行比对,查重率并不高。希克自己尝试让ChatGPT就这个话题写一篇文章,结果相似,但并不完全相同,他认为ChatGPT每次给出的回答都是不同的。

最终,他直接与学生对质,对方承认使用了ChatGPT。希克给了这名学生不及格。

之后的作业里,希克尽量采用口头测试的方法来评估学生,让他们措手不及。然而毕竟不能用口头测试应对所有的作业和考试,且ChatGPT又在不断进化,写出的文章越来越个人化,那种机械气息越来越不明显,“我陷入了极度恐惧之中,因为我清楚这对自己的工作意味着什么。”希克说。

ChatGPT的创造者,OpenAI公司CEO萨姆・奥特曼在2023年1月也表示,学校需要适应这种转变。“学校经历了很多变革,以前的师生适应了字典,又适应了计算器,”奥特曼说,“现在可以将AI看成一种非常极致的计算器,它的好处也是非常极致的。”

不过,这个适应过程非常艰难。

30%大学生用ChatGPT写作业

2022年11月30日,ChatGPT问世,在2个月内成为史上最短时间获得一亿用户的应用。不过,通用人工智能在校园内引发巨大的忧虑,老师们既担心失去工作,又害怕大规模学术造假。

佛罗里达州的珊瑚角高中是美国一所顶级公立高中。然而在今年2月,这里被曝出多名学生使用ChatGPT完成IB(国际文凭)项目的论文。

一位老师在内部电子邮件中透露了此事,而邮件又被NBC电视台公开。“有些论文与学生之前的风格截然不同。”这位老师写道。

疑似使用了ChatGPT的学生被学校叫去,而那些坚决否认使用AI工具的人将会面临“更加严重的后果”。所有作弊的学生,无论承认与否,都不能从IB项目毕业,意味着他们在申请大学的时候落后于其他同学。

这桩作弊丑闻让珊瑚角高中所在的学区十分震惊,“这都是我们这里最聪明、最勤奋和最有竞争力的孩子,”一位学区老师接受NBC采访时说,“这种情况令人心碎。”

本图由AI软件Midjourney创作

当地校方正在检查所有学生的电脑,清理可疑的作业。

IB项目协调员也表示已经采取了多项措施防止学生利用ChatGPT作弊,比如定期与学生会面,了解他们对学科的掌握程度。

Intelligent网站今年2月份一项调查显示,在美国,30%的大学生在书面作业中使用ChatGPT。在这些大学生用户中,超过一半的作业是由ChatGPT完成的。更惊人的是,其中四分之三的学生明确知道,使用ChatGPT会被学校认定为作弊行为。

“作为谢里登学院的一名在读学生,我使用ChatGPT来协助完成家庭作业,”研究生克里斯托弗・史密斯接受这项调查时表示,“根据我的观察,相当多的同学也使用这项技术来帮助他们的工作。”

难以检测的AI作品

作为对策,美国多个州的学区已经禁止在学校内使用ChatGPT。

洛杉矶是最早宣布禁令的城市,这个产品问世两周后,洛杉矶就要求所有学区禁止对ChatGPT的访问,以“保护学术诚信”。

全美最大城市纽约紧跟洛杉矶,在今年1月3日宣布所有学区禁止访问ChatGPT。纽约市政府发言人詹娜・莱尔说:“虽然该工具能够让你轻松完成作业,但它无法培养批判性思维和解决问题的能力,这才是学业成功的关键。”

禁令之外,美国还出现了形形色色的ChatGPT检测器,帮助老师们抓住作弊的学生。目前最出名的检测器来自论文查重公司Turnitin。但不幸的是,这个检测器并不像其公司宣传的那样可靠。

《华盛顿邮报》科技专栏作者杰弗里・福勒测试了这个检测器。他将加州一名高中生的高分原创论文输入了Turnitin,结果被标记为可能是ChatGPT生成的,这个学生得知结果后大吃一惊,发誓自己绝对没有作弊,并提供了写作过程和参考资料。

福勒一共测试了16个学生的论文,其中有原创,也有AI生成的,还有半原创半AI的。最终结果令人失望,Turnitin只正确识别了其中6篇,识别率仅38%,与其公司号称的98%准确率相差甚远。

对于这个尴尬的结果,Turnitin公司回应称,它的鉴别结果只是一种参考,而不是惩罚标准。《华盛顿邮报》的文章发表之后,Turnitin在检测结果后更是添加了警告标志,“此得分不代表作弊,需要进一步审查”。

除了Turnitin,斯坦福线上高中的高三学生本杰明・克利格发明的检测器也名声在外。这个检测器名为CheckforAi,克利格称可以检测到AI生成的所有文本。这个检测器是在ChatGPT的帮助下开发的,但改进了OpenAI原有的检测模型。

普林斯顿大学的一名本科生在1月份也发布了自己制作的检测器GPTZero,这个检测器受到了广泛好评,很多专家认为它的界面简单干净,易于使用。

不过这些检测器都面临同样的问题――准确率不高。福勒对所有的检测器都进行了测试,没有一款的准确率能够过半。有鉴于此,福勒不建议学校使用这些检测器,因为一旦误判,会给学生带来灾难性后果。

为什么检测AI如此困难呢?Turnitin的人工智能副总裁埃里克・王称,从统计学上来看,人工智能与人类的不同之处在于它“非常一致地处于平均水平”。

ChatGPT等AI系统的工作方式就是在进行大规模的训练之后,根据上文寻找下一个最可能出现的词。“这实际上就是它读起来如此自然的原因,人工智能的作品就是人类最后可能写出来的作品。”埃里克・王说。

因此,Turnitin检测器就是在寻找过于平均的作品。然而,人类有时候就是会写出如此平庸,毫无波动的文章。

在经济学、数学和实验室报告中,学生倾向于撰写有固定模板的文章,这意味着他们更有可能被误认为是AI写作,所以论文通常更容易被标记为ChatGPT作品。

更重要的是,随着AI的迅速迭代,目前的检测器都远远落后了。无论Turnitin还是GPTZero,都针对的是GPT-3.5,而新模型GPT-4的出现,让AI的作品有了更多的创意元素,更不用说新出现的谷歌产品Bard写出的文章风格与GPT迥异。

鉴于可靠的检测器很可能是无法开发出来的,那么学校对于AI是不是应该改变态度,从封杀改为合作呢?

哈佛大学的实例,也许就是未来的方向。

不要把头埋到沙子里

根据哈佛校园媒体《深红报》的报道,去年底,秋季学期即将结束之时,一位哈佛学生感到筋疲力尽、焦虑不安,感觉“像泄了气的气球”。她参加的通识教育结课考试需要在给定的一段时间内完成两篇论文,在写完第一篇后,她觉得已经写无可写,对第二篇如何动笔非常绝望。这时,她想到了朋友给她介绍的ChatGPT,她决定冒险尝试一下。

她在OpenAI上注册了一个账户,并输入了论文的主题,输出的质量让她惊喜不已。修改了一些文字后,她将AI作品变成了自己的论文提交上去,完成了这个学期的考试。

《深红报》称,很多哈佛学生都像她一样,早早开始使用ChatGPT。尤其是在很多开卷的文科考试中,不少学生将电脑屏幕分割成两个窗口,左边窗口是考题,右边是ChatGPT输出答案。

对于如此大规模的所谓“作弊”,哈佛校方并没有对ChatGPT一禁了之。哈佛本科教育院长安妮・哈林顿在接受《深红报》采访时称,ChatGPT并不是对教育的威胁,“我们会将对新工具的评估权留给教职员工”。

@视觉中国 图

1月20日,她向哈佛老师群发了一封邮件,承认ChatGPT“向我们所有人提出了问题”。邮件指出,教师可以在他们认为合适的情况下“使用”ChatGPT,并没有要求他们追查学生是否用了AI工具。

很多哈佛老师也对使用ChatGPT抱着开放态度。计算机科学教授乔纳森・弗兰克尔反问道,如果学生已经掌握了高级编程技术,那么是否还一定要求他们从头学起呢?“你不会指望那些学生还要掌握在纸带上打孔的本事吧,”他指的是,最早期的编程就是在纸带上打孔,从而让计算机识别二进制编码。

哈佛医学院教授加布里埃尔・克里曼也有类似的感觉。他的课堂上欢迎学生使用ChatGPT,无论是编写代码还是最终报告。他唯一的要求是学生如果使用了ChatGPT,必须向他告知。“如果它错了,拿到不及格的是你,而不是ChatGPT。”

据《深红报》报道,和克里曼一样,大多数哈佛教育工作者并不认同弥漫在新闻里的对AI的恐慌情绪。他们认为阻止学生使用ChatGPT是不可能的,能做的是调整自己的课程来适应新形势。

“我们教给学生的主要内容是思考方式和学习方法,”克里曼说。“不仅是为了今天存在的工作,也为了10年后出现的新工作。”

像哈佛的老师一样,越来越多的教育工作者对于ChatGPT抱着开放的态度。

加州大学伯克利分校教授布兰迪・诺内克在接受《洛杉矶时报》采访时称,ChatGPT和类似AI工具将改变教育方式。“这将是令人振奋、变革性的,”她目前领导着加州大学体系内部的一个AI工作组,忙于评估ChatGPT等AI产品的风险和潜力。

这几年来,伯克利一直在努力制定AI时代的教育路线图,类似的课程如雨后春笋般涌现,以帮助学生探索人工智能技术的伦理和影响。当伯克利学生们在Reddit论坛上讨论他们该如何接纳ChatGPT时,一些教授则鼓励自己的学生将AI作品当作自己论文的起点。

“已经没有回头路可走了,”诺内克称,“现在的问题是如何设置适当的护栏,确保我们的学生能够适应AI时代的教育,而不是把头埋到沙子里。”

你会用AI写作业吗?↓↓↓