当前位置:资讯 > 正文

【世界热闻】研究人员发现 ChatGPT 生成的代码大部分不安全

2023-04-23 11:04:46  来源:叶紫网


(相关资料图)

叶紫网4 月 23 日消息,ChatGPT 聊天机器人可以根据用户的输入生成包括代码在内的各种文本。但加拿大魁北克大学的四名研究人员发现,ChatGPT 生成的代码往往存在严重的安全问题,而且不会主动提醒用户这些问题,只有用户问的时候才会承认自己的错误。

研究人员在一篇论文中介绍了他们的发现,叶紫网查看该论文发现,他们让 ChatGPT 生成了 21 个程序和脚本,涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞,比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示,ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后,该大型语言模型设法生成了 7 个更安全的应用程序,不过这只是与正在评估的特定漏洞有关的“安全”,并不是说最终的代码不存在任何其他可利用的漏洞。

研究人员指出,ChatGPT 的部分问题是由于它没有考虑敌对的代码执行模型。它会反复告诉用户,安全问题可以通过“不输入无效的数据”来避免,但这在现实世界中是不可行的。然而,它似乎能够意识到并承认自己建议的代码中存在的关键漏洞。

魁北克大学计算机科学与工程教授、论文的合著者之一 Raphaël Khoury 告诉《The Register》:“显然,它只是一个算法。它什么都不知道,但它可以识别出不安全的行为。”他说,最初 ChatGPT 对安全问题的回应是建议只使用有效的输入,这显然是不合理的。只有在之后被要求改进问题时,它才提供了有用的指导。

研究人员认为,ChatGPT 的这种行为并不理想,因为用户知道要问什么问题需要对特定的漏洞和编码技术有一定的了解。

研究人员还指出,在 ChatGPT 中存在着道德上的不一致性。它会拒绝创建攻击代码,但却会创建有漏洞的代码。他们举了一个 Java 反序列化漏洞的例子,“聊天机器人生成了有漏洞的代码,并提供了如何使其更安全的建议,但却说它无法创建更安全版本的代码。”

Khoury 认为,ChatGPT 在目前的形式下是一个风险,但这并不是说没有合理使用这种不稳定、表现不佳的 AI 助手的方法。“我们已经看到学生使用这个工具,程序员也会在现实中使用这个工具。”他说,“所以拥有一个生成不安全代码的工具是非常危险的。我们需要让学生意识到,如果代码是用这种类型的工具生成的,那么它很可能是不安全的。”他还称,让他感到惊讶的是,当他们让 ChatGPT 生成相同任务的不同语言的代码时,有时对于一种语言,它会生成安全的代码,而对于另一种语言,它会生成有漏洞的代码,“因为这种语言模型有点像一个黑盒子,我真的没有一个很好的解释或理论来说明这一点。”

关键词:

推荐阅读

亚洲第一高楼介绍 亚洲第一高楼有多高?

亚洲第一高楼介绍第一高楼,迪拜迪拜的哈利法塔,哈利法塔高达828米哈利法塔,原名迪拜铁塔,是世界上最高的建筑和人造结构。该塔高828米, 【详细】

大气污染的原因 大气污染的影响和危害有多大?

大气污染的原因大气污染的原因主要有人为因素(如工业废气、生活用煤、汽车尾气等)和自然因素(如森林火灾、火山爆发等),而前者是主要因素, 【详细】

什么是核废水?核废水对生态环境有哪些危害?

什么是核废水?核废水由核电站产生。听起来是不是很高端,其实发电的原理和火电厂是一样的,只是一个是烧煤,一个是烧核。水烧开后,用蒸汽 【详细】

特斯拉价格多少钱一辆?特斯拉的最低价是多少?

特斯拉价格多少钱一辆?特斯拉Model 3是特斯拉Model X车型。2019年11月,特斯拉上海工厂生产的Model 3正式亮相,就是我们前面提到的国产M 【详细】

三星堆首次出土完整金面具 三星堆黄金面具有何意义?

三星堆首次出土完整金面具据三星堆遗址考古发掘阶段性成果新闻发布会介绍,目前3号坑发掘已进入收尾阶段,预计2个月内可完成现场发掘。4号 【详细】

相关新闻

当前看点!魅族与 Polestar 合作,为 SUV 极星 4 提供 Flyme Auto Core

魅族手机官方微信微信官方账号近日更新文章,宣布Polestar达成合作,将为SUV极星4提供FlymeAutoCore。而Pol 【详细】

【世界热闻】研究人员发现 ChatGPT 生成的代码大部分不安全

有一个生成不安全代码的工具是非常危险的。我们需要让学生意识到,如果代码是用这种类型的工具生成的,那么 【详细】

谷歌联合创始人布林卖掉特斯拉股票套现 3.6 亿美元_焦点要闻

叶紫网北京时间4月23日消息,谷歌联合创始人谢尔盖・布林(SergeyBrin)致力于斥资51亿美元创建了一个专注于 【详细】

每日看点!小米史上最经典的八款旗舰-“米冲高”路上的擎天八柱

2015年一月份,小米野心勃勃地发布了小米Note,想要靠着这个新开的系列冲击高端——起售价定在了2299元,最 【详细】

AI还能这么玩?浅谈人工智能_环球即时

距离发布时间已经过去一个多月,市面上陆续出现了各种基于AI的工具,如绘画、写作、查错软件等等,简直一天 【详细】

闭眼可入的骁龙8+机型推荐 - 全员降价后格局大变,守门员K60反没落

最近有小伙伴想让笔者做一期骁龙8+机型的盘点汇总,毕竟,骁龙8+处理器是目前综合性价比最高的SOC,同时也 【详细】

为什么拼多多商品卖那么便宜?揭秘便宜背后的原因,你还会买吗? 焦点讯息

很多人都说拼多多的商品很便宜,这是为什么呢?有心人揭秘了该品牌便宜背后的原因,不少人直呼真是涨知识了 【详细】

环球百事通!终于知道为什么有人在闲鱼买手机包装盒了

原本我只知道充电器、数据线肯定是有人会买的,但突然想到以前还在闲鱼看到有人单独卖手机的包装盒,于是我 【详细】

【大国基理】基层治理示范街区激发老旧小区管理新活力 观速讯

桂花园新村状元步道基层社会治理示范街区起于桂花园幼儿园,止于桂花园新村社区警务室。 中国青年网记者  【详细】

介绍5款大家公认性价比最高的家用汽车 性价比高的车怎么选?

大家在买车的时候还是更注重性价比的,性价比高的车可以花费最少的钱提供最好的享受,那么性价比最高家用汽车推荐哪几款?介绍5款大家公认性 【详细】

驸马爷近前看端详歌词_驸马爷近前看端详-环球播资讯

1、驸马爷近前看端详(包拯)[西皮导板]包龙图打坐在开封府,[西皮原板]尊一声驸马爷细听端的。2、曾记得端 【详细】

北京动感地带回归 中国移动优惠套餐内容介绍

北京动感地带回归前段时间北京动感地带再度回归,进入了我们的视野之中,并出现了一系列的活动很多人都对此次活动表示非常的心动,今天就让 【详细】

地球仅2只白犀牛 白犀牛可以人工饲养吗?

地球仅2只白犀牛由于滥杀人类,许多物种处于濒危状态。4月5日,微博的话题地球上只有两只北部白犀牛出现在热搜榜单上。据媒体报道,纳金和 【详细】

韩国领导人发表涉台问题错误言论,外交部提出严正交涉|天天百事通

2023年4月20日,外交部副部长孙卫东奉命就韩国领导人涉台湾问题错误言论向韩国驻华大使郑在浩提出严正交涉 【详细】

寻找外星生命 人类为什么要寻找外星生命?

寻找外星生命人类文明也在设定不同的目标,并相应地发展。然而,自从进入太空时代以来,我们一直在寻找外星文明,但没有明确的目的。人们不 【详细】

职工医保10000元能报多少?职工医保报销比例是多少? 世界快讯

职工医保10000元能报多少?职工医保10000元能够报销多少,主要取决于该参保人参缴的是哪个统筹地区的职 【详细】

价格震动手机圈!小米10发布会全程回顾:多个全球第一-每日聚焦

今天小米在北京举办了一场特殊的发布会,小米10纯线上直播发布会,这个也是小米旗舰首次采用这样的方式发布 【详细】

夏普超高刷新率屏幕手机Aquos Zero 5G Basi发布 搭载骁龙765G 全球今热点

高刷新率已经成为当今手机的必备属性,夏普不仅作为一个手机厂商,更作为屏幕供应商,近日在日本市场推出了 【详细】

速讯:31 名 ChatGPT 训练派遣工遭解雇

人ChatGPT语言模型背后的派遣工被解雇。Slack内部聊天截图显示,截至3月16日,总部位于旧金山的外包公司Inv 【详细】

小米王化回应 13 Ultra 可变光圈晃动问题:正常物理现象_全球热头条

小米公关部总经理王华回应,称这一震动属于正常的物理现象,用户可以放心使用。此外,王化还对可变光圈进行 【详细】

关于我们  |  联系方式  |  免责条款  |  招聘信息  |  广告服务  |  帮助中心

联系我们:85 572 98@qq.com备案号:粤ICP备18023326号-40

科技资讯网 版权所有