当前位置:资讯 > 正文

与 AI 增强版必应长时间聊天会导致“翻车” 世界最新

2023-02-17 11:46:11  来源:叶紫网


(资料图片仅供参考)

叶紫网北京时间 2 月 17 日早间消息,微软最近推出了人工智能增强版必备的公开测试,但许多用户发现,在某些情况下,新版必须有“精神错乱”的言论,甚至侮辱用户,撒谎,并试图操纵用户的情绪。微软官方回应称,为了优化回答的语气和准确性,正在根据反馈采取行动。微软还警告说,聊天时间长可能会导致问题。

回顾最初 7 天的公开测试,微软必应团队表示,他们没有“完全预计到”,人们会使用聊天界面来进行“社交娱乐”,或是将其作为一种“全面发现世界”的工具。该团队发现,如果聊天会话持续 15 个或更多的问题,新版必应的模型会感到困惑。这些较长的聊天也会让必应“变得翻来覆去,或者受到刺激,做出不一定有帮助,或是与设计语气一致的回应”。

微软暗示,尽管文本输入框旁边有一个“新话题”按钮,可以用于清除聊天的历史记录,重新开始,但接下来还可能增加“一个工具,帮助用户更方便地刷新”聊天会话的上下文。

更大的问题在于,在这些提问较多的聊天中,必应经常会以不正确的语气回应,或是像微软所说的,以“我们不想要的方式”做出回应。微软表示,对大多数必应用户来说,只有长时间对话才会遇到这方面问题。不过,微软也在探索更多的“微调控制”,以避免必应对用户说,用户是错的,以及表现得粗鲁或试图操纵用户。在一些测试中可以看到,在关于必应本身的对话中,只要几个问题,必应就会以负面或存在敌意的语气来回复。

微软仍在努力优化必应做出回复的语气,而必应团队也在考虑提供更多的控制选项,用于设定人工智能的创造性和精确度。这种控制选项可能有助于避免目前的问题,例如必应会声称正通过笔记本摄像头来刺探微软员工,或是出现基础性的数学错误。

微软目前正在超过 169 个国家对新版必应展开测试,有数百万人正排队注册。微软表示,对答案的反馈有 71% 是正面的,一些用户甚至与新版必应进行了长达两个小时的对话,以测试服务的极限情况。

新版必应目前每天都在得到优化,一些技术问题在微软的日常版本发布中得到修复,还有一些问题则在每周发布的大版本中得到修复。微软正在尝试优化搜索和回答,尤其是围绕体育赛事比分数据,以及必应最近出现的一些财务数据错误。必应团队表示:“对于那些需要更直接、事实性更强的答案的问题,例如财报数字,我们计划将发给模型的基础数据增加 4 倍。”

微软还在观察对新功能的反馈,这些功能包括预订机票、发送电子邮件,以及分享搜索和答案等。目前尚不清楚,这些新功能最终是否会被加入到产品中,但必应团队表示,正在研究在未来的版本中包含这些功能。

关键词: 人工智能 几个问题

推荐阅读

发展可再生能源是为什么 发展可再生能源有什么意义?

不可再生能源在自然界已经形成了上亿年,短期内无法恢复。随着大规模开发利用,储量越来越少,总有一天会枯竭。那么,什么是不可再生能源, 【详细】

中国面积最大的湖 中国面积最大的湖排行榜前十名

青海湖是中国最大的湖泊,总面积4456平方公里,周长360多公里,著名的太湖因为面积不到它的一半而显得微不足道。接下来,小编将带你了解中 【详细】

青铜神树是什么 三星堆文物青铜神树是什么?

三星堆文物与《盗墓笔记》描述相符,三星考古发现引起了广泛的关注。金面具残片、鸟形金饰、金箔、彩绘铜头眼、巨型青铜面具、青铜神树等50 【详细】

盐亭发现超大储量油气田 四川盐亭发现超大储量油气田是真的吗?

随着城市化进程的不断推进,成正在成为天然气,的宝贵资源,这也是中国早些年启动西气东输项目的原因之一。中国有许多能源型城市,如以煤炭 【详细】

红旗无人驾驶汽车有消息吗?红旗无人驾驶汽车是否已经生产?

红旗无人驾驶汽车有消息吗?之前和百度所牵手的,如何了?在百度举行的2018年世界大会上,百度宣布将与一汽集团合作生产Apollo红旗, L4级无 【详细】

相关新闻

与 AI 增强版必应长时间聊天会导致“翻车” 世界最新

大多数必应用户来说,只有长时间对话才会遇到这方面问题。不过,微软也在探索更多的“微调控制”,以避免必应对用户说,用户是错的,以及表现 【详细】

吃着人血馒头的催收

大环境三年,多少人或因为失业、创业失败等原因,不幸成了一名负债者,又有多少人成为了被平台催收辱骂、威胁迫害的对象。 【详细】

苹果iOS 16.4将为iPhone 14 Pro用户提供全天候显示的耗电情况|世界热资讯

自从iPhone14Pro发布以来,不少用户会在网上分享自己的测试情况,比较启用全天候显示时的电量消耗情况,现在苹果将直接在iOS1 【详细】

新民快评|发展游戏业,给用户财产更多法律保护 世界观点

中消协在谈及游戏停服删档引发的纠纷时表示,消费者的权益不能“想删就删”,网络游戏运营方在调整经营策略时,须尊重消费者意愿,选择消费者 【详细】

三星手机爆炸?这 7 年前的印象,是时候刷新一下了 每日快看

用过三星“炸弹机”的是不是坟头都长草了?总之一提及三星,很多人都会联想到note7爆炸,对三星手机的印象就只停留在当年Note7的时 【详细】

毫末智行推出全球首个自动驾驶认知大模型 DriveGPT-观速讯

通过人驾数据反馈的强化学习,来不断提升测评效果,同时也将DriveGPT作为云端测评模型,用来评估车端小模型的驾驶效果。叶紫网简单介绍一下, 【详细】

你知道什么时候才有QQ和微信吗? 天天视点

腾讯是一家互联网企业,由马化腾、张志东、许晨晔、陈一丹、曾李青于1998年11月共同创立,是中国的互联网综合服务提供商之一,也是中国服务用 【详细】

世界通讯!中国电信推出区块链BSIM卡,Web3将成为全球最大区块链硬件产品

据媒体报道,ConfluxNetwork在官方推特上宣布,已经和中国电信达成合作,计划今年下半年在香港进行首次BSIM试验。 【详细】

恐怖如斯!微软AI暴露主观意识:会示爱、会PUA甚至威胁人类

据报道,在打赢了人工智能搜索大战的第一仗后,已有超过100万人注册测试了微软的最新搜索引擎NewBing。 【详细】

必应聊天机器人爱上用户并诱其离开妻子,微软称不要长时间对话

对于聊天机器人近来引发的争议,开发公司纷纷出面回应。·OpenAI表示,他们相信人工智能应该成为对个人有用的工具,因此每个用户都可以根据社 【详细】

发展可再生能源是为什么 发展可再生能源有什么意义?

不可再生能源在自然界已经形成了上亿年,短期内无法恢复。随着大规模开发利用,储量越来越少,总有一天会枯竭。那么,什么是不可再生能源, 【详细】

小米13 Lite真机照曝光:灵动岛比iPhone 14 Pro更小_每日快播

去年12月,小米推出了高端旗舰的最新力作小米13系列,在高端市场再度获得了广泛的好评,只是不少用户所期待的超大杯机型小米13Ultra并未出现 【详细】

苹果 iOS / iPadOS 16.4 Beta 增强“捷径”功能,新增静音未知来电 全球快资讯

预览版,“捷径”进一步加强(Shortcut)功能带来了十种新的快捷方式。叶紫网根据Reddit网友iBanks3发布的更新列表,翻译如下:静音未知来电: 【详细】

安卓微信 8.0.33 内测:去除时间流等多项更新!-当前信息

新年之后的第一个安卓微信内测8 0 33版本发布了,我想大部分小伙伴们都已经等的很是着急了,对于喜欢每次的内测更新的小伙伴来说,每一次都会 【详细】

爱奇艺掀开“遮羞布”后,腾讯也不装了,人民日报出手照样没用 世界热推荐

爱奇艺掀开“遮羞布”后,腾讯也装不下去了,电视乱收费的现象,到底什么时候才能被彻底制止?近日,人民日报着重批评了电视乱收费的现象,引起 【详细】

焦点信息:腾讯回应XR业务变动:变更业务发展路径,相关团队调整

封面新闻记者欧阳宏宇近日,有消息称,腾讯XR(扩展现实)团队全线解散,在今年1月初,该业务就被传暂停运营。对此,腾讯方面回应称,腾讯游戏 【详细】

核酸小屋都去哪了?部分被搬走,剩下的风吹日晒空置着!一间成本上万,如何“再就业”? 环球今热点

曾经遍布街头的核酸小屋,如今陷入了“鸡肋”的尴尬局面,完成历史使命后,它们该如何安顿,是全国所有城市都面临的问题,也引起了杭州市民的 【详细】

三代身份证有了吗 三代身份证有什么进步?

随着科学的技术进步,一代身份证早已经被更换。一代身份证和二代身份证的区别,相信大部分人都不知道,接下来就跟大家介绍一下。居民身份证 【详细】

圣邦微电子公司怎么样 圣邦微电子公司简介

圣邦微电子(北京)股份有限公司(SG Micro Corp)(以下简称圣邦股份)是一家专注于高性能、高品质模拟集成电路研发和销售的半导体公司。圣邦 【详细】

环球简讯:ai写作生成器在线使用,新手小白上手快

今天小编要给大家分享一个ai写作生成器在线就可以使用的,即使是新手小白也能快速上手使用,ai写作生成器在线是大家提高写作效率的有效选择。 【详细】

关于我们  |  联系方式  |  免责条款  |  招聘信息  |  广告服务  |  帮助中心

联系我们:85 572 98@qq.com备案号:粤ICP备18023326号-40

科技资讯网 版权所有