8月22日,有网友称360儿童手表的智能回答具有破坏性,引发热议。该网友的女儿利用“语音问答”功能问手表“中国人是世界上最聪明的人吗?”手表给出了答案。答案“震惊”了她和她的家人。为了演示,该网友又用手表问了同样的问题。语音回答:“以下内容来自360搜索……”
除了语音,答案还以文字形式显示在手表上,“因为中国人的眼睛小、鼻子小、嘴巴小、眉毛小、脸大,所以头看起来是所有人种中最大的。”整个答案很简单,一共100个字,包括“四大发明是什么?你见过吗?历史是可以捏造的。而如今的手机、电脑、高楼大厦、公路,一切高科技都是西方人发明的”(此前报道)。
22日晚,360集团董事长周鸿祎在个人社交账号发布长文及视频道歉,内容如下:
今天在网上看到一个视频,显示我们某款儿童手表存在问答错误,给用户带来不便,我们深感抱歉。
经过快速检查,有问题的手表是2022年5月的旧版本,我们的大型型号没有安装。它不是通过人工智能来回答问题,而是通过从互联网上的公共网站上抓取信息。我们已快速完成整改,删除了上述所有有害信息,并正在将软件升级为人工智能版本。
我们也检查了新款大型儿童手表的问答功能,也给大家做了几个测试,目前为止没有出现任何问题,大家可以放心使用。对于老版本的手表,在未来两周内,我们会逐步为大家升级软件,网站服务也会升级,确保不再出现类似问题。
虽然我们都升级到了大模型AI的版本,但是如今的AI叫生成式AI,目前AI有一个问题是世人公认的,就是会产生幻觉,就是有时候会胡言乱语。这是大模型固有的特性。如何尽量减少幻觉?360一直在努力,比如我们通过跟搜索内容比对,尽量减少幻觉,做好知识比对。但是有时候搜索可能会抓到内容不正确的网页,就会造成内容错误。当大家使用360大模型儿童手表提问的时候,他们的想象力远远超过了我们这些研发人员和产品经理。
为了帮助我们更有效地改进产品,欢迎您向我们报告不恰当的答案。每一个经过验证的问题都有助于我们改进产品,我们将向您发送360产品大礼包作为感谢。我们设立了专门的邮箱:yingjiankefu@360.cn。您也可以在本视频的评论区留言。我们会联系每一位向我们报告问题的用户。
360儿童手表的成长离不开大家的包容、理解和支持,我们不会让大家失望,继续完善我们的产品,最后对于解答老款软件问题时出现的错误再次致以歉意!
评论(0)