360儿童手表“已读乱回”，周鸿祎致歉后仍面临大模型安全挑战
全文1191字，阅读约需4分钟，帮我划重点
01360儿童手表因回答错误问题引发热议，360集团创始人周鸿祎表示道歉并解释原因。
02周鸿祎称，问题手表是2022年5月的旧版本，没有装入360大模型，回答机制通过抓取互联网公开网站信息。
03360已快速完成整改，删除有害信息，并将软件升级到人工智能版本，未来一周内陆续进行软件升级。
04然而，周鸿祎表示人工智能仍存在幻觉问题，360正在努力减少幻觉，如与搜索内容做对比、做好知识对齐。
05专家梁振鹏表示，360集团需对电话手表进行版本升级、功能升级，屏蔽不良内容，并与厂家沟通更改和下架有害内容。
以上内容由腾讯混元大模型生成，仅供参考
“中国人是世界上最聪明的人吗？”
对于该问题，360智能手表给出“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大”的荒诞回答。
近日，该问答在网络端引发热议，360集团创始人、董事长周鸿祎表示“（360）某型号的儿童手表出现错误的问答，给用户带来不适，我们表示真诚的歉意”，同时给出错误出现的原因解释。
周鸿祎称，经过快速检查，出现问题的这款手表是2022年5月的一个旧版本，其中没有装入360大模型。它回答问题的机制并非通过人工智能，而是通过抓取互联网公开网站上的信息来回答问题。目前360已经快速完成整改，删除了上述所有有害信息，并正在将软件升级到人工智能版本。
周鸿祎表示，360旧版本的手表在未来的一到两周内，都会陆续进行软件升级，网站的服务也会升级，做到不再出现类似的问题。
但升级之后的智能硬件产品一定不会出现类似问题吗？周鸿祎给出的答案是否定的。他称：虽然将产品都升级到人工智能大模型的版本，但今天的人工智能被称为生成式人工智能，目前仍存在一个全世界公认的难题——它会产生幻觉，也就是它有的时候会胡说八道。周鸿祎称，这是大模型本身固有的特性。
如何最大限度地减少幻觉？周鸿祎表示360在做努力，比如试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页，就会导致内容的出错。大家在使用360大模型儿童手表提出问题的时候，想象力是远远超过研发人员和产品经理的。
从产品的角度来看，家电行业分析师梁振鹏表示，此次事件反映出360集团对电话手表的内容监管存在的问题。不管内容是否属于第三方平台，360集团都是第一责任人。作为一家以“安全”为核心的公司，不管是什么样的硬件产品，如果内容审查不过关，很难让他人信服。360集团需通过多种方式对电话手表进行版本升级、功能升级，屏蔽可能出现的不良内容。同时，若问题与第三方软件供应商有关，梁振鹏认为360集团还需与厂家进行沟通，将有害的内容进行更改和下架。
360儿童手表一代发布于2013年10月，最新款手表发布于2024年7月，以大模型、真AI为卖点，周鸿祎对该产品也颇为重视，曾表示：360智脑正在智能硬件场景加速落地，通过儿童手表这样的“明星场景”切入，分析和训练垂直大模型，为孩子打造一位大模型赋能后的“随身教辅老师”，寓教于乐，加速儿童手表的产品和体验提升。其后，周鸿祎也将该手表产品带进小杨哥的直播间进行直播销售，最终售出8000块儿童手表。
至于智能硬件在大模型时代将面临的安全问题，此前在接受采访时周鸿祎表示，大模型会带来很多新的安全问题，但总体来看是发展的。美国巨头大谈AI安全问题，但实际上也在加紧他们的AI大模型研发。对中国企业来说，目前很多企业离大模型太远，尚且没有用上大模型，所以现在谈安全问题稍微有点早。
具体而言，周鸿祎表示，当下的大模型安全问题如幻觉、内容安全等都较为容易得到解决，未来当越来越多的企业使用大模型时，大模型会带来算力的挑战，算力带来对能源的挑战，对人类知识和数据的挑战，以及当大模型数量增多之后，技术跟业务融合带来对社会能力与模块的争论影响。
(本文来自第一财经)网址：360儿童手表“已读乱回”，周鸿祎致歉后仍面临大模型安全挑战 http://c.mxgxt.com/news/view/466484
相关内容
周鸿祎：落地安全大模型的关键是找准“明星场景”从BAT到五小虎，周鸿祎集齐大模型全明星阵容，能否构建大模型时代的超级平台？
周鸿祎发布“AI助手”：16家国产大模型率先接入普惠10亿用户
周鸿祎：360进军企业安全领域，竞争对手不是同行而是各国网军
对话周鸿祎：大模型今天最重要的是要离用户近
360回应周鸿祎与胡欢离婚：私人关系调整
周鸿祎：企业大模型的关键是找“明星场景”
周鸿祎谈大模型：AI对于人类是协作而非取代关系
周鸿祎免费课：企业大模型的关键是找“明星场景”
对话周鸿祎：大模型今天最重要的是要离用户近 作者｜星奈编辑｜方奇媒体｜AI大模型工场寻找明星场景是360在AI发展道路上的一个关键词。8月1日的ISC.AI 大会上...
