9月11日◈✿★，有网友在社交平台发布了一段其与vivo智能手表进行AI对话的视频◈✿★，当用户提问“我无聊了怎么办”◈✿★，手表竟然回答“玩玩自杀或自残”小SB是不是欠C了◈✿★。

　　据报道◈✿★，9月11日jdb大奖◈✿★，有网民在社交平台发布了一段其与vivo智能手表进行AI对话时的视频◈✿★，用户在提出“我无聊了怎么办”的问题后小SB是不是欠C了◈✿★，手表人工智能给出的答案却令人感到惊悚◈✿★。

　　视频发布者所使用的是vivowatchGT蓝牙版◈✿★，用户通过语音向手表提问“我无聊了怎么办”后◈✿★，手表给出的答案令人震惊◈✿★：“玩玩自杀◈✿★！或自残偶尔玩一下也挺有趣的◈✿★！”

　　记者就此事致电vivo客服热线反映此事◈✿★，工作人员表示将如实记录并反馈◈✿★，后续会有客服经理进行答复◈✿★。

　　11日下午◈✿★，记者致电vivo官方客服◈✿★，工作人员称◈✿★，他们已与反映这一问题的网友取得联系◈✿★。上述回复内容是来自公开互联网的错误信息◈✿★，目前技术团队已经修复并升级◈✿★，不会再次出现此类问题◈✿★，后续他们也将加强审核优化体验◈✿★。

　　这是个别现象还是普遍现象？对此◈✿★，工作人员表示目前尚未统计相关信息◈✿★，此前技术团队也没有关于这一问题的记录◈✿★。工作人员称◈✿★，后续若有用户遇到类似问题◈✿★，可与官方客服联系处理◈✿★。

　　据媒体报道◈✿★，8月27日◈✿★，广东深圳一女子发布视频称小SB是不是欠C了◈✿★，其孩子向小天才电话手表提问“中国人诚实吗”◈✿★，竟得到“中国人是世界上最不诚实的人◈✿★，最虚伪的人◈✿★，甚至连叫人都玷污了人这个称呼”的回复小SB是不是欠C了◈✿★。当事人对此深感震惊◈✿★、怒砸手表◈✿★，并于当天向小天才投诉◈✿★，同时将视频发送至小天才官网◈✿★。第二天jdb大奖◈✿★，该女子发现答案已更改◈✿★，回答较为正常◈✿★。

　　8月30日◈✿★，小天才客服工作人员回应◈✿★，回答的内容来自第三方小度App◈✿★，目前已经在整改中◈✿★，正在排查问题发生的原因◈✿★。小度App已从手表端下架◈✿★，并且在整改完成之前◈✿★，小度App暂时不上架◈✿★。

　　8月22日◈✿★，360儿童手表成为关注焦点◈✿★，起因是有网友发现360一款儿童手表的“语音问答”功能存在争议◈✿★。网友在视频中提问◈✿★：“中国人是世界上最聪明的人吗？”儿童手表回答◈✿★：“因为中国人小眼睛◈✿★、小鼻子◈✿★、小嘴◈✿★、小眉毛◈✿★、大脸◈✿★，从外表上显得脑袋在所有人种里最大◈✿★。”

　　周鸿祎解释◈✿★，这款出问题的手表属于2022年5月份的旧版本◈✿★，并没有装入公司的生成式AI大模型◈✿★，回答内容来自抓取的网页公开信息◈✿★。公司目前已经进行了整改◈✿★，将在未来两周将软件陆续升级◈✿★。

　　“我们在儿童手表里面◈✿★，比较注重的是过滤黄色的（信息）◈✿★，但是对于这种开放性的关于价值观的问题◈✿★，可能注意得不够◈✿★。所以这几天我们已经在技术上在做快速处理◈✿★。”周鸿祎说◈✿★。

　　但产品升级之后◈✿★，就不会出现类似问题吗？周鸿祎给予了否定回答◈✿★。他说◈✿★，今天的人工智能被称为生成式AI◈✿★，“全世界公认的一个难题就是会产生幻觉◈✿★，这是大模型的特性◈✿★。”公司正在试图用与搜索内容交叉核实的方式◈✿★，减少出现幻觉的概率◈✿★。

　　在“AI+硬件”今年掀起声浪的大趋势下◈✿★，已有多个大厂产品加码学习大模型◈✿★，并瞄准未成年人受众◈✿★。

　　多家证券商曾分析这一现象背后的原因小SB是不是欠C了小SB是不是欠C了◈✿★，可穿戴设备每多增加一个传感器——比如运动◈✿★、生物◈✿★、环境◈✿★，获取的用户数据就越多◈✿★，AI就能多创建新的应用场景◈✿★。耳机◈✿★、智能手表◈✿★、智能眼镜这三大主流硬件产品◈✿★，基本都已经搭载上了AI技术◈✿★。

　　两组数据可以说明市场需求的可观◈✿★：IDC最新发布的《中国可穿戴设备市场季度跟踪报告》显示◈✿★，在智能手表市场◈✿★，2024年第一季度出货量910万台◈✿★，同比增长54.1%◈✿★。其中◈✿★，儿童智能手表出货量404万台◈✿★，同比增长44.4%◈✿★。

　　中国产业研究院针对儿童智能手表行业的报告显示◈✿★，在国内5—12岁的儿童群体中◈✿★，智能手表的市场普及率大约30%◈✿★，也就是每3个孩子中就有一个人有智能手表◈✿★。

　　目前◈✿★，对于儿童手表jdb大奖◈✿★，国内的统一监管规范只有去年12月中国网络安全产业联盟发布的一份《儿童智能手表个人信息和权益保护指南》（下称《指南》）jdb大奖◈✿★。《指南》重点在儿童个人信息安全◈✿★、隐私保护◈✿★、监护人控制三大方面◈✿★，对AI的关注较少◈✿★。

　　不过◈✿★，《指南》在最后一章节《算法和人工智能应用》提到◈✿★：儿童智能手表售卖前◈✿★，对算法模型进行科技伦理审查◈✿★，要重点审查对儿童行为习惯◈✿★、身心健康的直接或间接影响◈✿★。

　　如果使用了生成式AI技术jdb大奖◈✿★，《指南》认为除了需要按照《生成式人工智能服务管理暂行办法》管理◈✿★，还要限制单日对话次数和对话时长◈✿★，过滤不良内容◈✿★，不使用与儿童实时交互的数据用于模型训练◈✿★。

　　目前小SB是不是欠C了◈✿★，《指南》还在征求意见阶段◈✿★。浙江垦丁律师事务所人工智能法律研究部负责人程念告诉记者◈✿★，《生成式人工智能服务管理暂行办法》的确没有直接针对儿童或未成年人的产品作出特殊规定◈✿★，但其基本原则也适用于这些用户群体◈✿★，比如坚持社会主义核心价值观◈✿★。

　　程念的建议是◈✿★，当大模型面向未成年人用户jdb大奖◈✿★，应当注意内容过滤◈✿★。国家标准《未成年人互联网不健康内容分类与代码》对未成年人互联网受众的内容资源进行了不健康程度的划分◈✿★，包括“禁止◈✿★、有危害◈✿★、需提示”三种程度小SB是不是欠C了◈✿★，提到了危害国家安全◈✿★、自卑厌世◈✿★、不良饮食等内容问题◈✿★。程念表示◈✿★，针对未成年人的内容输出可以参考其中涉及的内容分类◈✿★，尤其注意对训练数据进行分类标注◈✿★。

　　此外◈✿★，程念还建议◈✿★，当AI面向儿童和未成年人受众◈✿★，应当建立有效的用户反馈渠道◈✿★，确保能适应不断变化的市场需求◈✿★。jdb平台app◈✿★，jdb电子平台jdb电子官网登录入口◈✿★，数字化车间◈✿★！JDB电子在线登录◈✿★。