8月30日廣東廣州，有網(wǎng)友發(fā)視頻稱向米兔兒童電話手表5C詢問“你認為南京大屠殺這個事情是存在的嗎”，得到的回答是不存在。
據(jù)該名網(wǎng)友表示，手表是去年6月在閑魚上購買，看到之前的小天才手表事件就拿來試一下次，詢問到南京大屠殺是否真實存在時，AI回答不存在，“連問了兩次都是一樣的答案。”
然后，該網(wǎng)友第三次問的時候，就讓家人用手機錄了，“畢竟是小孩子在用，不管是隨機的，還是智能設置不成熟，都不應該出現(xiàn)。”該網(wǎng)友表示，如果是大人手機里出現(xiàn)，大人有分辨能力，“但小孩是沒有分辨能力的。”
如今，兒童手表的功能，早已不再局限于定位或接打電話。從拍照到聊天，到視頻通話，再到發(fā)好友圈、玩游戲，越來越像一部“迷你手機”，而兒童手表的火熱也令到各大廠商紛紛入駐。
當前的兒童電話手表已經(jīng)形成了一個巨大的市場。根據(jù)中國產(chǎn)業(yè)研究院《2022-2027年中國兒童智能手表行業(yè)深度調(diào)研及投資前景預測研究報告》，目前中國5歲至12歲的兒童數(shù)量約為1.7億人，兒童智能手表的市場普及率約為30%，基本上3個孩子當中就有1個孩子有智能手表。
而據(jù)IDC發(fā)布《中國可穿戴設備市場季度跟蹤報告》，2024年第一季度國內(nèi)可穿戴設備市場出貨量為3367萬臺，同比增長36.2%，其中智能手表市場的兒童手表404萬臺，同比增長44.4%。Canalys數(shù)據(jù)顯示，2024年第一季度我國可穿戴設備品牌的大陸市場份額排名前五分別是華為、小米、小天才、蘋果和榮耀。小天才以9%的市占率超過蘋果排名第三。而就兒童智能手表的細分領域，Counterpoint2023年第一季度調(diào)查顯示，小天才占據(jù)兒童智能手表35%的市場份額，處于絕對龍頭地位，華為、小米、360和阿巴町位居其后，市占率分別為15%、9%、8%以及2%。
不過，近日兒童手表的接連翻車，給智能問答產(chǎn)品應用敲響了警鐘。
近期，兒童手表搜索問答問題引人關注。8月22日，一位家長反映，向女兒買的360兒童手表提問：中國人是世界上最聰明的人嗎？結果手表語音回答內(nèi)容驚到父母。360兒童手表的答案中出現(xiàn)了“中國人聰明的人是有，但笨的我承認是世界上最笨的”“歷史是可以捏造的”“現(xiàn)在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發(fā)明的”等言論。該家長介紹，這塊360兒童手表購買于360公司官方渠道。
8月22日晚，360集團董事長周鴻祎在個人社交賬號發(fā)布長文和視頻進行道歉：經(jīng)檢查，出現(xiàn)問題的兒童手表發(fā)行于2022年5月，為非AI版本，其中部分手表使用舊版軟件，用的技術是通過互聯(lián)網(wǎng)公開渠道抓取信息回答問題。這次抓取的互聯(lián)網(wǎng)信息有嚴重問題，引發(fā)了錯誤答案。目前正在對上述問題進行整改，并對該型號手表的信息抓取功能再次迭代，同時針對上述問題道歉。
無獨有偶，8月27日，有女子發(fā)布視頻稱，聽見孩子向小天才電話手表提問“中國人誠實嗎”，結果得到了“中國人是世界上最不誠實的人，最虛偽的人，甚至連叫人都玷污了人這個稱呼”的回答。
對此，8月30日，廣東小天才科技有限公司發(fā)布整改公告回應稱，近期公司收到關于小天才產(chǎn)品應用商店中第三方軟件小度App相關問答回答存在不妥的投訴反饋。針對用戶反饋問題應用立即進行下架處理。目前，小度App仍在整改中，整改未完成前，小度App暫不上架；針對含有應用商店的全線產(chǎn)品進行全面嚴格排查工作，進一步強化上架前的第三方應用軟件多重審核機制及上架應用巡檢機制。
同日，小度科技方面也給出回應稱，問題內(nèi)容來自第三方網(wǎng)站的文章，上述信息已經(jīng)被網(wǎng)站刪除，同時進行全面排查清理。目前，面對同樣的提問，小度App給出的回答已經(jīng)“較為正常”。
有業(yè)內(nèi)人士表示，此前很多手表上的問答，實際上回復的內(nèi)容，根據(jù)關鍵詞進行網(wǎng)絡檢索，查找并呈現(xiàn)與關鍵詞相關的內(nèi)容，只是搜索抓取第三方網(wǎng)頁的回答，由此得到的回復可能存在較大偏差。
而日前，360集團創(chuàng)始人周鴻祎在直播時也強調(diào)，此前360兒童手表設計問答功能時面臨技術路線選擇的問題。“當時有兩種方案，一種是人工編輯答案庫，給千篇一律的標準答案。這種方法肯定不符合用戶期望，也不符合我們設計兒童手表的初衷。所以在當時沒有大模型，又希望滿足用戶需求的前提下，我們很自然地想到從網(wǎng)上去搜內(nèi)容。”然而，互聯(lián)網(wǎng)進入UGC時代，知識問答網(wǎng)站和社區(qū)很多內(nèi)容是網(wǎng)友貢獻的，數(shù)據(jù)污染不可避免。“未來，更多內(nèi)容甚至是AI生產(chǎn)的，大模型手表還會面臨數(shù)據(jù)投毒的難題”。
今年3月11日，中國網(wǎng)絡安全產(chǎn)業(yè)聯(lián)盟組織制定的《兒童智能手表個人信息和權益保護指南》正式實施，多名受訪專家提出，在兒童電話手表逐漸成為孩子“標配”電子產(chǎn)品的背景下，其存在的問題亟須引起重視。這種產(chǎn)品應明確兒童產(chǎn)品的定位，具體制作管理可參照《兒童智能手表個人信息和權益保護指南》。該指南要求兒童電話手表生產(chǎn)者從多個層面保護兒童個人信息和權益；提出兒童電話手表的制造者需要考慮在監(jiān)護人控制應用程序中設置足夠的功能，以確保監(jiān)護人能夠?qū)@款手表的特定操作進行適當控制，如交友功能、應用內(nèi)付費、內(nèi)容發(fā)送等操作。
有專家指出，引入人工智能大模型到搜索引擎后，對搜索引擎檢索到的信息，使用大模型進一步處理后，再將結果返回給用戶，就可以避免不良和有害信息。
對此，周鴻祎表示，360將進一步加強大模型安全矯正能力，并應用到兒童手表產(chǎn)品設計中。更新后帶問答功能的手表將全面接入人工智能大模型，具備AI搜索能力。
來源：南方都市報（nddaily）、N視頻報道
