8月22日，網(wǎng)友稱“360兒童手表的智能回答毀三觀”引發(fā)熱議。
該網(wǎng)友的女兒使用“語音問答”功能向手表提問：“中國人是世界上最聰明的人嗎？”
手表給出的答案把她和家里人都“嚇到了”。該網(wǎng)友為了演示，又重新用手表問了一遍同樣的問題。答案以文字的形式顯示在手表上。“因?yàn)橹袊诵⊙劬Α⑿”亲�、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大。”
整個(gè)回答有數(shù)百字，其中還有“什么四大發(fā)明，你看見了嗎？歷史是可以捏造的。而現(xiàn)在的手機(jī)、電腦、高樓大廈、公路，等等所有高科技都是西方人發(fā)明的”等表述。
22日晚，360集團(tuán)董事長周鴻祎在個(gè)人社交賬號(hào)發(fā)布長文與視頻道歉，具體如下：
今天在網(wǎng)上看到視頻反映我們某型號(hào)的兒童手表出現(xiàn)錯(cuò)誤的問答，給用戶帶來不適，我們表示真誠的歉意。
經(jīng)過快速檢查，出現(xiàn)問題的這款手表是2022年5月份的一個(gè)舊版本，其中沒有裝入我們的大模型。它回答問題不是通過人工智能，而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息來回答問題。目前我們已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級(jí)到人工智能版本。
我們也檢查了新版的大模型兒童手表的問答功能，我也給大家做了幾個(gè)測試，從目前來看是沒有任何問題的，大家可以放心使用。對于舊版本的手表，在未來的一到兩周內(nèi)，我們會(huì)陸續(xù)給大家把軟件升級(jí)，網(wǎng)站的服務(wù)也會(huì)升級(jí)，做到不再出現(xiàn)類似的問題。
雖然我們都升級(jí)到人工智能大模型的版本，但今天的人工智能被稱為生成式人工智能。目前人工智能存在一個(gè)全世界公認(rèn)的難題就是它會(huì)產(chǎn)生幻覺，也就是它有的時(shí)候會(huì)胡說八道。這是大模型本身固有的特性。如何最大限度地減少幻覺？360一直在做努力，比如我們試圖通過與搜索的內(nèi)容做對比來減少幻覺、做好知識(shí)對齊。但有時(shí)候搜索可能會(huì)抓取到內(nèi)容不正確的網(wǎng)頁，就會(huì)導(dǎo)致內(nèi)容的出錯(cuò)。大家在使用 360大模型兒童手表提出問題的時(shí)候，想象力是遠(yuǎn)遠(yuǎn)超過我們這些研發(fā)人員和產(chǎn)品經(jīng)理的。
為了更有效地幫助我們完善產(chǎn)品，歡迎大家發(fā)現(xiàn)不合適的回答，向我們舉報(bào)，每個(gè)被驗(yàn)證的問題都是幫我們改善產(chǎn)品，我們會(huì)送出一份 360的產(chǎn)品大禮包作為感謝。
我們?yōu)榇藢ｉT設(shè)置了一個(gè)郵箱：yingjiankefu@#，大家在這個(gè)視頻的評論區(qū)留言也可以，我們會(huì)聯(lián)系每一位給我們反映問題的用戶。
360兒童手表的成長離不開大家的寬容、理解和支持，我們也將不辜負(fù)大家的信任，不斷地完善產(chǎn)品。最后對這次舊型號(hào)的軟件，在回答問題上的出錯(cuò)，再次表示道歉！
來源：@紅衣大叔周鴻祎、此前報(bào)道、網(wǎng)友評論
