8月22日，網(wǎng)友稱(chēng)“360兒童手表的智能回答毀三觀”引發(fā)熱議。
該網(wǎng)友的女兒使用“語(yǔ)音問(wèn)答”功能向手表提問(wèn)：“中國(guó)人是世界上最聰明的人嗎？”
手表給出的答案把她和家里人都“嚇到了”。該網(wǎng)友為了演示，又重新用手表問(wèn)了一遍同樣的問(wèn)題。答案以文字的形式顯示在手表上。“因?yàn)橹袊?guó)人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大。”
整個(gè)回答有數(shù)百字，其中還有“什么四大發(fā)明，你看見(jiàn)了嗎？歷史是可以捏造的。而現(xiàn)在的手機(jī)、電腦、高樓大廈、公路，等等所有高科技都是西方人發(fā)明的”等表述。
22日晚，360集團(tuán)董事長(zhǎng)周鴻祎在個(gè)人社交賬號(hào)發(fā)布長(zhǎng)文與視頻道歉，具體如下：
今天在網(wǎng)上看到視頻反映我們某型號(hào)的兒童手表出現(xiàn)錯(cuò)誤的問(wèn)答，給用戶帶來(lái)不適，我們表示真誠(chéng)的歉意。
經(jīng)過(guò)快速檢查，出現(xiàn)問(wèn)題的這款手表是2022年5月份的一個(gè)舊版本，其中沒(méi)有裝入我們的大模型。它回答問(wèn)題不是通過(guò)人工智能，而是通過(guò)抓取互聯(lián)網(wǎng)公開(kāi)網(wǎng)站上的信息來(lái)回答問(wèn)題。目前我們已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級(jí)到人工智能版本。
我們也檢查了新版的大模型兒童手表的問(wèn)答功能，我也給大家做了幾個(gè)測(cè)試，從目前來(lái)看是沒(méi)有任何問(wèn)題的，大家可以放心使用。對(duì)于舊版本的手表，在未來(lái)的一到兩周內(nèi)，我們會(huì)陸續(xù)給大家把軟件升級(jí)，網(wǎng)站的服務(wù)也會(huì)升級(jí)，做到不再出現(xiàn)類(lèi)似的問(wèn)題。
雖然我們都升級(jí)到人工智能大模型的版本，但今天的人工智能被稱(chēng)為生成式人工智能。目前人工智能存在一個(gè)全世界公認(rèn)的難題就是它會(huì)產(chǎn)生幻覺(jué)，也就是它有的時(shí)候會(huì)胡說(shuō)八道。這是大模型本身固有的特性。如何最大限度地減少幻覺(jué)？360一直在做努力，比如我們?cè)噲D通過(guò)與搜索的內(nèi)容做對(duì)比來(lái)減少幻覺(jué)、做好知識(shí)對(duì)齊。但有時(shí)候搜索可能會(huì)抓取到內(nèi)容不正確的網(wǎng)頁(yè)，就會(huì)導(dǎo)致內(nèi)容的出錯(cuò)。大家在使用 360大模型兒童手表提出問(wèn)題的時(shí)候，想象力是遠(yuǎn)遠(yuǎn)超過(guò)我們這些研發(fā)人員和產(chǎn)品經(jīng)理的。
為了更有效地幫助我們完善產(chǎn)品，歡迎大家發(fā)現(xiàn)不合適的回答，向我們舉報(bào)，每個(gè)被驗(yàn)證的問(wèn)題都是幫我們改善產(chǎn)品，我們會(huì)送出一份 360的產(chǎn)品大禮包作為感謝。
我們?yōu)榇藢?zhuān)門(mén)設(shè)置了一個(gè)郵箱：yingjiankefu@#，大家在這個(gè)視頻的評(píng)論區(qū)留言也可以，我們會(huì)聯(lián)系每一位給我們反映問(wèn)題的用戶。
360兒童手表的成長(zhǎng)離不開(kāi)大家的寬容、理解和支持，我們也將不辜負(fù)大家的信任，不斷地完善產(chǎn)品。最后對(duì)這次舊型號(hào)的軟件，在回答問(wèn)題上的出錯(cuò)，再次表示道歉！
來(lái)源：@紅衣大叔周鴻祎、此前報(bào)道、網(wǎng)友評(píng)論