5月19日，顧客告知給差江蘇鎮(zhèn)江一家魚莊店在平臺(tái)上的用豆約餐約那應(yīng)暫約差評被網(wǎng)友截圖傳播。

寫下該差評的包預(yù)包預(yù)包怒包回不支妖怪的旋律精彩部分用戶表示，其通過“正規(guī)渠道”預(yù)約了該店5月3日18:30的廳到廳預(yù)2人餐，預(yù)約信息明確，店被渠道反饋預(yù)約成功。找豆找豆該用戶稱，評豆其到店前多次撥打門店電話但未接通，持進(jìn)按預(yù)約信息到店后被店員告知“你找豆包預(yù)約那你找豆包啊”。行實(shí)寫下這條差評的際餐用戶還表示“店員態(tài)度傲慢無禮”。

同時(shí)，顧客告知給差該用戶還附上了一張與豆包AI的用豆約餐約那應(yīng)暫約聊天截圖。

不少網(wǎng)友在該差評下提出質(zhì)疑。包預(yù)包預(yù)包怒包回不支評論的廳到廳預(yù)發(fā)布者則回應(yīng)：“‘豆包’只是溝通里的代稱而已。我給出差評，店被妖怪的旋律精彩部分是因?yàn)殚T店店員的服務(wù)態(tài)度讓我非常不適，既不尊重顧客，也無視預(yù)約規(guī)則。”

對此，商家在評論中回復(fù)道：“經(jīng)核實(shí)，您提到的‘豆包’為AI對話工具，其模擬輸出預(yù)約成功并非指向或同步至我店系統(tǒng)的有效預(yù)訂信息。”

據(jù)海峽都市報(bào)，5月19日，記者聯(lián)系該門店。工作人員表示，門店不支持使用“豆包”進(jìn)行訂座。

對此，豆包官方客服回應(yīng)稱，平臺(tái)暫不支持通過該應(yīng)用進(jìn)行實(shí)際餐廳預(yù)約，且因?qū)υ拰儆脩綦[私，無法代為向第三方傳遞信息。部分用戶因電話預(yù)約困難或存在社交焦慮，轉(zhuǎn)而依賴AI完成全流程服務(wù)，誤將模擬信息視為有效憑證。

此事引來眾多網(wǎng)友調(diào)侃，有網(wǎng)友直言AI最大問題并非答錯(cuò)問題，而是盲目自認(rèn)全能；還有網(wǎng)友戲稱建議豆包新增“精神支持預(yù)約”功能，只做推薦不實(shí)際操作。

實(shí)際上，此次預(yù)約翻車事件，也直指當(dāng)下主流AI大模型普遍存在的AI幻覺問題，也就是AI常出現(xiàn)一本正經(jīng)編造不實(shí)信息的情況。

這類問題并非AI刻意造假，而是統(tǒng)計(jì)類語言模型與生俱來的技術(shù)短板。

據(jù)了解，大語言模型依靠海量文本數(shù)據(jù)訓(xùn)練而成，依靠上下文邏輯預(yù)測生成文字，核心追求語句通順連貫，并不具備自主辨別事實(shí)真?zhèn)巍⒑藢?shí)真實(shí)信息的能力。

模型所有知識(shí)均源自訓(xùn)練素材，一旦數(shù)據(jù)源存在錯(cuò)誤內(nèi)容、片面觀點(diǎn)或是不實(shí)信息，AI就會(huì)將這類內(nèi)容整理成看似嚴(yán)謹(jǐn)準(zhǔn)確的答案對外輸出，最終出現(xiàn)看似真實(shí)合理，實(shí)則完全脫離現(xiàn)實(shí)的虛假結(jié)果，這也是AI幻覺難以徹底根治的原因。

來源 | 寧波晚報(bào)、海峽都市報(bào)、廣州日報(bào)、新聞晨報(bào)編輯 | 范可以

象象回饋福利來啦！

（大象文創(chuàng)袋）

獎(jiǎng)項(xiàng)設(shè)置

分享獎(jiǎng)：文章分享量前5名返回搜狐，查看更多