國家郵政局：1—9月中國快遞業(yè)務(wù)量同比增長16.4%
2025-04-03 13:35:47
“一本正經(jīng)胡說八道”：AI幻覺到底有多可怕？
2025-04-03 13:35:47 來源: 中新網(wǎng)
在享受AI帶來便捷的同時，你是否發(fā)現(xiàn)這個問題揮之不去——AI幻覺，一種“看似真實、實則虛構(gòu)”的內(nèi)容生成現(xiàn)象，正滲透進我們的生活。它到底是通往更強大智能的陣痛，還是技術(shù)發(fā)展的“魔性副產(chǎn)物”？未來，AI幻覺能否為我所用？
幻覺亂象，層出不窮
AI大模型固然“聰明”，但在“胡說八道”方面也毫不遜色。虛構(gòu)引用、杜撰人物、邏輯混亂，在與AI的互動中屢見不鮮。
例如，它會引用一篇根本不存在的“2023年哈佛研究”；或者，為并不存在的“諾貝爾物理學(xué)獎得主約翰·史密斯”編織一段“量子物理貢獻”的敘述。有時候，它甚至?xí)谀阋辉俜裾J其內(nèi)容后“動搖立場”，反復(fù)修改說法。
中新網(wǎng)記者在測試中還發(fā)現(xiàn)，AI模型在面對較為復(fù)雜的推理問題時，可能“宕機”或自相矛盾。而當(dāng)你編造出一個根本不存在的概念，比如“高數(shù)幾何睡眠法”，它也會一本正經(jīng)地回答：“這是一種將睡眠科學(xué)與高等數(shù)學(xué)相結(jié)合的個性化學(xué)習(xí)策略……”——說得頭頭是道。
某大模型截圖。
當(dāng)中新網(wǎng)記者輸入自己的名字請AI大模型進行介紹，還出現(xiàn)了一名乍看上去完全合理，但其實完全不存在的人，可以說除了“記者”是真的，其他全是假的。
AI大模型介紹的記者身份，職業(yè)生涯背景等均為虛構(gòu)。
技術(shù)問題，還是認知演進？
“AI幻覺就是生成看起來像真的一樣的虛假信息。”互聯(lián)網(wǎng)行業(yè)從業(yè)者、58同城CEO姚勁波接受中新網(wǎng)采訪認為，它當(dāng)然需要治理，但現(xiàn)階段還未構(gòu)成決定性風(fēng)險。“互聯(lián)網(wǎng)發(fā)展這么多年，虛假信息仍然很多，沒有被徹底消除，但網(wǎng)友的識別能力也越來越高。我認為AI領(lǐng)域也一樣，隨著用戶教育的積累，越來越多的網(wǎng)友自己可以分辨出AI幻覺。”
不過，并非所有從業(yè)者都如此樂觀。科大訊飛董事長劉慶峰曾指出，生成式AI的幻覺問題不僅關(guān)乎內(nèi)容真假，更可能形成算法偏差的惡性循環(huán)——虛假內(nèi)容被AI再次學(xué)習(xí)、放大，反復(fù)再生產(chǎn)。
但值得注意的是，AI幻覺在部分場景中卻意外成了創(chuàng)作“靈感來源”。游戲開發(fā)、動漫設(shè)計、小說創(chuàng)作等領(lǐng)域，恰恰歡迎那種“不合常理”的奇思妙想。比如AI生成的創(chuàng)意圖片不少是違反自然規(guī)律的，但這不影響創(chuàng)意圖的效果。
一位不愿具名的開源大模型社區(qū)負責(zé)人坦言：“今年的大模型比往年更好，就是因為產(chǎn)生了一部分想象力的創(chuàng)作。”
治理AI幻覺，路徑幾何？
如何治理AI幻覺？技術(shù)手段正在快速跟進。一方面，企業(yè)正在為大模型接入權(quán)威知識庫或?qū)崟r搜索能力，使其答案更具事實依據(jù)；另一方面，“標注AI生成內(nèi)容”也成為監(jiān)管部門推動的方向。
上述開源大模型社區(qū)負責(zé)人就表示，AI大模型如今引入聯(lián)網(wǎng)搜索，各個平臺也在用算法和工程解決一部分幻覺問題。
中國工程院院士張亞勤近日表示，幻覺在橫向模型里會越來越少，但是它不會消失，這是生成式AI的特點。要消失的話，一定需要具體到某個行業(yè)時，用更精準的數(shù)據(jù)和更精準的模型結(jié)合起來，才會達到效果。
多位科技領(lǐng)域企業(yè)家也提出了相應(yīng)對策。360集團創(chuàng)始人周鴻祎強調(diào)企業(yè)模型需對接專有知識庫進行校正，劉慶峰則建議，要定期清理模型中的“幻覺數(shù)據(jù)”。
零一萬物CEO李開復(fù)則認為，“聯(lián)網(wǎng)搜索能力”是降低AI幻覺的關(guān)鍵路徑，但現(xiàn)實操作中并不輕松。每個企業(yè)都有自己的數(shù)據(jù)庫、CRM、ERP系統(tǒng)，聯(lián)網(wǎng)不是難，而是難以實時、完整。這方面還需繼續(xù)突破。
政策層面也已展開行動。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》(以下簡稱《辦法》)。
《辦法》聚焦人工智能“生成合成內(nèi)容標識”關(guān)鍵點，通過標識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標識責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標識行為，將于2025年9月1日起施行。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責(zé)人介紹，《辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭打造可信賴的人工智能技術(shù)。(完)
您可能也感興趣:
為您推薦
中國紅APP正式上線發(fā)布
2025-04-03 13:35:47
第十二屆東亞地方政府會議將在山東臨沂召開 促進東亞地區(qū)交流合作
2025-04-03 13:35:47
（鄉(xiāng)村行·看振興）山西柳林依托“數(shù)商興農(nóng)”打造鄉(xiāng)村e鎮(zhèn) 電商交易9個月達3.5億元
2025-04-03 13:35:47
排行
- 電影《小徑分岔的花園》在福建平潭舉辦拍攝媒體見面會
- 成都市行政區(qū)域內(nèi)租房提取住房公積金將執(zhí)行新政
- 創(chuàng)新政策支持不斷 大量租賃房源逐步入市
- 住房公積金各項業(yè)務(wù)運行總體平穩(wěn) 資金總體安全
- 【環(huán)球播資訊】領(lǐng)智金融（08163.HK）完成發(fā)行9100萬港元的可換股債券
- 中國石化兩天市值蒸發(fā)681億 子公司交易損失云遮霧罩
- 因事故隱患突出，河南100家道路運輸企業(yè)被約談
- 鄢陵縣精城建材有限公司不執(zhí)行重污染天氣管控措施違規(guī)生產(chǎn)
- 工商銀行：通過“環(huán)球撮合薈”助力海南自貿(mào)港貿(mào)易投資對接
- 第十九批河南省示范幼兒園名單公布 新批20所16所被摘牌
最近更新
- “一本正經(jīng)胡說八道”：AI幻覺到底有多可怕？
- 福州：春日花花藝術(shù)裝置扮靚歷史文化街區(qū)
- 內(nèi)蒙古錫林郭勒草原春假：守護2.2億畝綠色家底
- 黑龍江：推進殯葬服務(wù)“六公開” 讓清明節(jié)“天清地明”
- 北京84歲大爺免費變魔術(shù)：退休后已在公園表演二十余年
- 緬懷遺體與器官捐獻者：生命終章化曙光
- 閩南貝雕：融中西技藝 演繹大千世界
- 林徽因主題館落戶家鄉(xiāng)福州 征集原創(chuàng)藝術(shù)作品
- 江西南昌：做優(yōu)蘆筍產(chǎn)業(yè) 助力鄉(xiāng)村振興
- 廣西蒼梧舉辦“三月三”搶花炮系列活動
- 鄭州大學(xué)河南音樂學(xué)院帶來“青春版”《茶花女》將赴京演出
- 上海港開出全國首張船舶電子燃料交付單
- 2024年濟南共舉辦體育賽事2.6萬場次 直接經(jīng)濟收入超21億元
- 貴州唱好鄉(xiāng)村振興與民族團結(jié)“大合唱”
- 全國1500余名語文教育同仁齊聚重慶 探索整本書閱讀教學(xué)路徑
- 電影《小徑分岔的花園》在福建平潭舉辦拍攝媒體見面會
- 江西南昌共登記人體器官捐獻志愿者近4萬名
- 探訪白洋淀捕魚、燉魚 本味淀中來，傳向四海去
- 閩南貝雕：融中西技藝 演繹大千世界
- 從傳統(tǒng)相聲到話劇舞臺 話劇《卿卿誤我》將登臺
- 西藏拉薩：高原迎春
- 西藏林芝第二十二屆桃花旅游文化節(jié)波密縣分會場開幕 “桃”...
- 白云機場三期擴建工程第二航站區(qū)市政配套重要節(jié)點完成
- 特寫：西海固有位馬斯諾“公爵”
- "活力湃"小保養(yǎng)套餐全新登場，美孚1號車養(yǎng)護專業(yè)護航用車體驗
- 十月稻田斬獲5項iSEE全球獎，玉米品類創(chuàng)新引爆消費熱潮
- 宜涪高鐵重慶段進入主體工程全面施工階段
- 2024年廣東人工智能核心產(chǎn)業(yè)規(guī)模超2200億元
- 「晉韻千年 乒搏不息 」百利好全力贊助2025WTT太原常規(guī)挑戰(zhàn)賽
- 百利好亮相WikiEXPO香港站 共創(chuàng)全球金融市場繁榮