當(dāng)前，人工智能迅猛發(fā)展，其應(yīng)用范圍已滲透至社會(huì)生產(chǎn)與生活的各個(gè)領(lǐng)域。然而，人們?cè)谙硎苋斯ぶ悄軒?lái)的高效便捷體驗(yàn)的同時(shí)，也難逃人工智能“幻覺(jué)”的困擾。這里的“幻覺(jué)”，指的是人工智能生成的看似合理但實(shí)際不準(zhǔn)確或虛假的信息。

　　在電網(wǎng)領(lǐng)域，人工智能的應(yīng)用越來(lái)越廣泛、深入，其固有的“幻覺(jué)”現(xiàn)象可能給電網(wǎng)企業(yè)帶來(lái)風(fēng)險(xiǎn)與挑戰(zhàn)，是電網(wǎng)數(shù)字化、智能化發(fā)展進(jìn)程中不容忽視的問(wèn)題。

　　何為人工智能“幻覺(jué)”

　　人工智能大模型有時(shí)會(huì)編造一些并不存在的細(xì)節(jié)，生成與事實(shí)相悖的答案，給出一些并不準(zhǔn)確的鏈接……這些現(xiàn)象都可以歸為人工智能“幻覺(jué)”。

　　人工智能“幻覺(jué)”主要發(fā)生在生成式人工智能大模型中，是指模型在輸出過(guò)程中生成看似合理、邏輯通順，但與客觀事實(shí)不一致的內(nèi)容，就像人類在認(rèn)知過(guò)程中出現(xiàn)錯(cuò)覺(jué)、虛構(gòu)記憶一樣。一項(xiàng)調(diào)研顯示，對(duì)于“公眾認(rèn)為使用人工智能過(guò)程中有哪些突出問(wèn)題”，反饋?zhàn)疃嗟氖?ldquo;內(nèi)容不準(zhǔn)確，或含虛假信息”，占比高達(dá)42.2%。

　　值得注意的是，“幻覺(jué)率”并非越低越好，模型需要在準(zhǔn)確性、創(chuàng)造性與應(yīng)用場(chǎng)景之間進(jìn)行權(quán)衡。高“幻覺(jué)”模型在開(kāi)放性任務(wù)中會(huì)展現(xiàn)出更強(qiáng)的推理能力，但容易產(chǎn)生錯(cuò)誤事實(shí);低“幻覺(jué)”模型則更依賴訓(xùn)練數(shù)據(jù)，靈活性受限。

　　人工智能會(huì)產(chǎn)生“幻覺(jué)”

　　源于數(shù)據(jù)、算法與環(huán)境等多重因素

　　生成式人工智能的工作原理類似于“成語(yǔ)接龍”游戲，模型通過(guò)預(yù)測(cè)下一個(gè)詞語(yǔ)的概率分布來(lái)生成輸出內(nèi)容。人工智能“幻覺(jué)”的產(chǎn)生并非單一因素所致，而是數(shù)據(jù)基礎(chǔ)、算法機(jī)制與交互環(huán)境等多重因素交織作用的結(jié)果。

　　模型的學(xué)習(xí)過(guò)程高度依賴訓(xùn)練數(shù)據(jù)，而數(shù)據(jù)本身的質(zhì)量、完整性與準(zhǔn)確性直接決定了模型的輸出結(jié)果。數(shù)據(jù)缺陷是導(dǎo)致人工智能“幻覺(jué)”的重要原因之一。如果訓(xùn)練數(shù)據(jù)中存在錯(cuò)誤、片面或未發(fā)布的內(nèi)容，模型就可能在學(xué)習(xí)過(guò)程中建立起錯(cuò)誤的關(guān)聯(lián)。例如，某模型基于尚未正式發(fā)布的行業(yè)標(biāo)準(zhǔn)進(jìn)行訓(xùn)練，輸出的內(nèi)容就可能與現(xiàn)行規(guī)范不符。知識(shí)固化也是人工智能“幻覺(jué)”的誘因之一。部分模型過(guò)度依賴參數(shù)化記憶，缺乏動(dòng)態(tài)更新能力，在面對(duì)訓(xùn)練數(shù)據(jù)之外的新問(wèn)題時(shí)，往往無(wú)法準(zhǔn)確應(yīng)答。例如，某模型僅基于2024年之前的數(shù)據(jù)進(jìn)行訓(xùn)練，那么在面對(duì)2024年之后的事件時(shí)，可能會(huì)虛構(gòu)信息來(lái)填補(bǔ)“知識(shí)空白”。

　　盡管模型具備強(qiáng)大的文本生成能力，但其算法機(jī)制仍有局限性，在一定程度上加劇了“幻覺(jué)”的產(chǎn)生。長(zhǎng)文本處理不足可能使模型過(guò)于關(guān)注局部詞句而忽視整體邏輯結(jié)構(gòu)，陷入“只見(jiàn)樹(shù)木不見(jiàn)森林”的困境，導(dǎo)致生成的內(nèi)容前后矛盾、邏輯混亂。數(shù)據(jù)壓縮與信息丟失也是關(guān)鍵問(wèn)題。為提升處理效率，模型在處理海量數(shù)據(jù)時(shí)通常會(huì)壓縮，舍棄看似冗余的細(xì)節(jié)信息，而這一過(guò)程可能導(dǎo)致關(guān)鍵信息丟失。為填補(bǔ)這些“空白”，模型可能會(huì)虛構(gòu)內(nèi)容來(lái)“自圓其說(shuō)”。同時(shí)，目前大多數(shù)模型缺乏對(duì)生成內(nèi)容真實(shí)性的驗(yàn)證機(jī)制，錯(cuò)誤信息可能在生成過(guò)程中不斷被合理化，最終導(dǎo)致“幻覺(jué)”的產(chǎn)生。

　　模型的輸出內(nèi)容不僅取決于其內(nèi)部機(jī)制，還深受用戶輸入的影響。在實(shí)際應(yīng)用中，環(huán)境因素往往成為人工智能“幻覺(jué)”的“放大器”。用戶提問(wèn)模糊、提示不清或邏輯矛盾的情況下，模型難以準(zhǔn)確理解用戶意圖，可能會(huì)“自由發(fā)揮”，生成偏離實(shí)際需求的內(nèi)容。在多輪對(duì)話中，偏差的累積放大現(xiàn)象尤為明顯。某一環(huán)節(jié)生成的內(nèi)容存在偏差，后續(xù)生成的內(nèi)容可能會(huì)基于這一錯(cuò)誤進(jìn)行推理，最終使輸出內(nèi)容與事實(shí)嚴(yán)重偏離。

　　面對(duì)人工智能“幻覺(jué)”

　　需從數(shù)據(jù)、技術(shù)、管理、人才等方面發(fā)力

　　面對(duì)人工智能“幻覺(jué)”帶來(lái)的潛在風(fēng)險(xiǎn)，電網(wǎng)企業(yè)需采取系統(tǒng)性、多層次的應(yīng)對(duì)策略，構(gòu)筑起堅(jiān)實(shí)的安全防線。

　　優(yōu)化數(shù)據(jù)治理。通過(guò)構(gòu)建電力專業(yè)語(yǔ)料庫(kù)，持續(xù)更新技術(shù)標(biāo)準(zhǔn)、行業(yè)規(guī)范及最新研究成果、實(shí)踐案例等專項(xiàng)數(shù)據(jù)，提升數(shù)據(jù)的行業(yè)針對(duì)性和時(shí)效性。強(qiáng)化數(shù)據(jù)清洗與標(biāo)注，引入機(jī)器學(xué)習(xí)算法，全面提升數(shù)據(jù)質(zhì)量。加強(qiáng)多源數(shù)據(jù)融合校驗(yàn)，整合傳感器數(shù)據(jù)、設(shè)備圖像、運(yùn)維文本等多模態(tài)信息，通過(guò)交叉驗(yàn)證機(jī)制降低單一數(shù)據(jù)源偏差影響。建立全生命周期數(shù)據(jù)追溯體系，實(shí)現(xiàn)從數(shù)據(jù)采集、模型訓(xùn)練到模型迭代全程可控、可追溯。

　　創(chuàng)新模型架構(gòu)。調(diào)整模型參數(shù)，降低隨機(jī)性，通過(guò)設(shè)置關(guān)鍵參數(shù)，明確要求模型“僅基于已有知識(shí)回答，如不知道請(qǐng)明確說(shuō)明”，減少編造傾向。引入檢索增強(qiáng)生成技術(shù)，將電力規(guī)程、設(shè)備參數(shù)、運(yùn)行經(jīng)驗(yàn)等專業(yè)知識(shí)嵌入模型推理過(guò)程，進(jìn)一步約束模型生成邊界，提升模型的準(zhǔn)確性和專業(yè)性。開(kāi)啟思維鏈模式，讓模型展示推理步驟和邏輯過(guò)程，便于發(fā)現(xiàn)并糾正潛在的邏輯跳躍或事實(shí)錯(cuò)誤。構(gòu)建“大模型+小模型”混合架構(gòu)，根據(jù)業(yè)務(wù)場(chǎng)景靈活調(diào)整功能分配，實(shí)現(xiàn)語(yǔ)義理解和精準(zhǔn)計(jì)算的高效協(xié)同。

　　健全體制機(jī)制。在應(yīng)用人工智能過(guò)程中，優(yōu)化雙軌驗(yàn)證制度，明確人工經(jīng)驗(yàn)驗(yàn)證和人工智能推理校驗(yàn)流程。針對(duì)電網(wǎng)調(diào)度、故障診斷等關(guān)鍵場(chǎng)景，合理設(shè)置人工復(fù)核節(jié)點(diǎn)，形成更高效、更可靠的人機(jī)協(xié)作模式。優(yōu)先選取中低風(fēng)險(xiǎn)場(chǎng)景開(kāi)展人工智能試點(diǎn)應(yīng)用，待技術(shù)成熟后逐步推廣。

　　提升員工素養(yǎng)。提升員工核查事實(shí)的技能，組織員工參與人工智能項(xiàng)目開(kāi)發(fā)實(shí)施，通過(guò)模擬演練提高實(shí)戰(zhàn)能力。推廣多源比對(duì)驗(yàn)證方法，引導(dǎo)員工利用不同人工智能工具對(duì)同一問(wèn)題提問(wèn)，比對(duì)答案差異識(shí)別潛在“幻覺(jué)”。搭建人工智能應(yīng)用最佳實(shí)踐共享平臺(tái)，促進(jìn)跨部門(mén)、跨單位溝通合作，推動(dòng)企業(yè)人工智能應(yīng)用整體水平提升。(作者：趙三珊 華珉 單位：國(guó)網(wǎng)上海市電力公司電力科學(xué)研究院)