<p class="ql-block">本文所用圖片與本文無關(guān)，但全部都是原片直出，沒有一張是剪裁和電腦后期涂鴉。</p> <p class="ql-block">在人工智能蓬勃發(fā)展之際，其帶來的挑戰(zhàn)不容忽視，尤其是利用AI編造各類虛假內(nèi)容謀利的行為，正嚴(yán)重威脅著我國的信息安全、文化傳承、教育質(zhì)量和法律秩序。今日的現(xiàn)實(shí)即是明日的歷史，規(guī)范當(dāng)下全網(wǎng)絡(luò)信息生態(tài)，對維護(hù)國家文化安全與社會穩(wěn)定具有深遠(yuǎn)意義。為應(yīng)對這一嚴(yán)峻形勢，國家亟需盡快完善并公告覆蓋全網(wǎng)絡(luò)場景的AI信息管理規(guī)范，明確相關(guān)法律責(zé)任條款。</p><p class="ql-block"> </p> <p class="ql-block">現(xiàn)行規(guī)定及其局限</p><p class="ql-block">已出臺的規(guī)定：我國目前有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行管理辦法》，對AI生成內(nèi)容的標(biāo)識、使用等有所規(guī)范。</p><p class="ql-block">存在的不足：現(xiàn)有規(guī)范在應(yīng)對全網(wǎng)絡(luò)場景下（如社會熱點(diǎn)、民生信息、未來趨勢預(yù)測等領(lǐng)域）故意編造虛假內(nèi)容并牟利的行為時，缺乏全面性的認(rèn)定標(biāo)準(zhǔn)和精細(xì)化的懲處措施，難以覆蓋“今日信息—明日歷史”的全周期監(jiān)管需求，導(dǎo)致不法分子利用監(jiān)管空白肆意傳播虛假信息，包括但不限于假文章、假劇本、假論文、假圖像、假視頻，以及網(wǎng)絡(luò)消費(fèi)中的假廣告、假旅游信息等明知故犯的虛假內(nèi)容傳播。</p> <p class="ql-block">AI造假對信息生態(tài)與歷史傳承的嚴(yán)重傷害</p><p class="ql-block">文化傳承與歷史記錄扭曲：真實(shí)準(zhǔn)確的信息記錄是文化傳承和歷史研究的根基。AI編造的虛假內(nèi)容不僅誤導(dǎo)當(dāng)下大眾認(rèn)知，更會作為錯誤“歷史素材”影響后世對時代的客觀判斷，使未來對今日社會的認(rèn)知產(chǎn)生偏差，導(dǎo)致中華優(yōu)秀文化傳承在代際傳遞中變味走樣。</p><p class="ql-block">社會認(rèn)知與歷史研究干擾：虛假信息混雜在海量網(wǎng)絡(luò)內(nèi)容中，不僅增加公眾甄別信息真?zhèn)蔚碾y度，更可能使學(xué)術(shù)研究、社會調(diào)研等依賴真實(shí)數(shù)據(jù)的領(lǐng)域得出錯誤結(jié)論，嚴(yán)重影響歷史學(xué)科、社會學(xué)等領(lǐng)域的科學(xué)性和嚴(yán)謹(jǐn)性，破壞信息時代的知識可信度體系。</p><p class="ql-block">民族認(rèn)同感與歷史連續(xù)性削弱：當(dāng)下的社會共識與文化記憶是構(gòu)建民族認(rèn)同感的重要紐帶。虛假信息的廣泛傳播會引發(fā)公眾對現(xiàn)實(shí)的懷疑與困惑，進(jìn)而削弱民族凝聚力和歷史自豪感，從根本上危害國家文化安全和社會穩(wěn)定，割裂歷史發(fā)展的連續(xù)性。</p><p class="ql-block">教育與認(rèn)知發(fā)展方面：若教育教學(xué)素材、公眾信息獲取渠道中充斥虛假內(nèi)容，將直接導(dǎo)致教育質(zhì)量下降，學(xué)生及公眾對當(dāng)下社會和歷史的理解產(chǎn)生系統(tǒng)性偏差，無法準(zhǔn)確傳承和弘揚(yáng)時代精神與文化內(nèi)涵，影響新一代對國家發(fā)展歷程的正確認(rèn)知。</p><p class="ql-block">法律與社會治理方面：全網(wǎng)絡(luò)場景下的AI造假涉及內(nèi)容生產(chǎn)、傳播、平臺運(yùn)營等多環(huán)節(jié)，責(zé)任主體界定困難。現(xiàn)有法律對跨領(lǐng)域、跨平臺的虛假信息傳播打擊力度不足，違法成本低，難以形成有效威懾，導(dǎo)致監(jiān)管效率與網(wǎng)絡(luò)信息傳播速度不匹配，尤其對明知故犯傳播假圖片、假旅游信息、假視頻、編造假故事、假廣告等行為的懲處缺乏針對性。</p><p class="ql-block">對文化、教育、法律及社會領(lǐng)域的深層危害</p><p class="ql-block">文化與信息生態(tài)方面：AI虛假內(nèi)容破壞健康的信息文化生態(tài)，擠壓真實(shí)優(yōu)質(zhì)內(nèi)容的傳播空間，阻礙文化產(chǎn)業(yè)與信息服務(wù)業(yè)的良性發(fā)展，引發(fā)“劣幣驅(qū)逐良幣”的不良競爭，擾亂網(wǎng)絡(luò)信息市場秩序，使真實(shí)信息的價值被稀釋。</p> <p class="ql-block">AI搜索:搜索結(jié)果一：關(guān)于規(guī)避AI寫作風(fēng)險的幾點(diǎn)建議</p><p class="ql-block">明確目的與需求：使用AI搜索、歸納工具前，需清晰確定搜索目的和問題背景，精準(zhǔn)選擇關(guān)鍵字和搜索范圍，如學(xué)術(shù)研究要明確課題方向和關(guān)鍵問題，確保AI工具服務(wù)于真實(shí)信息需求。</p><p class="ql-block">甄別信息來源：重視信息來源甄別，優(yōu)先選擇權(quán)威媒體、政府平臺、專業(yè)學(xué)術(shù)機(jī)構(gòu)等可靠渠道，對自媒體賬號、非正規(guī)平臺等來源不明的信息保持高度警惕，從源頭降低虛假信息干擾。</p><p class="ql-block">多源驗(yàn)證信息：從多個不同領(lǐng)域、不同立場的權(quán)威來源驗(yàn)證信息，對比分析內(nèi)容的一致性，對差異較大的信息深入調(diào)查，通過交叉驗(yàn)證確保獲取信息的準(zhǔn)確性和真實(shí)性，避免單一信源誤導(dǎo)。</p><p class="ql-block">合理引用與整合：遵循學(xué)術(shù)規(guī)范和版權(quán)法規(guī)，合理引用AI生成的信息，嚴(yán)格標(biāo)注引用內(nèi)容，尊重知識產(chǎn)權(quán)，將AI輸出內(nèi)容與人工調(diào)研信息有機(jī)整合，形成獨(dú)立完整的理解和分析，杜絕盲目依賴AI內(nèi)容。</p><p class="ql-block">結(jié)合人工判斷：充分發(fā)揮人類批判性思維、創(chuàng)造力和專業(yè)知識優(yōu)勢，將AI工具作為輔助手段，通過人工審核與AI生成內(nèi)容協(xié)同作業(yè)，提高信息處理的準(zhǔn)確性和可靠性，彌補(bǔ)AI在價值判斷和情感認(rèn)知上的不足。</p> <p class="ql-block">規(guī)范建議：</p><p class="ql-block">明確標(biāo)識審核義務(wù)：要求全網(wǎng)絡(luò)平臺和服務(wù)提供商對AI生成內(nèi)容進(jìn)行顯著標(biāo)識，建立全流程內(nèi)容審核機(jī)制，強(qiáng)化對AI虛假信息的前端攔截與后端追溯，尤其針對假圖片、假視頻、假廣告等視覺化虛假內(nèi)容。</p><p class="ql-block">界定法律責(zé)任：出臺覆蓋全網(wǎng)絡(luò)場景的法規(guī)，明確AI內(nèi)容造假、傳播、牟利等各環(huán)節(jié)的法律責(zé)任，細(xì)化行政處罰、民事賠償、刑事責(zé)任的認(rèn)定標(biāo)準(zhǔn)，提高違法成本，對明知故犯傳播虛假內(nèi)容的行為從重懲處。</p><p class="ql-block">加強(qiáng)技術(shù)監(jiān)管：研發(fā)跨平臺、多維度的AI虛假信息檢測技術(shù)工具，建立國家級AI信息檢測平臺，實(shí)現(xiàn)對文本、圖像、視頻等全形式內(nèi)容的實(shí)時監(jiān)測與預(yù)警，重點(diǎn)識別虛假廣告、虛假旅游信息等高頻造假領(lǐng)域。</p><p class="ql-block">推動行業(yè)自律：引導(dǎo)互聯(lián)網(wǎng)行業(yè)、AI技術(shù)企業(yè)制定自律規(guī)范，建立行業(yè)黑名單制度，促進(jìn)行業(yè)內(nèi)信息共享與協(xié)同治理，形成政府監(jiān)管與行業(yè)自律的良性互動，抵制假文章、假劇本等虛假內(nèi)容的生產(chǎn)傳播。</p><p class="ql-block">強(qiáng)化教育引導(dǎo)：通過學(xué)校教育、社會宣傳等渠道，培養(yǎng)公眾的媒介素養(yǎng)和正確價值觀，提高對AI虛假信息的辨別能力和批判意識，構(gòu)建全民參與的信息安全防線，防范假論文、假故事等誤導(dǎo)性內(nèi)容。</p> <p class="ql-block">圖片和短視頻對信息生態(tài)傷害更大的原因</p><p class="ql-block">視覺沖擊力強(qiáng)：圖片和短視頻以直觀生動的形式呈現(xiàn)，能迅速吸引觀眾注意力并產(chǎn)生強(qiáng)烈視覺沖擊，相較于文字內(nèi)容，更容易被各年齡層、各知識水平的受眾接受和傳播，導(dǎo)致虛假信息在全網(wǎng)絡(luò)范圍內(nèi)快速擴(kuò)散，覆蓋范圍更廣、影響速度更快，包括虛假廣告、虛假旅游宣傳等場景。</p><p class="ql-block">情感誘導(dǎo)性強(qiáng)：通過畫面、聲音、節(jié)奏等元素的組合，虛假圖片和短視頻極易激發(fā)觀眾的情感共鳴，尤其在涉及社會熱點(diǎn)、民生問題、消費(fèi)促銷等敏感話題時，易引發(fā)非理性情緒反應(yīng)和偏激行為，增加社會不穩(wěn)定因素，對現(xiàn)實(shí)社會治理和公眾情緒引導(dǎo)造成嚴(yán)重干擾，如虛假促銷廣告引發(fā)的盲目消費(fèi)。</p><p class="ql-block">傳播速度與范圍遠(yuǎn)超文字：借助社交媒體、短視頻平臺等渠道，虛假圖片和短視頻可在短時間內(nèi)通過轉(zhuǎn)發(fā)、分享、推薦算法等機(jī)制實(shí)現(xiàn)病毒式傳播，其傳播速度和覆蓋范圍遠(yuǎn)超文字內(nèi)容，且難以通過人工手段及時攔截，嚴(yán)重?fù)p害國家形象、社會公信力和信息生態(tài)健康，如虛假旅游信息導(dǎo)致游客權(quán)益受損。</p><p class="ql-block">制作與監(jiān)管難度高：AI技術(shù)降低了圖片和短視頻的造假門檻，不法分子可輕易通過深度偽造技術(shù)生成逼真的虛假內(nèi)容，并利用匿名賬號發(fā)布。此類內(nèi)容的溯源技術(shù)難度大，監(jiān)管部門難以快速定位制作與傳播主體，導(dǎo)致監(jiān)管滯后于虛假信息的擴(kuò)散速度，增加全網(wǎng)絡(luò)信息治理的復(fù)雜性，尤其對明知故犯的造假者難以快速追責(zé)。</p> <p class="ql-block">相關(guān)建議</p><p class="ql-block">完善全網(wǎng)絡(luò)AI信息管理法規(guī)體系：在現(xiàn)有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行管理辦法》基礎(chǔ)上，盡快出臺覆蓋文本、圖像、視頻等全內(nèi)容形式，涵蓋生產(chǎn)、傳播、消費(fèi)等全環(huán)節(jié)的《全網(wǎng)絡(luò)AI信息管理?xiàng)l例》，明確“虛假信息”的認(rèn)定標(biāo)準(zhǔn)（包括假文章、假劇本、假論文、假圖像、假視頻、假廣告、假旅游信息等），將歷史文化、社會現(xiàn)實(shí)、未來預(yù)測、網(wǎng)絡(luò)消費(fèi)等領(lǐng)域的AI信息納入統(tǒng)一監(jiān)管框架，確?！敖袢招畔ⅰ闭鎸?shí)可查，為“明日歷史”奠定可靠基礎(chǔ)，特別針對明知故犯傳播虛假內(nèi)容的行為制定嚴(yán)格認(rèn)定和懲處條款。</p><p class="ql-block"><br></p><p class="ql-block">建立全網(wǎng)絡(luò)AI信息動態(tài)監(jiān)管機(jī)制：</p><p class="ql-block">依托國家級AI檢測平臺，整合技術(shù)企業(yè)、科研機(jī)構(gòu)的檢測能力，對全網(wǎng)絡(luò)AI生成內(nèi)容進(jìn)行實(shí)時監(jiān)測，重點(diǎn)關(guān)注涉及歷史、現(xiàn)實(shí)熱點(diǎn)、未來趨勢、消費(fèi)廣告、旅游宣傳等領(lǐng)域的虛假信息，實(shí)現(xiàn)“發(fā)現(xiàn)—攔截—溯源—處置”的全流程閉環(huán)管理，對明知故犯的傳播行為啟動快速查處通道。</p><p class="ql-block">建立跨部門聯(lián)合執(zhí)法機(jī)制，加強(qiáng)網(wǎng)信、文旅、教育、公安、市場監(jiān)管等部門的協(xié)同配合，提高對跨平臺、跨領(lǐng)域AI造假行為的查處效率，形成全網(wǎng)絡(luò)監(jiān)管合力，尤其針對虛假廣告、虛假旅游信息等跨領(lǐng)域違法場景強(qiáng)化協(xié)同執(zhí)法。</p><p class="ql-block"><br></p><p class="ql-block">強(qiáng)化平臺主體責(zé)任與技術(shù)創(chuàng)新：</p><p class="ql-block">要求網(wǎng)絡(luò)平臺落實(shí)AI內(nèi)容標(biāo)識制度，對AI生成的文本、圖像、視頻等內(nèi)容進(jìn)行顯著標(biāo)注，未經(jīng)標(biāo)識的內(nèi)容不得在平臺傳播；建立AI內(nèi)容審核技術(shù)標(biāo)準(zhǔn)，利用區(qū)塊鏈等技術(shù)實(shí)現(xiàn)AI內(nèi)容的溯源追蹤，確保信息可追溯、責(zé)任可認(rèn)定，對明知故犯發(fā)布虛假內(nèi)容的賬號實(shí)施永久封禁。</p><p class="ql-block">鼓勵企業(yè)加大AI反造假技術(shù)研發(fā)投入，支持開發(fā)高精度的虛假內(nèi)容檢測工具、深度偽造識別技術(shù)，提升對AI生成虛假信息的技術(shù)防范能力，重點(diǎn)突破虛假廣告、虛假旅游視頻等場景的檢測技術(shù)瓶頸，從技術(shù)層面遏制虛假信息的傳播。</p><p class="ql-block"><br></p><p class="ql-block">推動社會共治與公眾參與：</p><p class="ql-block">建立全網(wǎng)絡(luò)AI信息舉報獎勵機(jī)制，鼓勵公眾、媒體、行業(yè)組織等參與AI虛假信息監(jiān)督，對舉報屬實(shí)的給予獎勵，形成全民參與、社會共治的良好氛圍，特別針對明知故犯的虛假廣告、虛假旅游信息等設(shè)置專項(xiàng)舉報通道。</p><p class="ql-block">加強(qiáng)對公眾的AI信息素養(yǎng)教育，通過公益宣傳、學(xué)校課程、社區(qū)活動等形式，普及AI技術(shù)原理、虛假信息識別方法，提升公眾對AI虛假內(nèi)容的辨別能力和防范意識，重點(diǎn)培訓(xùn)如何識別虛假廣告、虛假旅游圖片視頻等常見騙局，引導(dǎo)公眾自覺抵制和舉報虛假信息。</p> <p class="ql-block">網(wǎng)絡(luò)空間的每一條信息都在書寫著今日的歷史，規(guī)范AI信息管理不僅是維護(hù)當(dāng)下信息生態(tài)的迫切需求，更是為未來留下真實(shí)歷史記錄的必然要求。我們應(yīng)立足“今日信息即明日歷史”的高度，盡快完善和公告全網(wǎng)絡(luò)AI信息管理規(guī)范，加強(qiáng)監(jiān)管治理，嚴(yán)厲打擊包括假文章、假劇本、假論文、假圖像、假視頻、假廣告、假旅游信息等在內(nèi)的各類AI虛假內(nèi)容，尤其對明知故犯的傳播行為從嚴(yán)懲處，保障信息領(lǐng)域、文化傳承、教育體系和法律秩序的健康發(fā)展，維護(hù)國家文化安全和社會穩(wěn)定，讓AI技術(shù)在合法合規(guī)的軌道上為社會發(fā)展貢獻(xiàn)積極力量，確保今日的真實(shí)信息成為明日可信的歷史財富，守護(hù)網(wǎng)絡(luò)空間的真實(shí)性與公信力。</p>