為深入貫徹落實(shí)黨中央、國務(wù)院決策部署,規(guī)范和引導(dǎo)人工智能大模型在政務(wù)領(lǐng)域的發(fā)展與應(yīng)用,提升政務(wù)數(shù)字化智能化治理和服務(wù)水平,制定本指引。本指引主要為各級政務(wù)部門提供人工智能大模型部署應(yīng)用的工作導(dǎo)向和基本參照,將根據(jù)實(shí)踐進(jìn)展,結(jié)合人工智能大模型發(fā)展和應(yīng)用的新形勢、新要求,進(jìn)行動態(tài)調(diào)整。

一、總體要求

堅持以習(xí)近平新時代中國特色社會主義思想為指導(dǎo),深入貫徹落實(shí)黨的二十大和二十屆二中、三中全會精神,全面貫徹習(xí)近平總書記關(guān)于網(wǎng)絡(luò)強(qiáng)國的重要思想,完整準(zhǔn)確全面貫徹新發(fā)展理念,統(tǒng)籌高質(zhì)量發(fā)展和高水平安全,堅持系統(tǒng)謀劃、集約發(fā)展,以人為本、規(guī)范應(yīng)用,共建共享、高效協(xié)同,安全穩(wěn)妥、務(wù)求實(shí)效,有序推進(jìn)人工智能大模型技術(shù)、產(chǎn)品和服務(wù)在政務(wù)領(lǐng)域的部署、應(yīng)用和持續(xù)優(yōu)化,充分發(fā)揮人工智能大模型在復(fù)雜語義理解與推理、多模態(tài)內(nèi)容生成、知識整合與分析等方面的優(yōu)勢,為工作人員提供高效輔助,為公眾和企業(yè)提供便捷服務(wù),推動政務(wù)創(chuàng)新發(fā)展,提升治理效能、優(yōu)化服務(wù)管理、輔助科學(xué)決策。

二、應(yīng)用場景

政務(wù)部門可圍繞政務(wù)服務(wù)、社會治理、機(jī)關(guān)辦公和輔助決策等工作中的共性、高頻需求,因地制宜、結(jié)合實(shí)際,選擇典型場景進(jìn)行人工智能大模型探索應(yīng)用。主要包括以下參考場景:

(一)政務(wù)服務(wù)類

1.智能問答。整合本地區(qū)、本部門、本領(lǐng)域業(yè)務(wù)資源和知識庫等數(shù)據(jù),利用自然語言理解、檢索增強(qiáng)生成和知識圖譜等技術(shù),提供便捷的在線政務(wù)咨詢服務(wù),加強(qiáng)對公眾訴求的準(zhǔn)確理解,實(shí)時生成參考回答,幫助解決公眾疑惑,提升信息獲取便捷性。

2.輔助辦理。整合政務(wù)服務(wù)辦事指南、常見問題、用戶評價和歷史辦理記錄等數(shù)據(jù),利用智能匹配和自動化處理等技術(shù),提供智能導(dǎo)辦、個性引導(dǎo)、表單預(yù)填、輔助審核、進(jìn)度查詢和提醒等一站式政務(wù)輔助辦理服務(wù),輔助工作人員高效審核材料,支撐公眾和企業(yè)便捷辦理事項。

3.政策服務(wù)直達(dá)快享。構(gòu)建政策服務(wù)知識庫,細(xì)化政策要求、政策標(biāo)簽、推送條件、申兌流程等相關(guān)內(nèi)容,利用“政策找人”“政策找企業(yè)”算法模型,加強(qiáng)公眾和企業(yè)需求分析,實(shí)現(xiàn)政策智能匹配,推進(jìn)惠民利民、惠企利企服務(wù)主動精準(zhǔn)送達(dá)和一站式辦理。

(二)社會治理類

4.智能監(jiān)測巡檢。利用無人機(jī)、視頻監(jiān)控、智能傳感器等設(shè)備和計算機(jī)視覺等技術(shù),對監(jiān)控視頻、圖像、物聯(lián)感知數(shù)據(jù)等進(jìn)行實(shí)時分析,輔助工作人員實(shí)時監(jiān)測房屋、道路、燃?xì)?、橋梁、供水、排水、供熱、綜合管廊等基礎(chǔ)設(shè)施,及時發(fā)現(xiàn)異常行為、環(huán)境問題或設(shè)施故障等,自動識別潛在風(fēng)險隱患,及時進(jìn)行提醒,并根據(jù)異常情況和嚴(yán)重程度提供處置建議,提高監(jiān)測巡檢效率。

5.輔助執(zhí)法監(jiān)管。采用語音識別、視頻分析、知識圖譜、邏輯推理等技術(shù),輔助執(zhí)法人員將案件信息實(shí)時錄入系統(tǒng)、穿透式發(fā)現(xiàn)問題線索、生成案件報告、快速檢索法律依據(jù)和司法解釋、查詢類似典型案例等,提供針對性案件辦理建議,提高執(zhí)法監(jiān)管效率和規(guī)范性。

6.市場風(fēng)險預(yù)測。運(yùn)用生成式時間序列分析模型和異常檢測算法等,對各類市場數(shù)據(jù)進(jìn)行監(jiān)測和深度分析,捕捉市場動向,包括經(jīng)濟(jì)指標(biāo)波動、異常情況等,預(yù)測可能出現(xiàn)的市場風(fēng)險,研判對經(jīng)濟(jì)社會帶來的影響和經(jīng)濟(jì)走勢,并及時發(fā)出預(yù)警,為政府管理和社會治理提供支撐。

(三)機(jī)關(guān)辦公類

7.輔助文書起草。利用大語言模型的生成能力,通過構(gòu)建本地知識庫和預(yù)設(shè)模板,為工作人員提供寫作建議、輔助起草文書,對格式和內(nèi)容等進(jìn)行檢查、校對和優(yōu)化,提高工作效率,減輕基層負(fù)擔(dān)。

8.資料檢索。利用知識圖譜構(gòu)建和信息檢索等技術(shù),準(zhǔn)確理解工作人員資料檢索需求,實(shí)現(xiàn)政務(wù)信息快速檢索、精準(zhǔn)定位、多維度排序、智能關(guān)聯(lián)和對比分析等,幫助工作人員提升資料檢索效率和準(zhǔn)確性。

9.智能分辦。利用自然語言理解和多模態(tài)識別等技術(shù),構(gòu)建多維度任務(wù)分類和分辦規(guī)則,對來文、來電、工單等任務(wù)進(jìn)行自動識別、準(zhǔn)確分類、輔助填寫和優(yōu)先級排序,實(shí)現(xiàn)輔助分發(fā)和智能派單,提高任務(wù)分辦效率。

(四)輔助決策類

10.災(zāi)害預(yù)警。對來自衛(wèi)星、地面?zhèn)鞲衅?、地質(zhì)監(jiān)測站,以及預(yù)報預(yù)警、災(zāi)害風(fēng)險普查等多源、多維、多模態(tài)數(shù)據(jù)進(jìn)行大數(shù)據(jù)關(guān)聯(lián)和綜合分析研判,識別異常波動情況,預(yù)測可能發(fā)生的自然災(zāi)害,并提前發(fā)出預(yù)警,輔助政務(wù)部門及時采取有效措施,減輕災(zāi)害風(fēng)險,減少災(zāi)害損失。

11.應(yīng)急處置。利用強(qiáng)化學(xué)習(xí)等技術(shù),對社會公共安全等突發(fā)事件的性質(zhì)、特點(diǎn)、危害程度、影響范圍、發(fā)展趨勢和公眾反應(yīng)等進(jìn)行分析研判,及時發(fā)現(xiàn)和預(yù)警風(fēng)險隱患,基于突發(fā)場景、力量資源分布等快速模擬應(yīng)急處置方案效果,提供科學(xué)合理的應(yīng)急處置建議,優(yōu)化救援資源配置,提高應(yīng)急響應(yīng)速度和效率。

12.政策評估。利用人工智能大模型推斷分析能力與數(shù)據(jù)挖掘能力,對公眾反饋、市場反應(yīng)、經(jīng)濟(jì)指標(biāo)和社會滿意度等進(jìn)行分析,構(gòu)建多維度指標(biāo),評估政策目標(biāo)實(shí)現(xiàn)程度、政策影響力和潛在問題,支撐政策制定部門進(jìn)行政策優(yōu)化。

13.智能輔助評審。利用自學(xué)習(xí)泛化認(rèn)識、類人化評審?fù)评怼⒍嗄B(tài)智能解析等能力,對照有關(guān)要求開展項目評審,對項目文件內(nèi)容進(jìn)行深度掃描、智能解析,提出評審意見建議,輔助提高項目評審效率和科學(xué)性。

三、規(guī)范部署

政務(wù)部門應(yīng)結(jié)合工作實(shí)際和場景特點(diǎn),充分論證人工智能大模型的應(yīng)用需求、實(shí)施路徑、功能設(shè)計等,選擇適宜的部署模式,統(tǒng)籌推進(jìn)實(shí)施,推動共建共享,提升建設(shè)管理效能。

(一)合理選擇實(shí)施路徑

政務(wù)部門應(yīng)根據(jù)不同政務(wù)場景需求與現(xiàn)有技術(shù)基礎(chǔ),審慎選擇人工智能大模型實(shí)施路徑。對于智能問答、輔助文書起草等通用性較強(qiáng)、數(shù)據(jù)資源豐富的場景,需采用市場上成熟,并已完成網(wǎng)信部門備案的模型產(chǎn)品和服務(wù)。對于輔助執(zhí)法監(jiān)管、市場風(fēng)險預(yù)測等專業(yè)性較強(qiáng)、業(yè)務(wù)邏輯復(fù)雜的場景,可利用領(lǐng)域?qū)<抑R和專業(yè)數(shù)據(jù)進(jìn)行針對性訓(xùn)練,打造垂直模型。在保障安全和不泄露國家秘密、工作秘密和敏感信息等的前提下,充分利用互聯(lián)網(wǎng)算力和模型資源,開展政務(wù)領(lǐng)域人工智能大模型部署應(yīng)用。鼓勵探索政務(wù)智能體、具身智能等創(chuàng)新應(yīng)用。

(二)統(tǒng)籌集約開展部署

政務(wù)部門應(yīng)以統(tǒng)籌集約的方式開展政務(wù)領(lǐng)域人工智能大模型部署,依托“東數(shù)西算”和全國一體化算力網(wǎng),統(tǒng)籌推進(jìn)智能算力基礎(chǔ)設(shè)施布局,并實(shí)施集中統(tǒng)一的安全管理和體系化技術(shù)防護(hù)措施,避免“碎片化”安全風(fēng)險。有條件的中央和國家機(jī)關(guān)部門、省(自治區(qū)、直轄市)可統(tǒng)一部署智能算力資源、人工智能大模型,面向下屬單位或下轄地區(qū)提供電子政務(wù)外網(wǎng)環(huán)境下的人工智能大模型服務(wù)。地市應(yīng)在?。ㄗ灾螀^(qū)、直轄市)統(tǒng)一要求下開展部署應(yīng)用,縣級及以下原則上應(yīng)復(fù)用上級的智能算力和模型資源開展應(yīng)用和服務(wù),不再獨(dú)立進(jìn)行政務(wù)大模型建設(shè)和部署。

(三)探索實(shí)現(xiàn)統(tǒng)管復(fù)用

政務(wù)部門應(yīng)探索構(gòu)建“一地建設(shè)、多地多部門復(fù)用”的集約化部署模式,統(tǒng)籌推進(jìn)政務(wù)大模型部署應(yīng)用,防止形成“模型孤島”。省(自治區(qū)、直轄市)應(yīng)搭建政務(wù)領(lǐng)域人工智能大模型統(tǒng)一服務(wù)平臺,并與政務(wù)云管理平臺、政務(wù)應(yīng)用和組件管理平臺等融合共建,將區(qū)域內(nèi)電子政務(wù)外網(wǎng)智能算力、政務(wù)大模型、政務(wù)數(shù)據(jù)集等資源納入統(tǒng)一管理,形成要素資源“一本賬”,支撐政務(wù)大模型運(yùn)行監(jiān)測,提供資源申請與調(diào)度服務(wù),推動高效復(fù)用。國家行業(yè)主管部門按照業(yè)務(wù)需求和發(fā)展需要探索細(xì)分領(lǐng)域政務(wù)垂直大模型的統(tǒng)一訓(xùn)練與構(gòu)建,加強(qiáng)與?。ㄗ灾螀^(qū)、直轄市)協(xié)同部署,深化跨層級、跨地域的行業(yè)領(lǐng)域智能化賦能。垂直管理部門應(yīng)強(qiáng)化模型、算力、數(shù)據(jù)等資源的統(tǒng)籌部署和管理,避免資源浪費(fèi)。

(四)持續(xù)夯實(shí)數(shù)據(jù)基礎(chǔ)

政務(wù)部門應(yīng)加強(qiáng)政務(wù)數(shù)據(jù)治理,持續(xù)提升數(shù)據(jù)質(zhì)量,加快構(gòu)建客觀反映公共政策、制度規(guī)范、業(yè)務(wù)流程和治理實(shí)效的高質(zhì)量政務(wù)數(shù)據(jù)集和知識庫,支撐政務(wù)大模型的優(yōu)化訓(xùn)練。分類分級管理政務(wù)大模型涉及數(shù)據(jù),加強(qiáng)訓(xùn)練數(shù)據(jù)、微調(diào)數(shù)據(jù)、知識庫等管理,建立臺賬并詳細(xì)記錄數(shù)據(jù)來源、類型和規(guī)模等信息,確保數(shù)據(jù)來源可靠可追溯、內(nèi)容準(zhǔn)確有效。依托政務(wù)數(shù)據(jù)共享協(xié)調(diào)機(jī)制,統(tǒng)籌數(shù)據(jù)治理成果,推進(jìn)高質(zhì)量政務(wù)數(shù)據(jù)集的共建共享和生成數(shù)據(jù)的歸集治理。探索基于大模型的政務(wù)知識治理路徑,打造可信知識庫,確保數(shù)據(jù)源的權(quán)威性、準(zhǔn)確性和時效性。

四、運(yùn)行管理

政務(wù)部門應(yīng)強(qiáng)化政務(wù)領(lǐng)域人工智能大模型運(yùn)行管理,健全管理制度、運(yùn)行模式和安全要求,有序推進(jìn)人工智能大模型技術(shù)、產(chǎn)品和服務(wù)在政務(wù)領(lǐng)域部署應(yīng)用。

(一)明確應(yīng)用管理要求

政務(wù)部門應(yīng)統(tǒng)籌減負(fù)和賦能,嚴(yán)格落實(shí)《整治形式主義為基層減負(fù)若干規(guī)定》《關(guān)于防治“指尖上的形式主義”的若干意見》等相關(guān)要求,避免盲目追求技術(shù)領(lǐng)先、概念創(chuàng)新,避免重復(fù)建設(shè)、無效建設(shè),避免未審先建、建而不管,避免強(qiáng)制使用、無效使用,避免數(shù)據(jù)多頭采集、重復(fù)索要,切實(shí)防范“數(shù)字形式主義”。中央和國家機(jī)關(guān)政務(wù)領(lǐng)域人工智能大模型部署應(yīng)用應(yīng)納入國家政務(wù)信息化規(guī)劃統(tǒng)籌。政務(wù)部門應(yīng)建立健全涵蓋政務(wù)領(lǐng)域人工智能大模型部署應(yīng)用全周期管理體系,明確應(yīng)用方式和邊界,落實(shí)人工智能大模型“輔助型”定位,及時解決部署與應(yīng)用過程中出現(xiàn)的新問題。應(yīng)在政務(wù)大模型應(yīng)用界面顯著位置設(shè)置風(fēng)險提示,明確告知大模型服務(wù)的局限性,做好大模型輸出內(nèi)容標(biāo)識。對于智能問答、輔助辦理等代表政務(wù)部門面向公眾和企業(yè)提供服務(wù)的人工智能大模型應(yīng)用場景,應(yīng)嚴(yán)格執(zhí)行內(nèi)容審核制度流程,結(jié)合場景特點(diǎn)和技術(shù)能力合理采用人工審核、生成內(nèi)容實(shí)時風(fēng)控、多模型交叉校驗等措施,防范模型“幻覺”等風(fēng)險,確保輸出內(nèi)容不超出業(yè)務(wù)范圍,保障內(nèi)容準(zhǔn)確性,維護(hù)政務(wù)部門公信力。

(二)持續(xù)推動迭代優(yōu)化

政務(wù)部門應(yīng)將持續(xù)迭代優(yōu)化作為人工智能大模型部署應(yīng)用的關(guān)鍵環(huán)節(jié),建立常態(tài)化更新機(jī)制,加快功能優(yōu)化,深化場景應(yīng)用。密切關(guān)注技術(shù)發(fā)展動態(tài),持續(xù)更新優(yōu)化政務(wù)領(lǐng)域人工智能大模型的基礎(chǔ)模型和安全能力。建立高效數(shù)據(jù)收集處理機(jī)制,及時更新支撐人工智能大模型運(yùn)行的輸入數(shù)據(jù)和知識庫,并適時進(jìn)行清洗、標(biāo)注,補(bǔ)充優(yōu)化訓(xùn)練數(shù)據(jù)集,持續(xù)提升模型能力。建立政務(wù)領(lǐng)域人工智能大模型用戶評價反饋機(jī)制,及時收集、處理用戶需求,以用戶反饋驅(qū)動迭代優(yōu)化。

(三)扎實(shí)做好安全管理

政務(wù)部門應(yīng)建立安全責(zé)任制度,明確數(shù)據(jù)處理、大模型訓(xùn)練和場景應(yīng)用各階段參與主體的安全職責(zé)和任務(wù),做好用戶身份識別和權(quán)限管理。政務(wù)部門提供人工智能大模型服務(wù)時,應(yīng)遵守《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)規(guī)定,使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,依法履行算法備案和安全評估等義務(wù),與使用者簽訂服務(wù)協(xié)議,明確雙方權(quán)利義務(wù)。構(gòu)建政務(wù)領(lǐng)域人工智能大模型分類分級治理制度,完善安全管理流程,針對可能出現(xiàn)的安全風(fēng)險,制定應(yīng)急處置預(yù)案。做好政務(wù)大模型對抗攻擊的檢測與處置,識別并攔截提示詞注入、資源消耗攻擊等。加強(qiáng)政務(wù)大模型內(nèi)容安全管理,綜合運(yùn)用語義識別、規(guī)則庫、模型算法等,做好多模態(tài)輸入輸出內(nèi)容的識別、分析與管控,建立合理的代答、拒答機(jī)制,及時發(fā)現(xiàn)并處置違法和不良信息、敏感內(nèi)容等。發(fā)揮新聞媒體內(nèi)容審核優(yōu)勢,做好政務(wù)大模型訓(xùn)練數(shù)據(jù)的內(nèi)容審核把關(guān),加強(qiáng)政務(wù)大模型內(nèi)容監(jiān)測管理。做好政務(wù)大模型應(yīng)用運(yùn)行日志管理,定期對日志記錄進(jìn)行審計。推動形成安全風(fēng)險威脅信息共享和應(yīng)急處置機(jī)制,按照規(guī)定及時處置并報告安全事件,提升人工智能安全風(fēng)險應(yīng)對能力。

(四)嚴(yán)格落實(shí)保密要求

政務(wù)部門在模型訓(xùn)練、部署應(yīng)用等過程中應(yīng)加強(qiáng)數(shù)據(jù)安全保密和個人信息保護(hù),堅持底線思維,嚴(yán)格落實(shí)“涉密不上網(wǎng)、上網(wǎng)不涉密”等保密紀(jì)律要求,采取加裝保密“護(hù)欄”等措施,防止國家秘密、工作秘密和敏感信息等輸入非涉密人工智能大模型,防范敏感數(shù)據(jù)匯聚、關(guān)聯(lián)引發(fā)的泄密風(fēng)險。制定完善人工智能大模型在政務(wù)領(lǐng)域應(yīng)用相關(guān)保密管理制度,規(guī)范人工智能大模型選型、部署、訓(xùn)練、使用、廢止等全流程保密管理。涉密信息系統(tǒng)應(yīng)用人工智能大模型按照國家保密行政管理部門要求穩(wěn)妥推進(jìn)。

五、保障措施

(一)加強(qiáng)組織實(shí)施

加強(qiáng)統(tǒng)籌協(xié)調(diào),穩(wěn)妥有序推動人工智能大模型在政務(wù)服務(wù)、社會治理、機(jī)關(guān)辦公、輔助決策等領(lǐng)域規(guī)范應(yīng)用。加快推進(jìn)政務(wù)領(lǐng)域人工智能大模型國家標(biāo)準(zhǔn)體系建設(shè)和重點(diǎn)標(biāo)準(zhǔn)研制,明確應(yīng)用效果評估、系統(tǒng)技術(shù)要求、智能技術(shù)應(yīng)用等工作規(guī)范,支撐部署應(yīng)用取得實(shí)效。及時總結(jié)推廣政務(wù)領(lǐng)域部署應(yīng)用人工智能大模型的典型場景和創(chuàng)新應(yīng)用,推動復(fù)用增效。加強(qiáng)政務(wù)領(lǐng)域人工智能大模型部署應(yīng)用經(jīng)費(fèi)保障,引入市場化的產(chǎn)品和服務(wù)競爭機(jī)制,探索企業(yè)建設(shè)運(yùn)營、政府購買服務(wù)、按使用情況結(jié)算費(fèi)用的運(yùn)作模式,營造高效、可持續(xù)的政務(wù)大模型生態(tài)。

(二)開展監(jiān)測評估

構(gòu)建政務(wù)領(lǐng)域人工智能大模型部署應(yīng)用全流程監(jiān)測評估體系,適時開展監(jiān)測評估工作。建立政務(wù)大模型安全測評機(jī)制,上線前對模型算法、生成內(nèi)容、應(yīng)用功能、配置環(huán)境、掛接數(shù)據(jù)、漏洞風(fēng)險等進(jìn)行充分測試驗證,對發(fā)現(xiàn)的問題隱患進(jìn)行整改加固。加強(qiáng)政務(wù)領(lǐng)域人工智能大模型系統(tǒng)運(yùn)行狀態(tài)、響應(yīng)時間、準(zhǔn)確性、安全性和潛在風(fēng)險的實(shí)時監(jiān)測分析,及時發(fā)現(xiàn)問題,并采取有效措施解決。做好人工智能大模型應(yīng)用效能評價,及時總結(jié)經(jīng)驗,持續(xù)迭代優(yōu)化,推動部署應(yīng)用取得實(shí)效。

(三)做好培訓(xùn)宣傳

開發(fā)涵蓋人工智能大模型理論、技術(shù)、應(yīng)用、安全、倫理、產(chǎn)業(yè)等內(nèi)容的培訓(xùn)課程體系,開展人工智能素養(yǎng)和技能培訓(xùn),提升領(lǐng)導(dǎo)干部對人工智能的認(rèn)知水平,增強(qiáng)工作人員應(yīng)用能力和水平。面向公眾做好宣傳教育,提升全民數(shù)字素養(yǎng),積極回應(yīng)用戶關(guān)切,正確引導(dǎo)社會對政務(wù)領(lǐng)域人工智能大模型適用人群、場景、用途的認(rèn)識和預(yù)期,客觀反映人工智能大模型在優(yōu)化政務(wù)服務(wù)、滿足公眾和企業(yè)需求、提升社會治理水平等方面的作用。