習(xí)近平總書記指出,人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),深刻改變?nèi)祟惿a(chǎn)生活方式,強調(diào)要加強人工智能同社會治理的結(jié)合,運用人工智能提高公共服務(wù)和社會治理水平。在二十屆中共中央政治局第二十次集體學(xué)習(xí)時,習(xí)近平總書記再次強調(diào),要全面推進人工智能科技創(chuàng)新、產(chǎn)業(yè)發(fā)展和賦能應(yīng)用,完善人工智能監(jiān)管體制機制,牢牢掌握人工智能發(fā)展和治理主動權(quán)。
實施《智能社會發(fā)展與治理標(biāo)準(zhǔn)化指引(2025版)》(以下簡稱《指引》),是貫徹落實習(xí)近平總書記重要指示精神,推動我國智能社會發(fā)展與治理現(xiàn)代化的重要舉措。自農(nóng)業(yè)革命、工業(yè)革命、信息革命以來,人類社會正經(jīng)歷第四次技術(shù)革命。以人工智能大模型為代表的智能技術(shù)迅猛發(fā)展,以及智能技術(shù)的廣泛應(yīng)用,推動加速邁向智能社會,既創(chuàng)造了人機協(xié)同、跨界融合、共創(chuàng)分享等空前發(fā)展機遇,也深刻改變著人類的生產(chǎn)模式、生活方式與社會治理體系,人類的知識生產(chǎn)、社會信任和權(quán)威生成機制面臨深刻挑戰(zhàn),亟需超前探索智能社會的運行模式與治理體系,特別是發(fā)揮好標(biāo)準(zhǔn)化的基礎(chǔ)性、引領(lǐng)性作用,釋放智能技術(shù)對高質(zhì)量發(fā)展的增益效應(yīng),防范化解智能技術(shù)帶來的諸多風(fēng)險。
一、科學(xué)把握標(biāo)準(zhǔn)化內(nèi)涵,推進智能社會高質(zhì)量發(fā)展
作為新一輪科技革命的核心力量,智能技術(shù)對推動經(jīng)濟社會高質(zhì)量發(fā)展、增進人類福祉、提高人民生活品質(zhì)、實現(xiàn)社會治理現(xiàn)代化具有重要戰(zhàn)略意義。標(biāo)準(zhǔn)是經(jīng)濟活動和社會發(fā)展的技術(shù)支撐,是基礎(chǔ)性制度的重要方面,標(biāo)準(zhǔn)化在推進國家治理體系和治理能力現(xiàn)代化中發(fā)揮著基礎(chǔ)性、引領(lǐng)性作用?!吨敢访鞔_了“智能社會發(fā)展與治理標(biāo)準(zhǔn)化”的基本內(nèi)涵和目標(biāo),并系統(tǒng)構(gòu)建標(biāo)準(zhǔn)體系框架。
一是明確基本內(nèi)涵。“智能社會發(fā)展與治理標(biāo)準(zhǔn)化”是圍繞智能社會現(xiàn)實或潛在問題,動員社會各界力量,系統(tǒng)探究智能技術(shù)帶來的社會影響及其作用機理,制定并實施規(guī)范性標(biāo)準(zhǔn)文件的活動,體現(xiàn)以標(biāo)準(zhǔn)引領(lǐng)高質(zhì)量發(fā)展、以標(biāo)準(zhǔn)推動科學(xué)治理的鮮明特征。
二是確立工作目標(biāo)。以建立健全科學(xué)合理的智能社會發(fā)展與治理標(biāo)準(zhǔn)研究制定、實施反饋、優(yōu)化完善的工作機制,建成覆蓋智能技術(shù)主要社會應(yīng)用場景、有效保障技術(shù)全生命周期良性健康發(fā)展的標(biāo)準(zhǔn)體系為目標(biāo),切實推動技術(shù)應(yīng)用與治理實踐良性互動,保障智能社會發(fā)展與治理標(biāo)準(zhǔn)化工作落地實施。
三是系統(tǒng)構(gòu)建標(biāo)準(zhǔn)體系框架?;A(chǔ)通用標(biāo)準(zhǔn)提供統(tǒng)一語言和共同基礎(chǔ);發(fā)展與治理原則標(biāo)準(zhǔn)體現(xiàn)倫理導(dǎo)向,確保技術(shù)應(yīng)用向善;場景應(yīng)用標(biāo)準(zhǔn)聚焦于基層治理、醫(yī)療健康、養(yǎng)老、教育等重點民生領(lǐng)域;技術(shù)和方法標(biāo)準(zhǔn)規(guī)范實驗方法、社會影響分析測量技術(shù)、模擬演化技術(shù)、倫理審查和風(fēng)險管理方法;效果評價標(biāo)準(zhǔn)推動治理績效評價、綜合影響、風(fēng)險評估,為國家智能社會治理實驗基地開展長周期、跨領(lǐng)域多學(xué)科的人工智能社會實驗,加強標(biāo)準(zhǔn)體系建設(shè)和重點標(biāo)準(zhǔn)研制,持續(xù)深化智能社會發(fā)展與治理提供重要依據(jù)。
二、堅持以人民為中心,彰顯智能社會的人文價值導(dǎo)向
習(xí)近平總書記強調(diào)要確保人工智能向善、造福全人類,避免其成為“富國和富人的游戲”。《指引》明確提出智能社會發(fā)展與治理的三項基本原則,確保智能技術(shù)更好服務(wù)于民。
第一,增進福祉,注重和諧。智能技術(shù)發(fā)展必須以人民福祉為根本目標(biāo),圍繞人民群眾對美好生活的新期待,推動技術(shù)與社會融合共生,以智能技術(shù)提升公共服務(wù)質(zhì)量,促進社會公平公正,縮小城鄉(xiāng)、區(qū)域發(fā)展差距,讓人民群眾共享科技發(fā)展成果。
第二,以人為本,保障權(quán)益。這一原則體現(xiàn)了對個體基本權(quán)利的尊重與保護,強調(diào)智能社會發(fā)展必須保障人民群眾的基本權(quán)益,特別是在個人隱私、知情同意、個人安全等方面,體現(xiàn)人文關(guān)懷,防止技術(shù)異化風(fēng)險,確保智能社會中人的主體地位。
第三,包容創(chuàng)新,持續(xù)優(yōu)化。建立敏捷治理機制,推動技術(shù)安全可控、持續(xù)向善發(fā)展,營造包容開放的創(chuàng)新氛圍,讓智能技術(shù)成為普惠大眾的公共產(chǎn)品。
三、建立多層次智能技術(shù)應(yīng)用社會影響評估框架,有效應(yīng)對智能社會變革挑戰(zhàn)
智能技術(shù)的應(yīng)用及其影響具有復(fù)雜性和多層次性,涉及個體、組織、行業(yè)乃至社會系統(tǒng)。《指引》從微觀個體、中觀組織、宏觀社會三個層次,創(chuàng)新性構(gòu)建了完整的社會影響評估體系,包括明確了智能技術(shù)作用的主要場景,可能產(chǎn)生的社會影響,及其觀測評估指標(biāo)。
微觀個體層面,在自動駕駛、智能家居、智能客服等場景中,智能技術(shù)對個人的心理狀態(tài)、行為模式、價值觀念、社會關(guān)系等方面的影響尤為突出。《指引》提出從個體行為與個體感知兩方面進行觀測,強調(diào)對個體層面的精細化治理,確保技術(shù)應(yīng)用體現(xiàn)人文關(guān)懷。
中觀組織行業(yè)層面,在教育、醫(yī)療、金融等場景下,智能技術(shù)對企業(yè)運行、產(chǎn)業(yè)組織和就業(yè)形態(tài)產(chǎn)生深刻影響,包括平臺經(jīng)濟迅猛發(fā)展,傳統(tǒng)的單位制逐漸解構(gòu),靈活就業(yè)群體大量涌現(xiàn),經(jīng)濟運行和社會治理面臨轉(zhuǎn)型?!吨敢诽岢鼋?jīng)濟效益、組織治理、行業(yè)協(xié)同等指標(biāo),有助于觀測智能技術(shù)賦能組織轉(zhuǎn)型與行業(yè)發(fā)展,提升社會韌性。
宏觀社會層面,在數(shù)字政府、智慧城市、數(shù)字鄉(xiāng)村建設(shè)、智能應(yīng)急管理等場景中,智能技術(shù)通過提升政府治理效能、公共服務(wù)質(zhì)量,支撐宏觀經(jīng)濟穩(wěn)定和區(qū)域協(xié)調(diào)發(fā)展?!吨敢窂娬{(diào)了宏觀層面的政府治理效率、公共服務(wù)質(zhì)量、社會輿論生態(tài)等關(guān)鍵觀測指標(biāo),尤其強調(diào)防范新興媒介操縱、AI深度偽造所帶來的社會治理風(fēng)險,體現(xiàn)了對智能社會整體生態(tài)的系統(tǒng)性治理思維。
四、開展人工智能社會實驗,夯實智能社會發(fā)展與治理科學(xué)基礎(chǔ)
中央網(wǎng)信辦會同國家發(fā)展改革委、教育部、生態(tài)環(huán)境部、國家衛(wèi)生健康委、市場監(jiān)管總局等7部委,在全國設(shè)立92家智能社會治理實驗基地,探索智能社會發(fā)展與治理的中國方案。依托人工智能社會實驗,有效評估智能技術(shù)應(yīng)用的社會效用,精準(zhǔn)識別智能技術(shù)應(yīng)用的潛在風(fēng)險,及時總結(jié)優(yōu)化治理方案,是提煉形成智能社會發(fā)展與治理標(biāo)準(zhǔn)的關(guān)鍵路徑。
《指引》明確了人工智能社會實驗的一般程序和要求。第一,明確了操作依據(jù),確保實驗科學(xué)、合規(guī)、符合倫理要求。在實驗準(zhǔn)備階段,應(yīng)選取具有典型代表性的技術(shù)和應(yīng)用場景,明確應(yīng)用主體、研究主體、技術(shù)主體等不同類型建設(shè)主體分工,設(shè)計實驗方案,制定倫理風(fēng)險預(yù)警機制和應(yīng)急預(yù)案。第二,明確了如何確保實驗過程嚴謹、有序,實驗結(jié)果客觀、可靠。在實驗開展階段選取科學(xué)的測量要素,明確清晰的測量指標(biāo),設(shè)置規(guī)范的科學(xué)抽樣與分組,進行數(shù)據(jù)收集和處理,開展恰當(dāng)?shù)亩ㄐ曰蚨糠治?。第三,明確了如何推動實驗成果向治理方案的有效轉(zhuǎn)化。在實驗反饋階段形成技術(shù)標(biāo)準(zhǔn)、技術(shù)規(guī)范、政策建議等實驗成果,對實驗過程和成效進行評價,在實驗結(jié)果中發(fā)現(xiàn)和形成智能技術(shù)賦能社會發(fā)展與治理的經(jīng)驗與政策建議。
發(fā)揮標(biāo)準(zhǔn)化的基礎(chǔ)性、引領(lǐng)性作用,推動智能社會的發(fā)展,開展智能社會的治理,確保智能社會包容向善發(fā)展,是一項重要且緊迫的時代命題?!吨敢诽岢鲋悄苌鐣l(fā)展與治理標(biāo)準(zhǔn)化工作的基本路線和方法,科學(xué)提出觀測方法與標(biāo)準(zhǔn)體系,是回應(yīng)時代需求的關(guān)鍵舉措,彰顯人文價值關(guān)懷與導(dǎo)向。社會各界應(yīng)堅定信心、攜手同行,推動智能社會發(fā)展、參與智能社會治理,強化《指引》的導(dǎo)向作用,加快構(gòu)筑有人文溫度的智能社會,共同探索智能社會文化與文明的中國方案,邁向更加美好、和諧的數(shù)字未來。(作者:蘇竣,清華大學(xué)智能社會治理研究院院長、公共管理學(xué)院教授,全國智能技術(shù)社會應(yīng)用與評估基礎(chǔ)標(biāo)準(zhǔn)化工作組主任委員)