國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局近日發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（下稱(chēng)《辦法》），對(duì)生成式人工智能服務(wù)進(jìn)行了框架性規(guī)范?！掇k法》自2023年8月15日起施行。

包容審慎、分類(lèi)分級(jí)監(jiān)管

生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

《辦法》明確，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管，要求國(guó)家有關(guān)主管部門(mén)針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類(lèi)分級(jí)監(jiān)管規(guī)則或者指引。

在促進(jìn)發(fā)展具體措施上，《辦法》明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系；支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專(zhuān)業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作。

《辦法》還鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開(kāi)展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定；推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)。

“生成式人工智能技術(shù)將帶來(lái)最重要的一次生產(chǎn)力革命。從這個(gè)角度來(lái)講，中國(guó)亟須加快發(fā)展?！掇k法》強(qiáng)調(diào)保護(hù)、鼓勵(lì)創(chuàng)新，這樣的管理思路很有必要。”中國(guó)電子商會(huì)元宇宙專(zhuān)委會(huì)副理事長(zhǎng)刑杰對(duì)上海證券報(bào)記者說(shuō)。

使用具有合法來(lái)源的數(shù)據(jù)

雖然生成式人工智能技術(shù)正在或即將引發(fā)生產(chǎn)力變革，但其產(chǎn)生的風(fēng)險(xiǎn)和挑戰(zhàn)不容忽視。

《辦法》要求，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。

《辦法》還提出，提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)堅(jiān)持社會(huì)主義核心價(jià)值觀；在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過(guò)程中，采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視。

同時(shí)，《辦法》要求提供和使用生成式人工智能服務(wù)要尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密；尊重他人合法權(quán)益；基于服務(wù)類(lèi)型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

科技企業(yè)須守好“安全底線”

防止生成式人工智能濫用，在充分發(fā)揮政府監(jiān)管職能的同時(shí)，也需科技企業(yè)提前布局，發(fā)揮技術(shù)能力守住“安全底線”。

《辦法》要求采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)。

《辦法》規(guī)定提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。明確提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取有關(guān)處置措施，保存有關(guān)記錄，并向有關(guān)主管部門(mén)報(bào)告。

“比如信息檢測(cè)技術(shù)，國(guó)外已經(jīng)布局，我們的安全技術(shù)專(zhuān)家、安全技術(shù)企業(yè)也應(yīng)盡快提出相應(yīng)的技術(shù)方案。”中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)張衛(wèi)明認(rèn)為，要實(shí)施更全面的人工監(jiān)管，時(shí)刻關(guān)注技術(shù)的安全性，確保其不會(huì)被濫用，才能充分發(fā)揮人工智能的潛力。