原標(biāo)題：七部門聯(lián)手！首個(gè)生成式AI監(jiān)管文件將實(shí)施，釋放了哪些信號(hào)？
爆火的生成式AI產(chǎn)業(yè)正式迎來(lái)首個(gè)監(jiān)管文件。
繼今年4月網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》公開(kāi)征求意見(jiàn)后，7月13日，網(wǎng)信辦等七部門正式發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（下文簡(jiǎn)稱“《辦法》”），該辦法自2023年8月15日起施行。
國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)《辦法》，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。
生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。以O(shè)penAI發(fā)布的ChatGPT為代表的生成式人工智能，正在激發(fā)包括微軟、谷歌、Meta、百度、阿里巴巴等國(guó)內(nèi)外科技巨頭以及創(chuàng)業(yè)者的新一輪“AI軍備競(jìng)賽”。
最新出臺(tái)的《辦法》共24條，從生成式人工智能服務(wù)提供者的算法設(shè)計(jì)與備案、訓(xùn)練數(shù)據(jù)、模型，到用戶隱私、商業(yè)秘密的保護(hù)，監(jiān)督檢查和法律責(zé)任等方面提出了相關(guān)要求。同時(shí)《辦法》中明確了對(duì)生成式AI產(chǎn)業(yè)的支持和鼓勵(lì)態(tài)度。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括對(duì)第一財(cái)經(jīng)記者表示，對(duì)于生成式人工智能相關(guān)監(jiān)管文件出臺(tái)速度快，體現(xiàn)了與技術(shù)發(fā)展和應(yīng)用態(tài)勢(shì)的同步推動(dòng)，反映了中國(guó)網(wǎng)絡(luò)監(jiān)管、數(shù)字監(jiān)管日益成熟和敏捷高效的演進(jìn)態(tài)勢(shì)。
多位從業(yè)者對(duì)第一財(cái)經(jīng)表示，《辦法》強(qiáng)調(diào)了落地的可執(zhí)行性，體現(xiàn)了風(fēng)險(xiǎn)防范、風(fēng)險(xiǎn)應(yīng)對(duì)和風(fēng)險(xiǎn)管理的基本思路，它的實(shí)施對(duì)推動(dòng)產(chǎn)業(yè)發(fā)展有重要的意義，為生成式人工智能的發(fā)展創(chuàng)造了良好的創(chuàng)新生態(tài)。
釋放哪些監(jiān)管信號(hào)？
吳沈括對(duì)第一財(cái)經(jīng)記者表示，今天出臺(tái)的《辦法》在三個(gè)方面尤為突出：一是強(qiáng)調(diào)了AIGC的分類分級(jí)管理機(jī)制，突出了針對(duì)不同風(fēng)險(xiǎn)類型后續(xù)引入相關(guān)監(jiān)管機(jī)制的思路；二是注重AIGC產(chǎn)業(yè)生態(tài)的培育，特別是關(guān)于算力資源共享以及預(yù)訓(xùn)練公共數(shù)據(jù)平臺(tái)的建設(shè)問(wèn)題；三是辦法強(qiáng)調(diào)了國(guó)內(nèi)外的交流合作，在適用范圍上，針對(duì)境外、境內(nèi)提供服務(wù)以及不向境內(nèi)提供服務(wù)的業(yè)務(wù)類型做了區(qū)分，明確了辦法的適用范圍。
第一財(cái)經(jīng)梳理對(duì)比發(fā)現(xiàn)，與此前的《征求意見(jiàn)稿》相比，今日發(fā)布的《辦法》新增多處對(duì)于生成式人工智能服務(wù)的相關(guān)鼓勵(lì)。
例如，在第二章技術(shù)發(fā)展與治理的第五條與第六條，都提到了要鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系。此外，還鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開(kāi)展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定。
《辦法》還提到，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。
在業(yè)界尤為關(guān)注的算力方面，《辦法》也提及，推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。
在服務(wù)商準(zhǔn)入方面，《辦法》還提到，對(duì)于外商投資生成式人工智能服務(wù)的，應(yīng)當(dāng)符合外商投資相關(guān)法律、行政法規(guī)的規(guī)定。
對(duì)于生成內(nèi)容的真實(shí)可靠性問(wèn)題，相比《征求意見(jiàn)稿》，《辦法》的說(shuō)法有了一定調(diào)整。
“一本正經(jīng)胡說(shuō)八道”是業(yè)界對(duì)于生成式人工智能詬病較多的問(wèn)題。《征求意見(jiàn)稿》中提到，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息；此次《辦法》則更新為，為了基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。
此外，《辦法》還提到對(duì)于網(wǎng)信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門，要依據(jù)各自職責(zé)依法加強(qiáng)對(duì)生成式人工智能服務(wù)的管理。
業(yè)界人士對(duì)記者指出，《辦法》體現(xiàn)了一定的容錯(cuò)機(jī)制，更符合實(shí)際，提升了執(zhí)行的可行性。
“很多應(yīng)用領(lǐng)域是可以容忍不完美的大模型，比如游戲里某個(gè)英雄胡子長(zhǎng)一點(diǎn)、短一點(diǎn)，說(shuō)錯(cuò)一句話，偶爾犯錯(cuò)可能無(wú)傷大雅；但有些領(lǐng)域非常關(guān)鍵，是不能容忍犯錯(cuò)的，比如新聞搜索、政府網(wǎng)站或者是醫(yī)療教育相關(guān)，這些領(lǐng)域未來(lái)需要解決大模型犯錯(cuò)的問(wèn)題。”有大模型從業(yè)者這樣表示。
對(duì)于未成年人的保護(hù)，《辦法》的內(nèi)容也進(jìn)行了著重強(qiáng)調(diào)。
此前《征求意見(jiàn)稿》提到，采取適當(dāng)措施防范用戶過(guò)分依賴或沉迷生成內(nèi)容；此次《辦法》則更新為，采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù)。
在圍繞對(duì)于生成式人工智能的監(jiān)督方面，《辦法》還提到，有關(guān)主管部門依據(jù)職責(zé)對(duì)生成式人工智能服務(wù)開(kāi)展監(jiān)督檢查，提供者應(yīng)當(dāng)依法予以配合，按要求對(duì)訓(xùn)練數(shù)據(jù)來(lái)源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說(shuō)明，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。
對(duì)于個(gè)人隱私、商業(yè)秘密等保護(hù)，《辦法》中有多條涉及相關(guān)內(nèi)容，例如參與生成式人工智能服務(wù)安全評(píng)估和監(jiān)督檢查的相關(guān)機(jī)構(gòu)和人員對(duì)在履行職責(zé)中知悉的國(guó)家秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息應(yīng)當(dāng)依法予以保密，不得泄露或者非法向他人提供等等。
產(chǎn)業(yè)影響幾何？
中國(guó)電子云副總裁李樹(shù)翀看到《辦法》的第一反應(yīng)是：“正當(dāng)時(shí)！”。他對(duì)第六條中提到的“鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新”頗有感觸。“如今英偉達(dá)已經(jīng)一卡難求，再不能讓大模型卡住正被重塑的計(jì)算體系。” 他告訴第一財(cái)經(jīng)。
此外他還表示，《辦法》將規(guī)范“大模型”行業(yè)應(yīng)用與場(chǎng)景落地，讓AI技術(shù)更好的服務(wù)經(jīng)濟(jì)和產(chǎn)業(yè)高質(zhì)量發(fā)展。
商湯科技智能產(chǎn)業(yè)研究院院長(zhǎng)田豐對(duì)第一財(cái)經(jīng)記者評(píng)價(jià)，《辦法》有著全球AI2.0治理引領(lǐng)性、落地可執(zhí)行性，并對(duì)推動(dòng)產(chǎn)業(yè)發(fā)展有重要的意義。
達(dá)觀數(shù)據(jù)CEO陳運(yùn)文對(duì)第一財(cái)經(jīng)記者表示：“行業(yè)發(fā)展接下來(lái)會(huì)逐步規(guī)范。這個(gè)《辦法》的出臺(tái)對(duì)生成式大模型服務(wù)起了引導(dǎo)作用，生成式AI技術(shù)很新也很熱，接下來(lái)落地發(fā)展要靠這個(gè)制度來(lái)引導(dǎo)。”
還有一位從業(yè)者表示，這一《辦法》重視防范風(fēng)險(xiǎn)的同時(shí)，也體現(xiàn)了一定的容錯(cuò)和糾錯(cuò)機(jī)制，努力實(shí)現(xiàn)規(guī)范與發(fā)展的動(dòng)態(tài)平衡。
對(duì)于《辦法》中提到的安全、可信、監(jiān)管等話題，此前也引起了不少大模型從業(yè)者的重視與討論。
百度董事長(zhǎng)李彥宏不久前表示，只有建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德，才能營(yíng)造良好的創(chuàng)新生態(tài)。
360創(chuàng)始人周鴻祎則提到，要打造“安全可信、可控易用”的專有大模型。他提出，模型實(shí)現(xiàn)“安全可控”的關(guān)鍵在于要堅(jiān)持“輔助模式”，將大模型定位為企業(yè)和員工的助手，作為“副駕駛”角色提供幫助，讓人的意志在整個(gè)決策回路中起到關(guān)鍵作用。
阿里云智能集團(tuán)董事長(zhǎng)兼首席執(zhí)行官?gòu)堄乱脖硎荆?ldquo;構(gòu)建安全可信的人工智能”逐步成為行業(yè)共識(shí)，相關(guān)法律法規(guī)正在完善，為技術(shù)和產(chǎn)業(yè)的可持續(xù)發(fā)展培育了良好的土壤與環(huán)境。“創(chuàng)新中有很多不確定性，有些可以預(yù)判在前，防患于未然；有的問(wèn)題在發(fā)展中出現(xiàn)，需要邊發(fā)展邊解決，用發(fā)展去解決。”
全球醞釀監(jiān)管措施
不只在中國(guó)，類ChatGPT的生成式人工智能（AIGC）大模型引發(fā)資本競(jìng)逐，各國(guó)對(duì)于AIGC合規(guī)性的重視正在推動(dòng)相應(yīng)的監(jiān)管措施出臺(tái)。
歐洲一直走在人工智能監(jiān)管的前沿。今年5月，歐盟議會(huì)已經(jīng)批準(zhǔn)了首個(gè)全面的人工智能法案。“我們希望人工智能系統(tǒng)準(zhǔn)確、可靠、安全且無(wú)歧視，無(wú)論其來(lái)源如何。”歐盟委員會(huì)主席烏爾蘇拉·馮德萊恩5月19日表示。
同樣是在今年5月日本召開(kāi)的七國(guó)集團(tuán)（G7）領(lǐng)導(dǎo)人峰會(huì)上，成員國(guó)領(lǐng)導(dǎo)人承認(rèn)需要對(duì)人工智能和沉浸式技術(shù)進(jìn)行治理，并提出在今年年底之前創(chuàng)建一個(gè)專門討論人工智能進(jìn)展的部長(zhǎng)級(jí)論壇，討論圍繞生成式人工智能的問(wèn)題，例如版權(quán)和打擊虛假信息。
英國(guó)競(jìng)爭(zhēng)監(jiān)管機(jī)構(gòu)今年5月也表示，將開(kāi)始審查人工智能對(duì)消費(fèi)者、企業(yè)和經(jīng)濟(jì)的影響，以及是否需要新的監(jiān)管措施。
愛(ài)爾蘭數(shù)據(jù)保護(hù)負(fù)責(zé)機(jī)構(gòu)今年4月表示，生成式人工智能需要受到監(jiān)管，但管理機(jī)構(gòu)必須在倉(cāng)促實(shí)施“確實(shí)站不住腳”的禁令之前弄清楚如何正確監(jiān)管。
美國(guó)商務(wù)部下屬的國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院6月表示，將成立一個(gè)由生成式人工智能專家志愿者組成的公共工作組，以幫助抓住人工智能帶來(lái)的行業(yè)機(jī)遇并制定應(yīng)對(duì)其風(fēng)險(xiǎn)的指導(dǎo)。美國(guó)聯(lián)邦貿(mào)易委員會(huì)5月表示，該機(jī)構(gòu)致力于利用現(xiàn)有法律來(lái)控制人工智能的風(fēng)險(xiǎn)。
日本隱私監(jiān)管機(jī)構(gòu)6月表示，已警告OpenAI不得在未經(jīng)公眾許可的情況下收集敏感數(shù)據(jù)。日本預(yù)計(jì)將在2023年底之前出臺(tái)監(jiān)管措施，這些監(jiān)管措施可能更接近美國(guó)的態(tài)度，而不是歐盟計(jì)劃的嚴(yán)格監(jiān)管措施，因?yàn)槿毡鞠Ｍ@項(xiàng)技術(shù)能夠促進(jìn)經(jīng)濟(jì)增長(zhǎng)，并使其成為先進(jìn)芯片的領(lǐng)導(dǎo)者。
聯(lián)合國(guó)秘書長(zhǎng)安東尼奧·古特雷斯6月12日支持一些人工智能高管提出的建立像國(guó)際原子能機(jī)構(gòu)這樣的人工智能監(jiān)管機(jī)構(gòu)的提議。古特雷斯還宣布計(jì)劃在今年年底前啟動(dòng)高級(jí)別人工智能咨詢機(jī)構(gòu)的工作，定期審查人工智能治理安排并提出建議。
面對(duì)生成式人工智能的全球監(jiān)管趨勢(shì)，吳沈括對(duì)第一財(cái)經(jīng)記者表示，面對(duì)新技術(shù)新應(yīng)用，需要持續(xù)地探索一套敏捷高效的監(jiān)管機(jī)制和監(jiān)管方式，最大限度地及時(shí)應(yīng)對(duì)和處置伴生的各種風(fēng)險(xiǎn)類型。此外也需要持續(xù)地構(gòu)建和完善一套經(jīng)濟(jì)、便利、可行的合規(guī)指引，使各方主體有清晰的合規(guī)標(biāo)準(zhǔn)和指向。
“良好的生態(tài)治理也需要各方最大限度地凝聚共識(shí)，在更大范圍內(nèi)形成有關(guān)新技術(shù)、新應(yīng)用的治理的價(jià)值共同點(diǎn)以及共同認(rèn)可的行為準(zhǔn)則。”他說(shuō)。
可以說(shuō)，每一次技術(shù)革命都伴隨著帶來(lái)巨大的機(jī)遇和風(fēng)險(xiǎn)。對(duì)于生成式人工智能而言，只有建立起真實(shí)的用戶調(diào)用和模型迭代之間的飛輪，AI模型才能變得越來(lái)越聰明，而如何在政策監(jiān)管和技術(shù)發(fā)展之間找到平衡也考驗(yàn)著全球的監(jiān)管機(jī)構(gòu)。（記者樊雪寒對(duì)本文亦有貢獻(xiàn)） |
