近日,國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》公開征求意見,引起業(yè)界關(guān)注。生成式人工智能,即AIGC,是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。近來火爆出圈的ChatGPT等應(yīng)用就屬于AIGC范疇。對希望參與AIGC大潮的企業(yè)來說,征求意見稿透露了哪些玄機?
首先是明確了發(fā)展前景。AIGC爭議頗多。人工智能生成的各種假新聞?wù)掌诰W(wǎng)上流傳,人們一邊驚詫于AIGC技術(shù)的進步之快,一邊擔(dān)心這些過于逼真的假照片假視頻會不會讓人真假難辨。ChatGPT用戶數(shù)據(jù)泄露事件也一再發(fā)生,部分國家已經(jīng)對ChatGPT數(shù)據(jù)安全問題進行調(diào)查,甚至下達使用禁令。但AlGC技術(shù)具備廣泛應(yīng)用前景和發(fā)展?jié)摿,禁用不是問題最好的解決方案,一禁了之更像是潑洗澡水的時候連孩子一起倒掉。
對AIGC這樣快速發(fā)展的新技術(shù)新應(yīng)用來說,各類風(fēng)險顯而易見,入局企業(yè)尤其擔(dān)心重金投入后遭遇政策風(fēng)險導(dǎo)致投資損失。首個AIGC管理辦法公開征求意見,本身就是一個重大信號,說明我國非常重視此輪AI發(fā)展所引領(lǐng)的科技變革,期待促進AIGC技術(shù)的健康發(fā)展。
其次是明確了合規(guī)重點。目前中國市場上多家科技巨頭企業(yè)正相繼入局AIGC,選擇此時發(fā)出規(guī)范管理的信號,體現(xiàn)了政府提前研判介入監(jiān)管、防患于未然的工作思路,有助于企業(yè)及早構(gòu)建合規(guī)解決方案、布局必要的合規(guī)機制和工具,可以有效降低內(nèi)容生成領(lǐng)域“先污染后治理”的社會風(fēng)險。
征求意見稿的具體細則,體現(xiàn)了我國從權(quán)益保護、數(shù)據(jù)治理、內(nèi)容治理等多個維度進行綜合治理的初衷。細則強調(diào)了安全評估和算法備案的前提性和必要性,明確了數(shù)據(jù)安全和個人信息保護的責(zé)任承擔(dān)方和相關(guān)處罰措施,也為新技術(shù)開發(fā)保留了必要的容錯空間。比如出現(xiàn)不合規(guī)的生成內(nèi)容時不會一棒子打死,平臺除采取內(nèi)容過濾等措施外,應(yīng)在3個月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止問題再次發(fā)生。有了這些明確規(guī)范,產(chǎn)品開發(fā)方就可以探索在規(guī)范的框架下設(shè)計更加安全和可解釋的AIGC,從技術(shù)層面降低潛在違規(guī)風(fēng)險。
此外,征求意見稿中也明確了相關(guān)法律權(quán)益。比如,AIGC令人驚嘆的內(nèi)容生成能力是被海量人類作品“喂養(yǎng)”出來的,過去這些訓(xùn)練數(shù)據(jù)很多都未經(jīng)原創(chuàng)者授權(quán),侵犯了他們的知識產(chǎn)權(quán)。征求意見稿要求提供者對AIGC產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負責(zé),明確了版權(quán)方內(nèi)容資源在AIGC產(chǎn)品訓(xùn)練中的法律權(quán)益,顯然是對版權(quán)方的重大利好,IP及內(nèi)容、數(shù)據(jù)產(chǎn)業(yè)將獲得分享AIGC紅利的機遇。
當(dāng)然,與新技術(shù)開發(fā)幾乎同步的監(jiān)管規(guī)范,必將隨著技術(shù)發(fā)展和時代變遷而更新調(diào)整。此次AIGC管理辦法的征求意見稿是開局的第一步,它將促進AIGC產(chǎn)業(yè)健康可持續(xù)發(fā)展。無規(guī)矩不成方圓,AIGC有規(guī)范才有美好未來。 (本文來源:經(jīng)濟日報 作者:佘惠敏)
(責(zé)任編輯:王炬鵬)