以 ChatGPT 為代表的生成式 AI 橫空出世，層出不窮的新鮮應(yīng)用充斥在大眾視野里。AI 孫燕姿的歌聲剛落下，AI 已經(jīng)把高考作文從 0 分寫到高分，緊接著妙鴨相機的 AI 拍照小程序就火爆全網(wǎng)。這些 AI 應(yīng)用激起了一系列擔憂：AI 在未來是否會讓自己下崗，AI 的創(chuàng)作是不是在抄襲……而更危險的犯罪事件已經(jīng)出現(xiàn)，有人利用智能換臉和擬聲技術(shù)，假扮他人好友騙錢。

(資料圖)

面對生成式 AI 帶來的機遇和挑戰(zhàn)，各國對如何監(jiān)管 AI 有不同的意見。中國、美國、歐盟等國家或地區(qū)迅速做出反應(yīng)，而新加坡、印度則宣稱，暫時不打算監(jiān)管 AI。

8 月 15 日，中國的《生成式人工智能服務(wù)管理暫行辦法》（下稱“辦法”）正式施行，這被認為是全球首部生成式 AI 立法。澎湃新聞對比了五個主要國家或地區(qū)最新推出的 AI 管理規(guī)范，發(fā)現(xiàn)多數(shù)文件不只是針對生成式 AI，而是涵蓋更大范圍的 AI；這些 AI 文件的力度和側(cè)重點有明顯不同，如歐盟對倫理和能源較為重視，中國更強調(diào)提供者的責任等。

AI 詐騙事件漸起

為何要監(jiān)管生成式 AI，或者說更大范疇里的 AI？

如果對比 AI 與人類的能力，我們會發(fā)現(xiàn) AI 已經(jīng)在逐漸超越人類。一篇研究自然語言基準評估的論文預(yù)印本顯示，十年前，還沒有 AI 能擁有等同于人類水平的語言或圖像識別能力，但到了 2020 年，AI 的能力已經(jīng)能在所有領(lǐng)域的測試中擊敗人類。

而生成式 AI 的能力，在不法分子的使用下，將更具有強大的破壞力。據(jù)中國公安部，2020 年以來就破獲 79 起“AI 換臉”的犯罪案件。

今年 5 月，受害者郭先生接到了“好友”的微信視頻電話，對方稱外地投標需要 430 萬元。郭先生在視頻中確認好友面孔和聲音后，放松了戒備，最終上當受騙。

在美國，還發(fā)生了一場虛擬綁架騙局。受害者接到一通匿名電話，電話中傳來其女兒的哭泣尖叫聲。一名男子威脅受害者寄給自己 100 萬美金。

“這顯然是她的聲音?！笔芎φ咴诮邮芡饷讲稍L時表示，哭聲與抽泣讓她被這場騙局動搖了，因為自己女兒平時內(nèi)向、克制，不是一個愛哭、愛尖叫的人。她不知道對方是怎樣得到了這段聲音。

“生成式 AI 具有價值觀屬性，一旦生成式 AI 模型在訓練過程中引入偏見歧視等有害信息，在模型實際應(yīng)用中很可能呈現(xiàn)放大化輸出。另外，生成式 AI 具備可引導(dǎo)性，在與人類‘對齊’的訓練環(huán)節(jié)中不斷趨近人類偏好，但同時也存在被不法分子惡意利用的風險?！蔽髂险ù髮W人工智能法學院副院長、教授馮子軒告訴澎湃新聞。

歐盟的 AI 法案涉及面最廣，提出環(huán)保要求

AI 的挑戰(zhàn)已然來臨，部分國家或地區(qū)開始作出反應(yīng)。

目前只有中國正式通過了專門針對生成式 AI 的立法，其他國家或地區(qū)多是針對廣義 AI 的相關(guān)規(guī)范——其中多數(shù)是指導(dǎo)性文件。歐盟已經(jīng)通過《AI 法案》的草案，但距離正式生效還有數(shù)年；美國發(fā)布了 AI 風險管理框架，后續(xù)成立了生成式 AI 治理小組；英國發(fā)布《AI 監(jiān)管：一個支持創(chuàng)新的方式》，并征求公眾意見。

澎湃新聞梳理和對比了五個國家或地區(qū)最新推出的 AI 管理規(guī)范，以此觀察各國的監(jiān)管方向和策略。我們發(fā)現(xiàn)，中國和歐盟的管理規(guī)范較嚴格，涉及維度更廣，比如中國對數(shù)據(jù)標注有明確要求：“在生成式人工智能技術(shù)研發(fā)過程中進行數(shù)據(jù)標注的，提供者應(yīng)當制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則”。

歐盟還有針對 AI 能耗環(huán)保問題的條例，如“利用適用的標準來降低能源使用、資源使用和浪費，以增加能源效率和系統(tǒng)整體效率”。

今年六月，歐盟正式批準通過《AI 法案》草案，盡管該法案尚未正式生效，但其提出的治理方式也為其他國家或地區(qū)提供了參考，比如歐盟提出了分類分級管理，將 AI 系統(tǒng)分為不可接受的風險、高風險、有限風險和極低風險等四種風險類型，針對不同的風險系統(tǒng)會有不同的監(jiān)管措施。

不過，這些細則的落地仍有待進一步的探討?！半m然歐盟《AI 法案》提出的分類分級管理在一定程度上可供參考，但是生成式 AI 服務(wù)的分類按什么維度去分類？分級要分成幾級？相關(guān)的細則、標準仍然需要進一步通過實踐來制定?！鄙虾?shù)據(jù)交易所研究員林梓瀚告訴澎湃新聞。

目前，歐盟嚴格的 AI 管理規(guī)范還遭到企業(yè)的抗議。據(jù)法新社報道，超 150 個企業(yè)發(fā)出警告，認為歐盟的《AI 法案》可能會損害歐洲的競爭力。

相比之下，美國、英國、韓國的管理較為寬松，韓國在 12 個細分維度里只涉及了 4 個，更多是抱持著讓 AI 行業(yè)自由發(fā)展的態(tài)度。西雅圖華盛頓大學技術(shù)政策實驗室的創(chuàng)始聯(lián)合主任瑞安·卡洛（Ryan Calo）認為美國的全國性 AI 管理文件只是“表面上的行動，但沒有任何實質(zhì)性和約束力”。

此外，由于這些規(guī)范多是針對廣義的 AI，因此暫時較少涉及生成式 AI 爭議較多的兩個方面——AI 版權(quán)和 AI 生成標識。起初，歐盟的《AI 法案》幾乎沒有提到聊天機器人，僅要求對其進行標記，以便用戶知道他們正在與機器進行交互，后續(xù)在修訂中又補充了要求徹底記錄任何用于訓練 AI 的版權(quán)材料，以方便內(nèi)容創(chuàng)作者決定是否追求賠償。

“傳統(tǒng)算法應(yīng)用的處理模式與應(yīng)用場景相對固定，有較為明確的服務(wù)邊界，但生成式 AI 應(yīng)用場景更為豐富，如 ChatGPT 產(chǎn)品幾乎可以處理自然語言領(lǐng)域的所有任務(wù)，如果延續(xù)針對固定用途信息服務(wù)的管理思路，將難以充分切合實際監(jiān)管需求。”馮子軒說，她認為《辦法》契合新技術(shù)新特性，有針對性地進行制度設(shè)計。

規(guī)制還是發(fā)展 AI？不同國家的選擇不同

具體到《辦法》的細則，中國在生成式 AI 監(jiān)管方面有自己的特色設(shè)定，比如強調(diào)內(nèi)容治理方面的制度建設(shè)和積極引導(dǎo)、強調(diào)生成式 AI 提供者的責任。

“對生成式 AI 服務(wù)提供者要求依法承擔網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責任，這是一個比較創(chuàng)新的界定，也會對實踐造成一些挑戰(zhàn)和爭議，核心命題在于 AI 生成的內(nèi)容，和以往人工控制的過程，會呈現(xiàn)一些新的不一定完全可以控制的特點，對于這點的內(nèi)容治理要求，是否應(yīng)該提供更多的容錯、糾錯空間，是值得后續(xù)進一步探索和研究的問題?！敝袊鐣茖W院大學互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春告訴澎湃新聞。

除了對內(nèi)容治理的要求，保障訓練數(shù)據(jù)的合法性和質(zhì)量問題也是一個難點。林梓瀚認為，場外數(shù)據(jù)交易的來源合法性難以保障，公共數(shù)據(jù)以及企業(yè)系統(tǒng)生成的數(shù)據(jù)質(zhì)量也存在瑕疵，相關(guān)的司法案件頻發(fā)，一定程度上加劇了企業(yè)的合規(guī)風險。

企業(yè)如何按照《辦法》要求來保障訓練數(shù)據(jù)質(zhì)量和用戶隱私？擁有自研語言大模型“大象 GPT”的印象筆記告訴澎湃新聞，“大象 GPT”訓練的數(shù)據(jù)除了來自公共數(shù)據(jù)集之外，還包含來自印象筆記的自有公開數(shù)據(jù)集，即用戶主動授權(quán)的公開收藏內(nèi)容及主動發(fā)布的內(nèi)容。這些數(shù)據(jù)還會經(jīng)過進一步的“清洗” 和“增強”，與公共數(shù)據(jù)集相比，保證了數(shù)據(jù)的多樣化和高質(zhì)量, 與知識管理領(lǐng)域更深度相關(guān)，因此也更有助于專有模型的訓練和優(yōu)化。

“為了保護用戶的隱私，除了用戶必要的授權(quán)之外，我們還會對數(shù)據(jù)進行脫敏處理，利用模型識別可能存在的任何個人可識別信息（PII， Personally Identifiable Information） 并加以去除或替換，確保數(shù)據(jù)中不包含任何可以識別個人身份的信息?！庇∠蠊P記說。

盡管包括中國在內(nèi)的部分國家或地區(qū)在規(guī)制生成式 AI 的路上前進，但還有另一部分國家表示暫時不想監(jiān)管 AI。

“我們目前沒有考慮監(jiān)管人工智能。在這個階段，很明顯我們希望能夠向行業(yè)學習。在我們決定是否需要從監(jiān)管方面做更多工作之前，要先了解人工智能的使用方式?！毙录悠滦畔⑼ㄐ琶襟w發(fā)展局（IMDA）可信人工智能和數(shù)據(jù)主管李婉詩（Lee Wan Sie）接受 CNBC 采訪時說。

印度持有類似觀點。印度信息技術(shù)部部長阿什溫尼·瓦什納（Ashwini Vaishnaw）在今年 4 月時稱，政府目前并未考慮出臺任何法律來規(guī)范 AI 在印度的發(fā)展。

如此不同的 AI 治理理念，與當?shù)氐娜丝诮Y(jié)構(gòu)、產(chǎn)業(yè)結(jié)構(gòu)和社會規(guī)范等都有關(guān)系。清華大學公共管理學院教授、院長朱旭峰在其《人工智能治理的全球版圖》演講中提出，日本積極發(fā)展 AI 的戰(zhàn)略考慮之一就是，AI 可以通過替代自動化崗位、提供適老服務(wù)等來較好地緩解老齡化挑戰(zhàn)，而印度的限制性法律歷經(jīng)反復(fù)修改，仍在撤回與修訂中，這與大型科技公司的游說影響密不可分。

關(guān)鍵詞：