界面新聞?dòng)浾?| 劉子象

歐盟的人工智能法案距離生效只差臨門一腳。

當(dāng)?shù)貢r(shí)間周三，歐洲議會(huì)以499票贊成、28票反對(duì)的壓倒性結(jié)果通過了《人工智能法案》草案，為最終落地生效掃清了一個(gè)關(guān)鍵障礙。接下來的程序?qū)⑦M(jìn)入成員國、歐洲議會(huì)和歐盟委員會(huì)的三方談判。在此過程中，最終文本的法案可能會(huì)有一些措辭方面的改變。法案的最終審批預(yù)計(jì)將在今年年底前通過。

不過，這些規(guī)則距離正式生效還有一段時(shí)間。法案最終審批通過后，將會(huì)為企業(yè)和組織留出一段寬限適應(yīng)期，通常為兩年左右。

值得注意的是，為了填補(bǔ)法案正式生效前的這段空白期，歐洲和美國正在聯(lián)合起草一份自愿行為準(zhǔn)則。雙方官員在5月底承諾將在“幾周內(nèi)”起草，并可能擴(kuò)大到其他“志同道合的國家”。

這是全球首個(gè)全面的人工智能規(guī)則法案。該法案在2021年就已著手制定，但是隨著去年底生成式人工智能的快速發(fā)展，制定過程更加緊迫。針對(duì)新情況，周三通過的法案做了部分調(diào)整。

法案內(nèi)容

這項(xiàng)法案的框架在2021年首次提出，旨在對(duì)任何使用人工智能系統(tǒng)的產(chǎn)品或服務(wù)進(jìn)行管理。根據(jù)風(fēng)險(xiǎn)的高低，人工智能系統(tǒng)的使用場景被劃分為四個(gè)級(jí)別：低風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)和不可接受的風(fēng)險(xiǎn)。

對(duì)于風(fēng)險(xiǎn)較高的應(yīng)用程序，如針對(duì)兒童的招聘或技術(shù)，將面臨更嚴(yán)格的要求，包括提高透明度和使用準(zhǔn)確的數(shù)據(jù)等。違反規(guī)則的應(yīng)用程序可能被要求下架，具體執(zhí)行尺度將取決于歐盟27個(gè)成員國自身的判斷。

在最嚴(yán)重的情況下，違規(guī)行為可能會(huì)被處以最高4000萬歐元的罰款，或公司全球年?duì)I業(yè)收入的7%左右。如谷歌和微軟這樣體量的科技巨頭而言，罰款可能高達(dá)數(shù)十億歐元。

歐盟委員會(huì)表示，大多數(shù)人工智能系統(tǒng)，如視頻游戲或垃圾郵件過濾器，都屬于低風(fēng)險(xiǎn)或無風(fēng)險(xiǎn)類別。

法案對(duì)人工智能的使用場景劃定了禁忌區(qū)，比如利用兒童等弱勢(shì)群體，或使用可能導(dǎo)致傷害的潛意識(shí)操縱的人工智能，或鼓勵(lì)危險(xiǎn)行為的互動(dòng)對(duì)話玩具。而對(duì)于那些預(yù)測性警務(wù)工具，比如通過分析數(shù)據(jù)來預(yù)測誰會(huì)犯罪，也被禁止。

另外，在周三的投票中，一項(xiàng)允許利用人工智能尋找失蹤兒童，或防止恐怖主義威脅等執(zhí)法例外的修正條款沒有被通過。

對(duì)于部分領(lǐng)域，最新的法案收緊了要求。比如，實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)在最初的提案中是“高風(fēng)險(xiǎn)”，但在最新投票中被調(diào)整為“不可接受的風(fēng)險(xiǎn)”，即人工智能在該領(lǐng)域的應(yīng)用是被禁止的。

該法案最初的內(nèi)容并不包括聊天機(jī)器人，為了應(yīng)對(duì)近幾個(gè)月該領(lǐng)域的最新進(jìn)展，法案增加了一些條款，比如要求明確標(biāo)注出聊天機(jī)器人，以便用戶知道他們正在與機(jī)器進(jìn)行交互。

另一個(gè)重大補(bǔ)充是要求全面記錄用于訓(xùn)練人工智能系統(tǒng)的人類作品（文本、圖像、視頻和音樂）的任何版權(quán)材料。這將讓內(nèi)容創(chuàng)作者知道自己的作品是否被用于訓(xùn)練算法，進(jìn)而決定自己是否被抄襲，并尋求賠償。

而考慮到人工智能在就業(yè)和教育等領(lǐng)域的應(yīng)用可能會(huì)影響個(gè)人生活和工作，因此這些應(yīng)用面臨更嚴(yán)格的監(jiān)管要求，比如需要對(duì)用戶保持高度透明，并采取措施評(píng)估和減少算法產(chǎn)生偏見的風(fēng)險(xiǎn)等。

成為全球標(biāo)準(zhǔn)？

歐盟并不是尖端人工智能發(fā)展領(lǐng)域的重要參與者，這個(gè)角色由美國和中國扮演。但是有分析認(rèn)為，在監(jiān)管的法規(guī)方面，歐盟往往扮演著引領(lǐng)潮流的角色，制定的規(guī)定經(jīng)常會(huì)成為事實(shí)上的全球標(biāo)準(zhǔn)。

原因之一在于歐盟是巨大的單一市場，擁有4.5億消費(fèi)者。對(duì)于公司來說，他們不需要為不同地區(qū)開發(fā)不同產(chǎn)品，更容易遵守規(guī)定。

另外，歐洲在監(jiān)管步伐方面也確實(shí)走在最前列，已經(jīng)基本定型的《人工智能法案》是全球首個(gè)綜合性的可以強(qiáng)制執(zhí)行的此類法案。對(duì)于用戶來說，這相當(dāng)于一顆“定心丸”，方便公司拓展市場。

愛爾蘭公民自由委員會(huì)(ICCL)的技術(shù)專家Kris Shrishak說，歐盟的法案是可以強(qiáng)制執(zhí)行的，違規(guī)公司將被追究責(zé)任，這一事實(shí)“意義重大”，因?yàn)槊绹?、英國等其他地方目前只是提供了指?dǎo)和建議，“其他國家可能想要適應(yīng)和歐盟的規(guī)則”。

而企業(yè)和行業(yè)組織則警告稱，歐洲在監(jiān)管方面需要取得適當(dāng)?shù)钠胶?。比如，OpenAI首席執(zhí)行官Sam Altman在支持對(duì)人工智能發(fā)展設(shè)置一些規(guī)則的同時(shí)，也明確表示“現(xiàn)在就對(duì)該領(lǐng)域?qū)嵤﹪?yán)格監(jiān)管是一個(gè)錯(cuò)誤”。

科技公司游說團(tuán)體“計(jì)算機(jī)和通信行業(yè)協(xié)會(huì)”(CCIA) 的政策經(jīng)理Boniface de Champris指出，歐盟將成為監(jiān)管人工智能的領(lǐng)導(dǎo)者，但它是否會(huì)引領(lǐng)人工智能創(chuàng)新仍有待觀察。因?yàn)樗枰行У亟鉀Q風(fēng)險(xiǎn)，同時(shí)也要為開發(fā)人員提供足夠的靈活性。

已經(jīng)脫離歐盟的英國也正在爭奪人工智能領(lǐng)導(dǎo)的領(lǐng)導(dǎo)地位。首相蘇納克計(jì)劃在今年秋天主辦一次人工智能安全的全球峰會(huì)。他在本周的一次科技會(huì)議上表示，英國不僅希望成為人工智能技術(shù)發(fā)展的據(jù)點(diǎn)，同時(shí)也想成為安全監(jiān)管的全球中心。