人工智能法案旨在為人工智能的使用創(chuàng)建一個(gè)共同的監(jiān)管和法律框架，包括它是如何開(kāi)發(fā)的，公司可以使用它做什么，以及不遵守要求的法律后果。該法案可能會(huì)要求公司采用人工智能前，在某些情況下需要獲得批準(zhǔn)；并將某些被認(rèn)為風(fēng)險(xiǎn)太大的人工智能用途定為非法，并創(chuàng)建一個(gè)其他高風(fēng)險(xiǎn)人工智能用途的公開(kāi)清單。

歐盟委員會(huì)(European Commission)在一份有關(guān)該法律的官方報(bào)告中表示，在廣泛的層面上，該法律尋求將歐盟值得信賴(lài)的人工智能范式法制化。這一范式“要求人工智能在法律、倫理和技術(shù)上強(qiáng)大，同時(shí)尊重民主價(jià)值觀(guān)、人權(quán)和法治”。

擬議的人工智能監(jiān)管框架具有以下目標(biāo):

1.確保在歐盟市場(chǎng)上部署和使用的人工智能系統(tǒng)是安全的，并尊重現(xiàn)有法律基本權(quán)利和歐盟價(jià)值觀(guān);

2.確保法律確定性，以促進(jìn)人工智能的投資和創(chuàng)新;

3.加強(qiáng)治理和有效執(zhí)行有關(guān)基本權(quán)利和安全的現(xiàn)行法律適用于A(yíng)I系統(tǒng);

4.促進(jìn)合法、安全和值得信賴(lài)的人工智能應(yīng)用的統(tǒng)一市場(chǎng)的發(fā)展，防止市場(chǎng)的分化。

雖然新法律的許多細(xì)節(jié)仍懸而未決，關(guān)鍵是人工智能的定義，但核心因素似乎是它的“產(chǎn)品安全框架”，它將未來(lái)的人工智能產(chǎn)品分為四個(gè)安全水平類(lèi)別，適用于所有行業(yè)。

根據(jù)斯坦福-維也納跨大西洋技術(shù)法律論壇的Maruritz Kop匯編的2021年歐盟委員會(huì)關(guān)于新法律的報(bào)告，“臨界金字塔”的底部是風(fēng)險(xiǎn)最小的系統(tǒng)。屬于這一類(lèi)的人工智能應(yīng)用不需要遵守風(fēng)險(xiǎn)較高的系統(tǒng)必須通過(guò)的透明度要求。在“有限風(fēng)險(xiǎn)”類(lèi)別中，則對(duì)人工智能系統(tǒng)有一些透明度要求，比如聊天機(jī)器人。

——歐盟新的AI法案將AI程序分為四類(lèi)，自下而上分別為：低風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)和不可接受風(fēng)險(xiǎn)。

在對(duì)透明度有嚴(yán)格要求的高風(fēng)險(xiǎn)AI類(lèi)別中，監(jiān)管會(huì)更加嚴(yán)苛。根據(jù)介紹，高風(fēng)險(xiǎn)類(lèi)別包括AI應(yīng)用在:

關(guān)鍵基礎(chǔ)設(shè)施，如交通，可能危及人的生命或健康(如自動(dòng)駕駛汽車(chē));

影響個(gè)人教育或職業(yè)成就的教育或職業(yè)培訓(xùn)(如考試成績(jī));

產(chǎn)品的安全組件(如機(jī)器人輔助手術(shù));

就業(yè)、員工管理、自主創(chuàng)業(yè)(如簡(jiǎn)歷、簡(jiǎn)歷分類(lèi)軟件);

基本的私人和公共服務(wù)(如信用評(píng)分);

執(zhí)法用例(如證據(jù)評(píng)估);

移民、邊防管理(包括護(hù)照真實(shí)性評(píng)估);

公正和民主程序(如將法律適用于一組具體事實(shí));

監(jiān)控系統(tǒng)(如生物特征監(jiān)測(cè)和面部識(shí)別)。

塔尖的第四類(lèi)是“不可接受風(fēng)險(xiǎn)”的人工智能系統(tǒng)。這些應(yīng)用基本上是非法的，因?yàn)樗鼈儙?lái)了太多的風(fēng)險(xiǎn)。這類(lèi)應(yīng)用的例子包括操縱行為或人或“特定弱勢(shì)群體”的系統(tǒng)，社會(huì)評(píng)分，以及實(shí)時(shí)和遠(yuǎn)程生物識(shí)別系統(tǒng)。

高風(fēng)險(xiǎn)類(lèi)別可能是許多公司將努力確保透明度和合規(guī)的重點(diǎn)。歐盟的人工智能法案將建議企業(yè)在推出屬于高風(fēng)險(xiǎn)類(lèi)別的人工智能產(chǎn)品或服務(wù)之前采取四個(gè)步驟。

開(kāi)發(fā)高風(fēng)險(xiǎn)人工智能系統(tǒng)，最好內(nèi)部首先使用人工智能影響評(píng)估和由包容、多學(xué)科團(tuán)隊(duì)監(jiān)督的行為準(zhǔn)則。

高風(fēng)險(xiǎn)人工智能系統(tǒng)必須經(jīng)過(guò)合格評(píng)定和批準(zhǔn)，并持續(xù)進(jìn)行在其生命周期內(nèi)遵守歐盟AI法案規(guī)定要求。某些系統(tǒng)外機(jī)構(gòu)將參與合格評(píng)定審核。這個(gè)動(dòng)態(tài)的過(guò)程確?；鶞?zhǔn)測(cè)試、監(jiān)控和驗(yàn)證。此外，高危AI的動(dòng)態(tài)系統(tǒng)，步驟2必須重復(fù)執(zhí)行。

獨(dú)立高風(fēng)險(xiǎn)人工智能系統(tǒng)的注冊(cè)將在一個(gè)專(zhuān)用的歐盟數(shù)據(jù)庫(kù)中進(jìn)行。

必須簽署合格聲明，高風(fēng)險(xiǎn)AI系統(tǒng)必須帶有CE標(biāo)記。?