根據澎湃新聞報道，近日歐洲議會兩個委員會通過了《The AI Act》提案的談判授權草案。草案就對 ChatGPT 等生成式人工智能大模型的一系列要求達成一致，標志著歐盟對人工智能實施強監管方面又邁出了一步。

草案嚴格禁止了「對人類安全造成不可接受風險的人工智能系統」，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等。草案提出了新的保障措施，并禁止各種危險用例，包括禁止在公共場所進行大規模面部識別程序，以及禁止使用預測性警務系統(即AI犯罪預測系統)。草案還要求建立一個公共數據庫，記錄政府部門部署的“高風險”人工智能系統，公開數據，以便公民能夠了解他們將何時以及如何受到這項技術的影響。

預計該草案將于 6 月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進行談判。歐洲議會的聲明說，一旦獲得批準，這將成為全世界首部有關人工智能的法規。

該草案由兩個關鍵委員會批準：內部市場委員會(Internal Market Committee)和公民自由委員會(Civil Liberties Committee)。這些委員會由負責監督立法制定的歐洲議會議員組成。他們最終以84票贊成、7票反對、12票棄權批準了完成的草案。

歐洲議會表示，在草案中，歐洲議會議員旨在確保人工智能系統由人監督，且確保其安全、透明、可追溯、非歧視和環保。他們還希望對人工智能有一個統一的定義，旨在保持技術中立，以便其可以適用于現在和以后出現的人工智能系統。

修正案包括擴大禁止行為清單，以禁止對人工智能系統的“侵入性”和“歧視性”使用，禁止行為包括：在公共可訪問空間建立實時遠程生物特征識別系統;使用遠程生物特征識別系統，唯一的例外是執法部門起訴嚴重犯罪，并且只有在司法授權后;使用敏感特征(例如性別、種族、民族、公民身份、宗教、政治取向)的生物識別分類系統;預測性警務系統(基于貌相、地點或過去的犯罪行為預測犯罪);執法、邊境管理、工作場所和教育機構中的情感識別系統;從社交媒體或監控攝像頭中抓取生物特征數據以創建面部識別數據庫(侵犯人權和隱私權)。

除了禁令之外，更新后的草案還引入了旨在監管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構建的資源密集型人工智能系統，其中包括GPT-4和ChatGPT等語言模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能圖像生成器。

根據擬議的立法，人工智能大模型的創建者需要在人工智能使用之前進行評估并減輕各種風險，包括評估訓練人工智能系統可能造成的環境損害。相關公司必須公開訓練人工智能使用的數據，以確保其使用受版權法保護的數據訓練。

有業內人士認為，版權問題可能會在美國產生重大影響。在美國，版權所有者已經對未經同意使用其數據的人工智能圖像生成器提起了一系列訴訟，許多科技公司，如谷歌和OpenAI，都通過拒絕披露訓練系統的數據(通常聲稱這些信息是商業機密)來避免這類法律挑戰，若歐盟要求公開訓練數據，則可能會產生新的訴訟。