中國要求AI生成內容需體現「社會主義核心價值觀」
在ChatGPT掀起對人工智慧技術的投資狂潮五個月後，中國政府正在採取措施控制本國的聊天機器人，展示了政府對可能定義一個時代的技術進行嚴格監管的決心。
中國國家互聯網信息辦公室本月公布了生成式人工智慧服務管理辦法徵求意見稿。生成式人工智慧是一種軟體系統，它能根據用戶的問題和提示生成文本和圖片，支撐ChatGPT的就是這樣的系統。
根據該管理辦法，公司必須遵守中共嚴格的審查規定，網站和應用程序必須避免發布詆毀中國領導人或觸及歷史禁區的內容。人工智慧生成的內容需要體現「社會主義核心價值觀」，「不得含有顛覆國家政權」或「破壞國家統一」的信息。
公司還必須確保它們的聊天機器人生成的文字和圖片是真實的，並尊重知識產權，公司需按照要求將它們的算法（也就是聊天機器人背後的軟體）在監管機構備案。
廣告
雖然管理辦法尚未定稿，監管機構也許會繼續對其進行修改，但專家表示，在中國構建人工智慧服務的工程師們已經在尋找將這些規則置入產品的辦法。
聊天機器人的能力令各國政府驚嘆不已，從令人擔憂到無傷大雅，人工智慧生成的結果不一而足。人工智慧已被用來在大學考試中取得優異成績，還被用來製作了一張教宗方濟各穿著白色羽絨服的假照片。
ChatGPT由美國公司OpenAI開發，微軟為OpenAI提供了約130億美元的支持，這款軟體促使矽谷的公司將其背後的技術應用於影片遊戲和廣告等新領域。據風險投資公司紅杉資本估計，人工智慧企業最終可能產生「數萬億美元」的經濟價值。
在中國，投資者和企業家們正在競相迎頭趕上。人工智慧公司的股價飆升。一些最大的科技企業都在大張旗鼓地宣布推出相關產品，包括最近的電子商務巨頭阿里巴巴、製造人臉識別軟體的商湯科技，以及搜索引擎百度。至少有兩家開發OpenAI技術中國替代產品的初創企業已籌集到了數百萬美元的資金。
ChatGPT在中國無法使用。但面對越來越多的本土替代品，中國政府迅速公布了人工智慧的紅線，搶在了其他仍在考慮如何監管聊天機器人的國家的前頭。
這些規定展示了中國「快速行動，先破後立」的監管做法，總部設在北京的策緯諮詢公司的科技政策主管凱娜(Kendra Schaefer)說。
廣告
「因為不是兩黨制，沒有對如何做爭論不休的兩方，他們可以直接說，『好，我們知道我們需要做這個，我們做了再說』，」她補充道。
聊天機器人使用互聯網上的大量信息進行訓練，開發人員正在努力解決它們吐出的答案有時候不準確、出乎意料的問題。從表面上看，中國的規定要求在一個技術層次控制聊天機器人，而中國的科技公司目前還做不到這點。就連像微軟這樣的公司仍在對它們的聊天機器人進行微調，以剔除機器人給出的有害回答。中國的要求高得多，這就是為什麼一些聊天機器人已經被封，而另一些僅供少數用戶使用。
對於如何訓練人工智慧系統，使其始終如一地提供與事實相符的答案，專家們對此事的難度存在分歧。一些人對科技公司能否滿足中國全方位的審查規定表示懷疑，這些規定通常涉及的內容廣泛，而且處在不斷變化中，甚至需要審查特定的詞語和日子，比如1989年6月4日，那是軍隊鎮壓天安門廣場民主示威的日子。還有人認為，隨著時間的推移和工作做到位，機器人能與真理和特定的價值體系保持一致，甚至是政治價值體系保持一致。
分析人士預計，與中國科技公司磋商後，管理辦法會發生變化。監管機構可能放鬆執行力度，這樣就不至於從整體上削弱人工智慧技術的發展。
中國對互聯網的審查由來已久。政府在本世紀的前十年裡建起了世界上最強大的網路信息監管系統。這嚇跑了谷歌和 Facebook等不服從的西方公司。政府雇了數百萬人來監控互聯網上的活動。
與此同時，不得不遵守審查規定的中國科技公司卻蓬勃發展起來，這讓西方批評人士對政治控制會削弱增長和創新的預測落空。隨著人臉識別技術和手機的出現，中國的科技公司幫助政府利用這些技術來建造一個監控國家。
廣告
當前的人工智慧浪潮給中共帶來了新的風險，研究中國人工智慧方面的專家、卡內基國際和平基金會研究員馬特·希恩說。
希恩表示，聊天機器人的不可預測性會讓其做出荒謬或錯誤的（也就是研究人員稱為「幻覺」的）陳述，這與中共痴迷於管理網上言論的做法背道而馳。
「生成式人工智慧給中共的兩個主要目標製造了矛盾：一個是控制信息，一個是在人工智慧方面領先，」他補充說。
專家表示，中國的新規定並不完全是關於政治的。例如，政府也要保護個人隱私和數據創建者的知識產權，這是全世界都關心的話題，因為訓練人工智慧系統依靠數據。
今年2月，圖像數據庫公司Getty Images起訴了人工智慧初創公司Stable Diffusion，後者用1200萬張帶水印的圖片訓練了自己的圖像生成系統，Getty聲稱該公司的做法稀釋了其圖片的價值。
為了解決有關人工智慧公司使用底層數據和內容的法律問題，中國正在採取措施，從更高層面予以推動。今年3月，中國成立了國家數據局，這是重大機構改革的一部分，是為了更好地定義擁有數據、買賣數據的含義。國家數據局還將協助公司建立訓練人工智慧模型所需的數據集。
「他們現在正在決定數據屬於什麼樣的財產，誰有權使用和控制數據，」凱娜說道，她寫過大量有關中國人工智慧監管的文章，她認為該管理辦法是「變革性的」。
儘管如此，中國的新護欄可能不合時宜。中國在半導體方面正臨著日益激烈的競爭和制裁，這可能會削弱中國在包括人工智慧在內的技術上的競爭力。
今年2月初，人們曾對中國的人工智慧充滿希望，當時人工智慧工程師兼企業家徐亮發布了一款手機應用，那是中國對ChatGPT的最早回應。徐亮表示，這款名為元語智能的應用程序在第一個小時裡就獲得了超過1萬次下載。
廣告
