序章
從自由夢想到監控時代
▍網際網路帶來的輝煌與危機
網際網路在1990年代大量商業化,為世人帶來了自由的承諾:個人可以自由獲取資訊、發表意見、參與討論,並對社會產生影響。網際網路的先驅將線上平台視為自由的守護者與擴音器,他們認為,創造一個海納百川的平台能促進世界各地多元聲音的傳播,從而增進民主。如今,這種技術樂觀的承諾已在某種程度上實現了:網際網路確實讓人可以自主攫取內容,大大擴展了個人接收、創造和傳播各種資訊的能力,並從根本改變了人類與資訊以及人類彼此之間的關係。由於獲取資訊和對話的管道變得更為容易,人類與世界互動的方式有了翻天覆地的變化,無疑為個人和社會帶來巨大的好處。隨著網際網路繼續演變,它勢必會以我們意想不到的方式,繼續為個體和社會創造全新的機運。
但另一方面,網際網路也為個人和社會帶來負面的影響。儘管網際網路促進更多人與人之間的聯繫並鼓勵公民參與,它同時也是一個讓人更容易暴露到各種有害內容的管道。網站經常成為傳播假訊息、霸凌、仇恨及其他種種令人厭惡內容的平台,不僅破壞個人的安全與尊嚴,還撕裂社會,動搖了民主基礎。演算法可依據每位使用者的不同偏好提供客製化的內容,這不僅加劇了極化和分裂,還助長了更多極端主義的思想,進一步侵蝕社會凝聚力。網際網路不僅增加了自由、加強了民主,培養出平等與包容的社群文化;它同時也削弱了這些價值觀,建構出一個任由監控資本主義蓬勃發展、社會分裂日益加深的生態系統。
▍科技巨頭與審查的代價
緩解網際網路對個人和社會帶來的危害,只是當前數位經濟治理諸多挑戰中的冰山一角。數位轉型帶來高度集中的經濟體系,少數強勢的企業掌控著龐大的經濟財富和政治權力,不僅限制了競爭,還擴大了數位經濟中贏家與輸家之間的距離。2020年,全球前五大科技公司——亞馬遜(Amazon)、Apple、Google、Meta和微軟(Microsoft)——合計創造了超過1兆美元的營收,並實現1,970億美元的收益。截至2020年底,這幾間公司的總市值高達7兆5千億美元。到了2021年,Apple、Alphabet、Meta和亞馬遜的總市值超越了東京證券交易所兩千多家上市公司的總和;Apple和Meta的市值加起來也超過了倫敦證券交易所市值前一百家公司的總和;光是亞馬遜的市值就超過了整個德國DAX指數,這項指數代表了約80%德國上市公司的總市值。無庸置疑,這些科技公司能成長至今,是因為它們開發了全球消費者所重視的產品和服務。但法律也和它們站在同一邊。舉例來說,反壟斷法軟弱的執行力道,近一步助長了這些公司的成長,讓它們可藉由大量收購來獲取更大的權力。過去三十年來,亞馬遜、Apple、Google、Meta和微軟合計收購了七百七十家新創企業。Apple執行長提姆.庫克(Tim Cook)表示,過去六年來,Apple平均每三到四個星期就會收購一家新公司。回顧這段歷程,隨著產業日趨成熟,這些公司的權力似乎越發強大且集中,而其權力的運用幾乎不曾受到明顯的限制。
以下是我們應當擔心這些大型科技公司過度集中經濟、政治和文化權力的幾個原因。首先,這些公司掌控了各自對應行業大部分的財富,因此它們能收購任何威脅到其市場地位的競爭對手。其次,它們的經濟實力可兌現成政治影響力,它們可以憑藉這股力量說服立法機關,制定有利於鞏固自身權力的法規。第三,這些公司透過審核平台上的內容,包含政治言論在內等社會對話,逐漸掌握了公共話語權,使其權力能滲透到民主與公共對話的線上基礎設施內。第四,這些公司控制了每位使用者每日所產生的大量個人資料,使用者一旦受其商業模式的經濟誘因所驅,它們就能榨取這些資料,從而對個人使用者擁有更大的掌控力。
有了上述不同維度的權力累積,這些公司成了現代經濟、政治和社會生活的中心。它們所擁有的權力變得如此龐大,甚至逐漸能與國家等級所行使的公權力相抗衡,這個現象也引起世界各國政府的高度關注。
由於權力的積累,科技公司如何行使影響力的決策變得更加重要且更具爭議性,也引發了關於社會和個人生活如何受這種多方面影響的重要討論。例如,當科技公司審核自家平台的內容時,往往得面臨試圖遏制有害言論而不壓制言論自由的重大挑戰。毫無疑問,這些公司在努力取得平衡的過程中經常出錯:有時未能有效限制有害言論的擴散,有時則審查了具有公共價值的言論。儘管它們想方設法刪除有害內容,但Facebook、YouTube和Twitter(現為X)等主流平台上仍充斥著仇恨、危險甚至違法的內容。最令人不安的是,這些平台仍經常看得到恐怖主義的宣傳以及令人髮指的暴力內容。舉例來說,2019年,紐西蘭基督城的清真寺發生了一起因仇恨動機而導致五十人遇害的屠殺事件,凶手竟在Facebook上直播他的殺戮行為。這起悲劇在Facebook及其他線上平台觀看人次爆表,儘管公司積極刪除不斷出現在網路上的複製影片,影片仍在這些平台上多次重播。另一方面,也有許多例子顯示平台方的內容審查機制矯枉過正。2011年,YouTube依據禁止顯示「遺體」的政策,下架了一段展現一名十三歲男孩在敘利亞戰爭罹難的影片。男孩的遺體確實令人怵目驚心,但影片的目的正是希望藉由這種震驚來引發國際社會對戰爭所帶來恐怖後果的關注,促使全球譴責敘利亞的壓迫政權。我們從這些例子可以看到,要以符合社會規範的方式劃清什麼是可接受的言論、什麼不是,實在極其困難。內容審查本身就是個非常敏感的議題,儘管如此,許多政府監理機關卻將這些決定推卸給平台。
除了內容審查可能帶來的錯誤結果,審查所採用的方法也同樣令人擔憂。例如,除了依賴演算法,各大平台都設有內容審查員,根據所謂的社群守則來進行人工審查,決定哪些內容得以保留、哪些必須刪除。然而,2018年德國《南德意志報》(Süddeutsche Zeitung)的一篇報導揭露了在第一線「清理」網路的審查員所承受的巨大心理傷害。這些內容審查員在低薪又缺乏就業保障的條件下,不斷暴露在無止境殘酷暴力的圖像瀑布流中。報導指出,德國的Facebook內容審查員每天得處理高達一千三百筆通報。2014年,美國《連線》雜誌(Wired)有篇專文記錄了在菲律賓工作的Facebook內容審查員的日常,他們負責清理平台上的非法內容,時薪卻僅有1至4美元。審查員日復一日面對網路平台上最糟糕的內容。Google審查員每天得篩選約一萬五千張圖片,內容包括兒童色情、斬首和虐待動物。2020年,Meta就一宗由超過一萬名內容審查員提起的訴訟達成和解,同意支付5,200萬美元的心理健康補償金。為了讓全球使用者在平台上可享受更安全、更文明的體驗,審查員付出了巨大的心理代價,他們的困境也赤裸裸凸顯出矽谷高薪權勢的科技巨頭與幕後清理有害內容勞動者之間的巨大差距。這種勞動代價進一步質疑了早期對網際網路的技術樂觀願景,當時,網路曾被形容成一股解放的力量,將拆除既有的權力機構,邁向「更人道、更公平」的世界。
▍監控時代與AI的未來
少數科技公司權力過度集中的另一個令人擔憂之處在於,它們將蒐集來的使用者資料納入商業模式,並對用戶的隱私產生深遠的影響。這樣的「監控資本主義」描繪科技公司如何榨取使用者私人生活的資料,並藉由投放精準廣告來將這些資訊商品化,威脅民眾的隱私權和個人自主權。在最糟糕的情況下,用戶的個資不僅可用於商業目的,還有可能運用在政治目標上。劍橋分析(Cambridge Analytica)的醜聞便清楚印證了這項擔憂:英國政治顧問公司劍橋分析攫取了Facebook使用者的私人資料,並用於政治選戰,意圖影響選舉結果,支持川普當選總統。這類企圖操縱選民的行為案例不僅損害了個人隱私決策,還削弱了世人對民主的信任。
網路使用者不僅容易受私人科技公司監視,政府也有可能利用科技公司及其數位工具來推動國家安全或執法目標。中國政府藉由臉部辨識等技術對中國公民的監視尤為深遠。中國已在境內安裝了數億台監視器,政府可以將影像資料與從其他管道所蒐集的個人資料相匹配,及時識別個人身分,甚至在政治抗議尚未發生之前進行預測防範。中國政府推出了以人工智慧驅動的監視計劃「雪亮工程」,目標是建立一個「全域覆蓋、全網共享、全時可用、全程可控」的全國級監視系統,背後由中國的科技公司設立、維護。然而,網際網路不僅僅是威權政府的監視工具;包含美國在內的民主國家政府,也施行了大規模的監控計劃,正如美國國家安全局(National Security Agency,簡稱NSA)的前承包商愛德華.史諾登(Edward Snowden)2013年揭露美國機密資料史無前例的外洩事件所示。史諾登揭露的資料顯示美國國安局如何透過蒐集Facebook上的可用資料來進行對個人的大規模監控。在缺乏適當監理的情況下,任何政府都有可能受此類監控技術吸引,利用科技公司的監控能力來達成國家的政治或國安目標,即使政府知道,這樣的監控欺犯了公民的基本自由。
如今,這些擔憂將因人工智慧的快速進步而更加放大。特別是所謂生成式AI(generative artificial intelligence)技術的創新,有潛力大大革新世人工作、處理資訊以及彼此互動的方式。最理想的情況下,生成式AI將使人類達到知識與生產力的新境界,帶來前所未有的經濟增長和社會進步;然而,AI發展的速度也令技術人員、公民和監理機構惴惴不安。AI早已用於協助私人企業和國家政府的監視,以及操縱人類行為,但這些行為現在可以透過更大的訓練資料庫或更複雜的AI工具達到新的高度。世人愈來愈擔心這些強大的技術將為歹人所用,以此剝削、欺騙他人,或從事其他非法行為。不久的將來,應該就會有人利用AI製造一波波惡意假訊息。如今就連熱衷技術的人士也發出嚴厲的警告,直指不受監理的AI可能會導致上述擔憂成真,造成更多無法控制的危害,對個人和社會構成嚴重的威脅。最悲觀的預測認為,人工智慧將顛覆勞動市場,使人力資本變得過時而無用;甚至在最誇張的情況下,有可能摧毀人類。
隨著世人對於使用這些數位工具可能帶來的風險與潛在危害,以及科技公司手握龐大經濟實力和所帶來的社會影響愈來愈有所警覺,呼籲這些公司加強監理的聲量也日益高漲。近期有些政府已開始回應民意,行使其監理權力,知名媒體因此宣稱「科技公司面對全球管制的轉捩點已經到來」,並形容「大型科技公司正面臨監理浪潮的衝擊」。過去十年間,歐盟一直是監理先鋒,經常利用反壟斷法、資料保護法和其他監理法規來重掌對這個產業的控制權。然而如今歐盟已不再是唯一正面挑戰科技巨頭的力量。中國政府也開始以「共同富裕」的口號,對科技業進行前所未有的整頓,確保科技巨頭不會凌駕國家。即便是長期開放的美國,也順應這個趨勢有所轉變,美國國會正在重新評估修改反壟斷法、制定聯邦隱私權法,或重新審視1996年《通訊規範法》(Communications Decency Act)的必要性,這項法案目前保護網路平台不必因承載的內容承擔法律責任。然而,儘管科技業所帶來的問題已讓世人普遍認同,數位經濟需要管制;各國政府該如何具體落實管制,卻遲遲沒有共識。