美國公共政策專家：人類和公民利益才是“科技監(jiān)管”大討論的核心

美國西弗吉尼亞大學公共管理與公共政策教授法拉赫（Paolo Farah）。澎湃新聞記者 趙昀 圖

“這是利用（社交平臺的）匿名性，對技術(shù)的濫用。這是完全的刑事犯罪行為。”

韓國總統(tǒng)尹錫悅對近期爆發(fā)的韓國數(shù)字性犯罪做出了上述表態(tài)。

根據(jù)韓國警方的數(shù)據(jù)，韓國在線深偽性犯罪數(shù)量激增。今年前7個月，韓國共報告了297起類似案件，在2021年案件總數(shù)的基礎(chǔ)上約翻了一番。2023年韓國共有180起此類案件。

科技快速發(fā)展，利弊共存，其中一個全球性難題就是監(jiān)管，韓國近期的數(shù)字性犯罪案件，就是其中一個例子。

但監(jiān)管如何在科技發(fā)展和社會之間保持平衡，同樣是一個難題。歷經(jīng)三年的多輪審議后，今年8月1日，歐盟《人工智能法案》正式生效。該法案是全球首部全面監(jiān)管人工智能的法規(guī)，標志著歐盟在規(guī)范人工智能應(yīng)用方面邁出重要一步。但亞馬遜、Meta等公司卻認為該法案不利于科技創(chuàng)新。

作為公共政策和法律方面的專家，美國西弗吉尼亞大學公共管理與公共政策教授法拉赫（Paolo Farah）在近期參與“中國式現(xiàn)代化與世界未來”明德戰(zhàn)略對話活動期間，就科技監(jiān)管的話題接受了澎湃新聞（www.thepaper.cn）專訪。

法拉赫表示，或許監(jiān)管難以在科技和社會中保持平衡，但不能什么都不做。至少，各方能夠基于現(xiàn)有的經(jīng)驗，制定本國的科技監(jiān)管政策。

科技發(fā)展，要監(jiān)管還是要創(chuàng)新？

澎湃新聞：您近期正在做公共政策、技術(shù)和法律方面的研究。在科技快速發(fā)展的背景下，從公共政策的角度，怎么看待保持市場活力、科技公司創(chuàng)新的問題？

法拉赫：我在這方面所做的工作，特別關(guān)注技術(shù)的概念化、技術(shù)是否對各國社會總體有益等情況。

重要的是評估這些公司是否以一種透明的方式推廣技術(shù)。我不是在談?wù)撻_放獲取或提供技術(shù)，而是（科技發(fā)展）對社會和技術(shù)帶來積極的影響，這是社會發(fā)展的基礎(chǔ)。比如，我能夠到上海來，這就是技術(shù)發(fā)展和交流的結(jié)果。

自從互聯(lián)網(wǎng)時代開始以來，人們有了很多便于交流的機會。但現(xiàn)在，有一種看法和更多的理解是，技術(shù)確實對社會產(chǎn)生了良好的影響，但也可能對社會帶來挑戰(zhàn)和風險。想一想對人工智能（AI）的批評，AI可以是非常積極的，也可以是對所有人都有問題的。

當我們發(fā)現(xiàn)自己面臨著開放市場的挑戰(zhàn)，讓科技公司保持創(chuàng)新，繼續(xù)投資于創(chuàng)新，這可以為人類帶來很多機會和改善。

但另一方面是，當某些科技發(fā)展完成時，可能會給人類帶來問題。這個時候人類會變得高度脆弱，在這種情況下該怎么應(yīng)對？難道我們不應(yīng)該在技術(shù)先進、科技公司已經(jīng)富有之前進行干預(yù)和監(jiān)管？所以有一種觀點認為，監(jiān)管和政策每次都是在技術(shù)發(fā)展后才得以出臺，會出現(xiàn)法律和政策試圖趕上已經(jīng)實施的技術(shù)的情況。

那么我們在技術(shù)發(fā)展前是不是應(yīng)該做一些什么？（歐盟的）《人工智能法案》就是朝這個方向發(fā)展的，試圖在科技公司發(fā)展前預(yù)測可能會出現(xiàn)的問題。我們這樣做，是因為我們實際上在保護我們想要控制的社會中的人權(quán)和價值觀。在我們被私營部門公司和市場、自由貿(mào)易、自由投資和自由技術(shù)的市場目標支配之前，思考我們想要擁有什么樣的社會。

所以這是一個非常復(fù)雜的話題和討論，因為一旦朝不同方向發(fā)展，可能會對投資、信任、技術(shù)等產(chǎn)生重要影響。

比如Meta和亞馬遜這類美國科技公司認為監(jiān)管有害創(chuàng)新。但從監(jiān)管的角度，不太可能考慮科技公司的這一層想法或者這些想法能不能實現(xiàn)。

當我們看其他地方的法規(guī)，考慮一下保密性和透明度的監(jiān)管、數(shù)據(jù)和信息的傳輸。比如在新的AI法規(guī)上，（歐盟的）《通用數(shù)據(jù)保護條例》和AI監(jiān)管之間的交叉點是什么？我在問我自己，這些（法規(guī)）對行業(yè)和技術(shù)是積極的還是消極的，但至少對社會是積極的，因為（法規(guī)）控制著（技術(shù)）。我試圖在這些領(lǐng)域研究技術(shù)對社會的影響，人類和公民是這場討論的中心。

澎湃新聞：您剛才提到了風險，也提到有時監(jiān)管晚于創(chuàng)新。但另一方面，您是否認為，監(jiān)管會影響科技創(chuàng)新？

法拉赫：我確實這么認為，這種影響可以是積極的，也可以是消極的。正如我所說，監(jiān)管是否過于嚴格、會否就此限制技術(shù)創(chuàng)新的可能性，這才是我們要問的核心問題。所以，（監(jiān)管）規(guī)則是要盡可能平衡的，但有時這會很復(fù)雜。

在（科技）行業(yè)中，這些公司實際上更喜歡沒有監(jiān)管。這些公司試圖盡可能快地發(fā)展，避免法律法規(guī)在公司發(fā)展完善之前出現(xiàn)。因此，我認為監(jiān)管會對發(fā)展、技術(shù)和創(chuàng)新產(chǎn)業(yè)帶來負面影響。

但什么都不做也不是好的。現(xiàn)在，這種類型的技術(shù)已經(jīng)發(fā)展到了一定程度，可以影響社會，并將把社會帶向一個方向，我覺得我們對此需要加以小心控制。

在某種程度上，科技為公司提供了投資和創(chuàng)新的可能性，但同時，（公司）要負責任、透明，預(yù)估潛在的負面風險。比如，因為歐盟的《人工智能法案》和《通用數(shù)據(jù)保護條例》，一些科技公司遭到了批評。

我們需要觀察和了解，是否會出現(xiàn)所謂的（讓歐洲在全球科技競爭中保持影響力的）布魯塞爾效應(yīng)。因為歐洲市場太有趣、太重要，不能完全把它排除在外，行業(yè)也可以對此感興趣。

但我意識到，（行業(yè)里）必須做些什么，保持對美國市場的興趣。但做什么呢？在這種情況下，來自行業(yè)和其他國家的阻力可能會迫使你改變和重新審視，我對此不太確定。這是會發(fā)生的，但我們必須觀察。

總的來說，歐盟出臺的法規(guī)，已經(jīng)做出了一定的改變和決定，這肯定會影響行業(yè)進行投資或決定在某些行業(yè)進行投資的方式。

對我來說，最重要的是，技術(shù)發(fā)展的方式，是否考慮到我們?nèi)允且粋€由人類、公民組成的社會。因此，如果這項技術(shù)會對人們產(chǎn)生負面影響，那么我認為監(jiān)管應(yīng)該介入，甚至在技術(shù)被創(chuàng)造出來之前就需要進行監(jiān)管，并努力與行業(yè)保持開放的溝通渠道。但這并不意味著允許（行業(yè)）游說并試圖（把發(fā)展）引入另一個方向。

不過，試著收集信息，一些小的變化可以為行業(yè)繼續(xù)發(fā)展和創(chuàng)新帶來重要的、巨大的變化。這是一個非常復(fù)雜的平衡。

美國西弗吉尼亞大學公共管理與公共政策教授法拉赫（Paolo Farah）在上海，接受澎湃新聞記者的專訪。澎湃新聞記者 趙昀 圖

互相借鑒經(jīng)驗，制定更完善的政策

澎湃新聞：在類似的政策制定方面，比如歐盟還有《數(shù)字服務(wù)法案》，而其他國家也在解決類似技術(shù)帶來的問題。您認為不同國家在制定本國政策時，能否參考其他國家/組織已有的政策？

法拉赫：我相信是這樣的。例如，（不僅限于科技監(jiān)管），總的來說，中國在了解美國、歐盟經(jīng)驗的情況下，根據(jù)中國的背景，獨立制定了一些法規(guī)和政策。這可能基于競爭，或者與歐盟、美國的同行進行了多年合作交流，但這不意味著中國完全復(fù)制了他們所做的。

所以我認為，科技方面歐盟的監(jiān)管可以是一個例子，其他國家可以參照（現(xiàn)有法規(guī)）。這是在全球法律和政策層面開展工作的一個很好方式，比如歐盟在一個領(lǐng)域做得比較好，可以把它作為一個榜樣。這意味著（其他國家）可以從這個經(jīng)驗中了解，為什么（歐盟）做了某些決定，以一種特定的方式制定政策。

這樣的“交換”對歐盟來說是非常積極的，因為在科技監(jiān)管層面，同時還會有中國、美國等國家。基于類似的監(jiān)管政策，比如能有利于美國公司在其他國家進行交易、貿(mào)易等。

對我來說，我認為政策和法規(guī)是一體的。從某種意義上說，有時政策是第一位的，法規(guī)是第二位的，但有時，法規(guī)先出臺，政策解釋并證明其所做的。當我們談?wù)摲珊驼邥r，國家之間需要有很多對話和交流，理解差異，同時在特定方面密切合作。

根據(jù)特定的法規(guī)工作，并嘗試基于對全球大環(huán)境的考量，以為國家做出最佳選擇的方式，制定新的法規(guī)和政策。這就是中國多年來一直在做的事情。在此之前，中國在某些領(lǐng)域一直走在前列。

聊天機器人“并不完美”

澎湃新聞：接下去的問題與社交平臺有關(guān)。您是否注意到，美國兩黨都通過社交平臺，正在試圖爭取選票的情況？

法拉赫：我認為在奧巴馬當選美國總統(tǒng)時，其競選活動就已經(jīng)廣泛使用了廣播和社交平臺，之后是特朗普的當選。最近幾年，不僅競選活動中會用到社交平臺，競選活動外有組織和團體也在使用這些平臺，試圖支持某一派。

我相信這在過去也發(fā)生過，但我不認為會像現(xiàn)在這樣產(chǎn)生如此大的影響。以劍橋分析公司為例，8700萬臉書用戶數(shù)據(jù)被不當泄露給這個政治咨詢公司，以方便其制定策略在2016年總統(tǒng)大選時使特朗普獲勝。（臉書的首席執(zhí)行官）扎克伯格還前往國會山就此聽證。

所以我認為，在美國的政治環(huán)境中，這些問題必須得到討論和明確解決，因為它可以使選舉結(jié)果發(fā)生重要變化，即競選活動之外的參與類型。

澎湃新聞：近期（社交平臺）“X”的聊天機器人Grok，在美國總統(tǒng)拜登退選后發(fā)布了關(guān)于多個州投票截止日期的虛假信息。多個州已經(jīng)要求“X”整改，從公共政策的角度，您怎么看待？

法拉赫：這至少表明，聊天機器人或者AI在這一點上并不完美。很多其他的例子也證明了這一點：這是以一種試圖讓用戶高興的方式回復(fù)，更傾向于用戶想要的信息，但這可能是不正確的信息。如果想要傳播一些（正確的）信息，就需要進行再次確認。

比如，我們需要更多方面的信息，以確信某一個問題，排除其不可能發(fā)展的方向。就像我們參加本次會議，我們互相之間需要聽到各種聲音，才能不漏重點地進行研究、取得平衡?？偟膩碚f，基于這些理念，聊天機器人、AI可以是額外的幫助。

正如我現(xiàn)在所看到的，科技還在繼續(xù)發(fā)展，但我們可以選擇結(jié)束它。

比如在未來，書籍可能不再存在。網(wǎng)上的一切就是信息，現(xiàn)在的聊天機器人，也是對書本的“攻擊”，這種“攻擊”無法被控制，因為書本可能被認為代表過去。

我擔心的是，這可能是一種趨勢，比如人們再也無法接觸到過去出版的書籍，并說這些書籍現(xiàn)在可以在網(wǎng)上找到。的確是這樣，但是你確定在線版本會和原始版本完全一樣嗎？會不會有幾頁的部分被省略了？

我只是說，如果我們最終完全信任聊天機器人等，我們可能會出現(xiàn)（類似書本）這樣的情況。我認為的風險是，一些強大的公司或者行業(yè)等，可能可以決定某些歷史事件或者情況。