「我不希望任何人認為我曾經說過這些可怕的話。用一個烏克蘭女孩的面孔來宣傳俄羅斯，這太瘋狂了。」

奧爾加·洛伊克（Olga Loiek）看到自己的臉出現在中國社交媒體上的各種影片中，而這些影片由網上簡易的生成式人工智能（AI）工具製作。

「我可以看到我的臉，聽到我的聲音。但這一切都令人毛骨悚然，因為我看到自己說了一些我從未說過的話。」這位就讀於賓夕法尼亞大學（University of Pennsylvania）的21歲學生告訴BBC。

使用她肖像的賬戶有幾十個不同的名字，如索菲亞（Sofia）、娜塔莎（Natasha）、艾普麗爾（April）和斯泰西（Stacy）。這些「女孩」說的是奧爾加從未學過的漢語普通話。在影片中，她們看上去來自俄羅斯，談論著中俄友誼或推廣俄羅斯產品。

「我看到90%的影片都在談論中國和俄羅斯以及中俄友誼，像我們必須成為強大的盟友，還有食品廣告。」

其中最大的一個賬號是「娜塔莎進口食品」，其擁有30多萬關注者。「娜塔莎」說著「俄羅斯是最好的國家。可悲的是其他國家都在遠離俄羅斯，俄羅斯女人想要來中國」之類的話，然後開始推銷俄羅斯糖果等產品。

這讓奧爾加感到憤怒，因為她的家人還在烏克蘭。

但在更廣泛的層面上，她的案例引起了人們對這項發展迅猛的技術所帶來危險的關注，如何監管和保護人們已經成為一項真正的挑戰。

從YouTube到小紅書

奧爾加的說普通話的AI模仿者在2023年開始出現——就在她開設了一個不定期更新的YouTube頻道之後不久。

大約一個月後，她開始收到一些人的信息，聲稱在中國社交媒體平台上看到她說著普通話。

出於好奇，她開始尋找自己，並在中國類似於Instagram的平台「小紅書」，以及類似於YouTube的視頻網站嗶哩嗶哩（Bilibili）上發現了與她相似的AI人物。

「有很多這樣的（賬戶）。有些賬戶的簡介裏有俄羅斯國旗之類的東西。」奧爾加說。她稱，到目前為止，她已經發現了大約35個使用她肖像的賬戶。

在她的未婚夫在社交媒體上發佈了關於這些賬戶的情況後，她聲稱被用於製作這些AI肖像的AI視頻生成平台HeyGen做出了回應。

他們透露，已經有4900多個影片是用她的臉生成的，並表示該平台已經禁止再使用她的肖像。

該公司的一位發言人告訴BBC，他們的系統被侵入以創建了他們所謂的「未經授權的內容」，並補充稱，他們立即更新了安全和驗證協議，以防止平台被進一步濫用。

但香港大學副教授張湖月（Angela Zhang）說，奧爾加的經歷「在中國很常見」。

她說，中國「擁有龐大的地下經濟，專門從事仿造、盜用個人數據和進行深度偽造」。

不過，中國是最早嘗試監管人工智能及其使用的國家之一。中國甚至修改了民法典，以保護肖像權免受數字偽造技術的侵害。

中國公安部門在2023年披露的統計數據顯示，當局逮捕了515名涉嫌參與「AI換臉」活動的人。中國法院也審理過這方面的案件。

那麼，為什麼會有這麼多關於奧爾加的影片在網上傳播呢？

原因之一可能是這些影片宣傳了中俄之間的友誼。

近年來，北京和莫斯科的關係日益密切。中國領導人習近平和俄羅斯總統普京曾表示，中俄友誼「無上限」。兩人本周將在中國會晤。

中國官方媒體一直在重覆俄羅斯為其入侵烏克蘭辯解的說辭，社交媒體也一直在審查有關戰爭的討論。

「目前還不清楚這些賬戶是否出於集體目的而進行協調配合，但推廣與政府宣傳一致的信息肯定對他們有利。」博洛尼亞大學（University of Bologna）和魯汶大學（KU Leuven）的法律與技術研究員埃米·海因（Emmie Hine）說。

「即使這些賬戶與中共沒有明確聯繫，但宣傳（意識形態）一致的信息可能會降低他們的帖子被撤下的可能性。」

但專家警告說，這意味著像奧爾加這樣的普通人仍然處於弱勢，並有可能觸犯中國法律。

牛津大學（Oxford University）技術與地緣政治研究員凱拉·布隆奎斯特（Kayla Blomquist）警告說，「存在個人被人為製造的政治敏感內容陷害的風險」，他們可能會受到「未經正當程序而迅速實施的懲罰」。

她補充說，中國政府在AI和網絡隱私政策方面的重點一直是建立消費者權利，使其免受掠奪性私人行為者的侵害，但她強調說，「與政府相關的公民權利仍然極其薄弱」。

海因解釋說，「中國AI法規的根本目標是在維護社會穩定與促進創新和經濟發展之間取得平衡」。

「雖然書面規定看似嚴格，但有證據表明存在選擇性執法，尤其是在生成式AI的許可規則方面，其目的可能是為了創造一個更有利於創新的環境，同時默認法律為必要時的打擊提供了依據。」她說。

「不是最後一名受害者」

但奧爾加事件的影響遠遠超出了中國——它顯示了試圖監管一個正在以驚人速度發展的行業的難度。監管機構只能不斷追趕，但這並不意味著他們沒有努力。

今年3月，歐洲議會批准了《人工智能法案》，這是世界上第一個限制該技術風險的全面框架。去年10月，美國總統拜登（Joe Biden）宣佈了一項行政命令，要求AI開發者與政府共享數據。

布隆奎斯特表示，雖然與AI的快速發展相比，國家和國際層面的法規進展緩慢，但我們需要「對最危險的威脅以及如何減輕這些威脅有更清晰的認識和更強的共識」。

她補充說，「然而，國家內部和國家之間的分歧阻礙了切實的行動。美中是關鍵的參與者，但建立共識和協調必要的聯合行動將具有挑戰性。」

與此同時，在個人層面上，除了不在網上發佈內容，人們似乎無能為力。

「唯一能做的就是不給他們任何可利用的材料：不在公共社交媒體上上傳自己的照片、影片或音頻。」海因說。

「但是，不良行為者總是有模仿他人的動機，因此，即便政府打擊，預計我們將在監管『打地鼠』的活動中看到持續增長。」

奧爾加「百分之百地確信」自己不會是生成式AI技術的最後一名受害者。但她決心不會因此而退網。

她在自己的YouTube頻道上分享了自己的經歷，並表示一些中國網友一直在幫助她，在使用她肖像的影片下發表評論，指出這些影片是假的。

她補充說，現在很多影片已經被刪除了。

「我想分享我的故事，我想讓人們明白，並不是你在網上看到的一切都是真實的。」她說。「我喜歡與世界分享我的想法，這些騙子無法阻止我這樣做。」

本網頁內容為BBC所提供, 內容只供參考, 用戶不得複製或轉發本網頁之內容或商標或作其它用途，並且不會獲得本網頁內容或商標的知識產權。

BBC中文