就在最近，你甚至還可以辱罵Bia，用侮辱性語言叫她，而她只能溫順地回答：「我不明白，你能再說一遍嗎？」

但現在如果對巴西布拉德斯科銀行（Bradesco bank）的虛擬助理使用這種語言，對方可能會更堅定地回答：「這些話不能對我或任何人說。」

她還會語氣更強硬地說：「這對你來說可能是個笑話，但對我來說，這是暴力。」

去年，布拉德斯科銀行在其人工智能系統上發現了9.5萬條包含虐待或性騷擾的信息。該銀行之後採取了行動。

他們的質控團隊整理了這些有冒犯性語言，結果發現，最溫和的是要求對方裸體。但也有些太過粗俗的語言，公司不願透露。

該公司執行董事佩蒂科夫（Glaucimar Peticov）告訴BBC：「言語非常粗魯，我沒法重覆給你聽。」

還不清楚為何有人對虛擬助理使用這樣的語言，但佩蒂科夫稱，性愛信息「完全不該出現」，「這毫無疑問，就是一種騷擾「。

為了應對這類攻擊，Bia的軟件腳本得到了更新，迫使客戶用更尊重的語言來稱呼她，才能繼續工作。

佩蒂科夫表示，新的回應「不那麼順從和被動」，是為了「教育」客戶，鼓勵他們「反思」性別歧視態度。

• AI化身溫順性感女郎算不算性別偏見
• 人工智能：機器人的科幻版vs現實版

「反映現實生活」

布拉德斯科銀行在電視廣告中宣傳了公司的舉動，當機器人改變態度時，女演員看起來更有力量。

其他巴西大型企業也承諾效仿這一舉動，包括化妝品公司、製造業，以及公用事業和服務提供商。

陸（Lu）是零售巨頭雜誌Luiza的語音助理，她不僅能對口頭冒犯做出堅定回答，而且安裝了「緊急按鈕」，讓女性在遇到家庭暴力時謹慎地提醒當局。

在真人團隊的幫助下，她成了社交媒體上有影響力的語音助理，擁有數百萬粉絲，經常和他們談論性別問題。這個團隊負責管理她的社交媒體互動。

---

但不是所有人都認為根據這個原因調整人工智能系統是有意義的，因為虐待對象不是有感情的真人。

「我們為什麼要折騰一個非人類的語音助手呢？因為這個問題反映了現實生活，」聯合國教科文組織巴西分部的社會科學協調員伊恩（Fábio Eon）解釋。

伊恩表示，言語虐待和性騷擾的背後是更大的問題。

去年，巴西報告了10.5萬起針對婦女的暴力案件。由於仍有很多未報告案件，實際數字可能要高得多。

伊恩認為，現實世界和數字空間在人類行為方式上有所關聯。

「從你在網上接受這些行為的那一刻起，這些行為就會在現實生活中被複製。」

聯合國教科文組織2019年的一份報告批評了製造數字助理的公司，指責它們強化了性別刻板印象。在多數情況下，這些數字助理都是女性的聲音。

該組織表示，蘋果的Siri和亞馬遜的Alexa等產品似乎「能夠容忍男性的性挑逗，偶爾也會受到誘惑」，並稱它們「未能鼓勵或樹立關於性愛或贊同性愛的健康溝通，更不用說堅持了」。

這兩家全球科技巨頭都採取了不對抗策略，並隨後對Siri和Alexa做了更新。現在Siri會簡單回答關於性愛的評論：「我不會回應這個問題」。

在此之前，她對性侮辱的回答是：「如果我能做到，我會臉紅的。」

「你能想象這樣的回答在現實生活中有多離奇嗎？」 伊恩問道。

「習慣需要改變」

伊恩警告稱，儘管採取了一些改進措施，但對人工智能的偏見依然存在。

他指出，Siri和Alexa（女性名字）可以幫我們做瑣碎的事，比如播放音樂或打開燈，而巴西法院的人工智能系統能篩選成千上萬份文件，他的名字叫維克多（Victor，男性名字）。

一些公司正在考慮在系統中使用無性別聲音，以此來解決爭議。

但佩蒂科夫表示，人工智能之所以使用女聲，是因為她們的音高和音調變化能為客戶創造更舒適的環境。因此，布拉德斯科銀行沒有計劃取代Bia，或者假裝問題不存在，她解釋。

「但是習慣需要改變。這些互動行動實際反應了社會的現實。現在我們已經發現了這個問題，決心採取行動。」

「我媽一會兒跟你說」

從長遠來看，公司正在考慮當客戶虐待和性騷擾人類虛擬助理時該怎麼做。

2017年，韓國GS加德士（GS Caltex）能源公司發起運動，幫助減少針對呼叫中心工作人員的虐待行為，上了頭條新聞。

在顧客的電話轉給助理接聽之前，顧客會聽到一段員工家人的錄音，這段錄音提醒，電話那頭的人是有生命、有感情的人。

錄音中有個男孩說：「我的媽媽是我在這個世界上最愛的人，她很快就會幫助你。」另一個男性的聲音說：「我的善良、勤勞的女兒很快就會上線。」

發起這項活動的營銷機構艾得誇互動（Adqua Interactive）稱，GS加德士的員工後來報告稱，54%的人覺得壓力減輕了，25%的人說他們感到更受尊重了。

專注於數字教育的DQ研究所的首席執行官派克（Yuhyun Park）表示，在互動變得更加非人類化的世界裏，人們越來越需要意識到這一點。

「公民需要更加文明的行為。當我們不能面對面見面時，就會遇到這種騷擾問題。即使在人工智能出現之前，人類也不是很友好地對待彼此。

「我們是社會的一部分，即使是與人工智能對話，也在共同構建整個社會體系，如果不文明行事，就會產生不好的影響。」

本網頁內容為BBC所提供, 內容只供參考, 用戶不得複製或轉發本網頁之內容或商標或作其它用途，並且不會獲得本網頁內容或商標的知識產權。

BBC中文