雅虎香港新聞

Yahoo 行動版

睇盡即時本地生活資訊

天氣交通、港股美股匯率、城中熱購,盡在掌握。

中文

AI 助手無微不至 主人的大腦會變懶變蠢嗎?

手機聊天

Getty Images

使用智能電子郵件程序,人工智能(AI)小助手會及時甚至提前提示,下一句該寫什麼,用什麼詞,於是發一封郵件的時間比原來縮短了很多,或許也更有文採,但是,被AI如此體貼關照,我們是不是因此而逐漸丟失了某些東西?

在谷歌的Gmail中輸入答覆,你可能從一開始就覺得它能讀懂你心裏所思所想,打出字母「tha」,一句話的其餘部分便會彈出,在屏幕上以灰色字體顯示。你按 Tab 鍵,這句話就自動完成。

在一切都更簡單的時代,你需要花寶貴的幾秒鐘不厭其煩地手動輸入「非常感謝」或「聽起來很棒」,但現在,像 Gmail 這樣的電子郵件系統可以為您自動完成句子。

在背後支撐這個功能的是一種叫做自然語言處理的人工智能(AI),它對語言的理解和使用與人類更相似,不同於以前的計算機處理。

但是,雖然它有助於縮短寫電子郵件花費的時間,許多人對自動完成功能(稱為智能撰寫)的感覺還是比較複雜。有些人覺得它可以掃描信息並提出恰當回應建議,這種能力簡直「令人毛骨悚然」。

機器開始接替我們完成給同事、朋友和親人髮信息這件事的部分努力,這個過程中是否有可能剝奪了一些對我們而言更重要的東西?它是否在抽走我們的個性和人類互動的樂趣?甚至,這種自動完成技術會不會改變我們大腦的工作方式?

gmail 屏幕

Getty Images
谷歌的Gmail 是最早使用人工智能來預測用戶在回復消息時可能想說什麼的主要電子郵件提供商之一

「預測是感知和我們與世界關聯的基礎,」美國賓夕法尼亞大學研究聽覺感知和學習神經元迴路的瑪麗亞·格芬(Maria Geffen)說。

「我們的大腦持續不斷地做預測。例如,當某人在嘈雜的背景噪音中高聲說話時,即使我們只聽到一部分聲音,我們的大腦也會預測他口中說出的短語是什麼。更複雜的認知過程也同樣,包括造句。」

寫作 —— 無論是手寫還是在計算機上寫 —— 涉及複雜的認知過程的協調,包括調用長期記憶、語義系統、工作記憶和計劃。

但是,如果我們將遣詞造句的工作分包給機器,格芬認為那可能會對我們大腦的工作方式產生一些深遠的影響。

「我們現在正在做實驗,一連數天跟蹤代表聲音的神經元在大腦中的活動,發現相同的神經元集合每天都表現出不同的活動模式,」 她說。「因此,設想一下這種情況會很有意思 —— 預測是由計算機算法執行,而不經由我們的大腦,以及這種不斷重覆的體驗對我們與世界的互動會產生什麼影響。」

據估計,全球 38 億電子郵件用戶每天發送 2810 億封電子郵件,這意味著我們每個人平均每天收到大約 74 封電子郵件。回到互聯網誕生前的時光,我們每天收到二、三封以上的信就很幸運了,而且其中大部分都是賬單。

因此,在應對接踵而來的一堆信息時,我們可能需要一點幫助來減輕負擔,也就不足為奇了。能夠分析我們的寫作習慣繼而預測接下來我們最有可能使用什麼詞匯的技術,可以把鍵入數十個字母的工作減少到只需在鍵上點一下。

智能撰寫只是使用人工智能來預測我們可能想說什麼的眾多技術之一。大多數智能手機上都已經有預測文本算法程序,在我們編寫文字過程中基於過去我們曾輸入的內容提出接下來建議用什麼詞匯。在桌面電腦文字處理程序上自動完成遣詞造句的應用程序也開始出現。

大腦形狀的網線圖

Getty Images
有些人擔心,當孩子們學會依賴人工智能驅動的智能書寫系統時,他們的詞匯量和拼寫可能會受到影響

這些技術緊隨其他一些嘗試之後出現,那些嘗試的目的是減輕我們必須完成的打字任務中一些繁重的部分。

在推出智慧撰寫(Smart Compose)之前,Gmail曾推出智慧回復(Smart Reply),它使用類似的方法為用戶提供三個簡短的可選回應,作為「快捷方式」,可以通過單擊按鈕進行選擇。搜索引擎現在通常使用自動完成功能來建議我們可能會提出的問題。智能手機和網絡瀏覽器還具有自動填寫功能,可以為我們填寫在線表格。

好處當然是有的。例如,自動完成可以減少認知負荷和填寫在線表格所需的時間。根據一項研究,它甚至可以幫助你拿到更低的機票價格。

但即使是相對簡單的功能,如自動更正——1990年代首次在Microsoft Word上引入,後來在手機上無處不在的短信輔助工具——也令人擔憂它對兒童寫作技能會產生不利影響。

對自動完成遣詞造句任務的更先進技術的影響進行大量研究,目前可能還為時過早,但有跡象表明它們可能會改變我們使用語言的方式。

一項為期一年的研究發現,在手機上使用預測文本的中學生比非用戶犯的拼寫錯誤更多,但使用寫作輔助工具的大學生犯的語法錯誤更少。

甚至有一些證據表明,預測文本技術可能會對使用它們的人產生積極影響,領導這項研究的諾丁漢特倫特大學心理學家克萊爾·伍德(Clare Wood)說。

「我們知道,對於成年人來說,接觸拼寫錯誤有時會干擾他們對正確拼寫的記憶,」她說。「因此,自動建議功能可能有助於最大限度地減少文本和其他在線通信中拼寫錯誤的單詞對成年人可能產生的負面影響。」

AI 機器人畫畫

Getty Images

自動建議功能也有可能對在線交流的語法結構產生積極影響。

不過,伍德警告說,由於這些人工智能驅動的系統依賴於從我們過去輸入的內容中學習,它也可能會引入錯誤。

「如果它檢測到某個不合語法規範的單詞經常同時出現,那麼這種組合就會得到強化確認,」 她補充道。

但是自動暗示也可能影響我們想說什麼以及我們如何說。哈佛大學和馬薩諸塞州劍橋市德雷珀實驗室的計算機科學家發現,使用人工智能驅動的預測文本系統可能會給人們寫的東西帶來偏見。

這是因為用於在大量數據集上訓練AI系統的機器學習算法可以拾取並放大數據中包含的偏差。因此,使用來自正面在線評論的文本進行訓練的預測文本系統可能傾向於建議更積極的單詞。

研究人員發現,當人們寫一家餐館時,人們看到的文本快捷方式被偏向為更積極,由此產生的評論往往比他們看到有負面傾向的快捷方式建議更積極。

「預測文本系統開始提供比以往任何時候都更長、更連貫、更切合上下文的建議,」 哈佛大學工程與應用科學學院研究員肯·阿諾德(Ken Arnold)說。「想想未來的預測文本系統如何幫助人們成為更有效的作家是令人興奮的,但我們也需要透明度和問責制,以防止可能帶有偏見或具操縱性的建議。」

男子發郵件,電腦屏幕

Getty Images
谷歌透露,它已在智能撰寫技術中內置過濾器,以防止其建議基於性別的代詞

現在連八歲的孩子都開始使用手機,而且也可能用這些自動功能發送短信和電子郵件,這就引發了一個問題,即它們會對下一代的思維發展可能產生什麼影響。

「大多數關於神經可塑性的數據來自兒科患者人群,他們的神經元連接正處於快速形成階段,」堪薩斯州執業的醫生欽維·德萊爾(Chinwe Dryer)說。「隨著越來越多的年輕人使用手機,預測文本也可能影響詞庫的形成和演變。」

硅谷居民一直在抱怨 – 我們今天使用的大部分技術就是在那裏開發的 – 他們不希望自己的孩子經常使用屏幕。位於加利福尼亞州山景城的半島華爾道夫學校(Waldorf School of the Peninsula)的學費高達38000美元(29000英鎊),就讀的大多是硅谷高級技術高管的子女,該校盡量避免年輕學子使用計算機。學校指出,對教師的調查表明,使用計算機和發短信會損害學生的寫作技能。

這是各地許多教師都同意的觀點。

「通常,使用自動更正的學生非常依賴它來確定他們拼寫的單詞是什麼,以至於不會停下來查看這個單詞是否自己想要的正確單詞,」俄亥俄州的教師凱特·海特坎普(Kate Heitkamp)說。「如果學生沒有基本的拼寫技能,自動更正似乎沒有幫助,因為它會給他們一個不正確的單詞。」

過度依賴這種技術「拐杖」可能會對今天的兒童產生長期影響。孩子的詞匯量,即使是從很小的時候開始,也可以成為他們以後生活中「成功」程度的指標。

然而,伍德說沒有跡象表明自動暗示和預測文本技術對兒童的識字能力發展有任何影響。

「歸根到底,這種技術的主要優點是提高了我們在線撰寫的速度,」 她說。「對於那些閲讀能力可能強於拼寫能力的孩子,自動建議將促進他們在網上有效溝通的能力,從而向更年輕的群體或可能正在努力用傳統方式識字的孩子打開短信世界的大門。」

人工智能GPT

Getty Images

但是, AI 輔助帶來的方便對人們彼此之間溝通的方式也可能會有其他長遠、持久的影響。

谷歌透露,它已在其智能撰寫技術中內置過濾器,以防止其暗示基於性別的代詞。

該公司的一位研究科學家發現,當他輸入一個包含「投資者」一詞的句子時,人工智能工具假設伴隨的代詞應該是「他」。同樣,人工智能技術假設「醫生」是男性,「護士」是女性。

為了避免尷尬,谷歌選擇從系統中完全刪除性別代詞。

無論如何,我們對可以替我們寫作的技術的使用可能會增加。現在整篇體育消息可能都是由人工智能利用數據串編寫而成。其他人正在使用預測文本背後的技術來撰寫新形式的虛構文學作品。

我們每天喜愛和使用的語言是否有可能因此而失去一些東西?

「更高級的預測文本把預測從我們自身的語言系統中移除,用以填補的是回歸均值的東西,這就減少了變化性,」格芬說。她警告說,其結果可能會使我們寫出來的文字變得欠缺人性化。

點擊這裏閲讀原文,瀏覽BBC Future 其他文章。

本網頁內容為BBC所提供, 內容只供參考, 用戶不得複製或轉發本網頁之內容或商標或作其它用途,並且不會獲得本網頁內容或商標的知識產權。

BBC中文

更多內容