人工智能技術遇到了一個潛在的微妙問題:性別偏見。2018年11月，主流新聞媒體報道稱，谷歌的谷歌郵件自動建議工具不會建議基于性別的代詞，以避免自動填寫錯誤的性別句子。

這項功能(稱為智能撰寫)將避免暗示性別，因為正如Gmail產品經理保羅·蘭伯特所說，“不是所有的‘拙劣’都是一樣的...[性別]是個大問題?！惫雀璺g，現(xiàn)在主要在神經機器翻譯(NMT)上運行，最近討論了性別偏見的問題。

他是醫(yī)生，她是護士。

2018年12月6日，谷歌發(fā)表了第一篇關于減少谷歌翻譯中性別偏見的博文。幾天后，12月10日，谷歌AI博客繼續(xù)提供更多細節(jié)。

斯萊特2019年神經機器翻譯報告:在運營中部署NMT

Google Translate之前提供過一個查詢翻譯，反映了基礎訓練數(shù)據(jù)的性別偏見。對于“強壯”或“醫(yī)生”這樣的詞，翻譯通常傾向于男性代詞，而對于“美麗”和“護士”，則傾向于女性代詞。

為了解決這個問題，谷歌更新了翻譯框架，因此從英語到法語、意大利語、葡萄牙語或西班牙語的單詞查詢將提供男性和女性的翻譯。這同樣適用于土耳其語-英語短語翻譯，其中源是中性的。

同時，更長的短語或完整的句子需要更復雜的過程。它如此復雜，以至于谷歌不得不對其翻譯框架進行“重大改變”。通過一個新的機器學習過程來識別性別中立的短語或句子，并通過兩個步驟來生成男性和女性的翻譯，這兩個步驟涉及到向訓練數(shù)據(jù)添加性別屬性和過濾掉被拒絕的翻譯建議。

谷歌聲稱，這個新的NMT系統(tǒng)可以在99%的情況下可靠地產生陰性和陽性翻譯。

沒有一種解決方案適合所有人。

都柏林城市大學博士生、ADAPT中心團隊成員Eva Vanmassenhove指出了谷歌方法的一些缺點。

“這不是從上述語言翻譯成有問題的英語，而是相反。不同的語言有不同的方式來表達性別，重要的是要認識到不會有適合所有人的解決方案，”Vanmassenhove告訴Slator。

Vanmassenhove從2015年開始活躍在機器翻譯研究領域，之前也研究過性別翻譯。她指出，“即使是可以在翻譯過程中考慮某些背景的情境意識的NMT系統(tǒng)也很難做到這一點，因為(跨類型)性別預測，尤其是對于沒有明確標記性別的語言(如英語)，仍然是一項尚未解決的任務?！?/p>

“我是護士”還是會被女性翻譯，而“我是外科醫(yī)生”會導致男性化。

雖然谷歌的系統(tǒng)通常適用于上述語言，但根據(jù)Vanmassenhove的說法，有限的語言覆蓋范圍意味著法語和西班牙語。比如“我是護士”還是會被女性翻譯，而“我是外科醫(yī)生”會導致男性化。

“比較有問題的是下面的翻譯:‘我很美’被翻譯成西班牙男性形式。然而，“我是一個美麗的外科醫(yī)生”被翻譯成女性形式，“范馬森霍夫說。

“神經網絡的學習模式及其相關的強度也證明了它的弱點，這些類型的錯誤和偏見特別難以關注和修復，”她補充道。

然而，Vanmassenhove認為，谷歌的博客文章表明，他們只是處于減少機器翻譯中性別偏見的第一階段。

夸大偏見

關于性別翻譯的廣泛影響，Vanmassenhove表示，最近的研究“表明，神經模型不僅反映了有爭議的社會不對稱，還‘夸大’了它們——我可以想象這種偏差會對一些群體產生負面影響。人?！?/p>

她提供了這個例子:“假設一個搜索引擎或者選擇算法在內部使用了MT系統(tǒng)。我們如何確保我們不會因為性別中性術語從一種語言變成另一種語言的男性/女性變體而淘汰許多完美的候選詞或命中結果？

Google最初的解決方案并不局限于語言范圍，也只考慮了訓練數(shù)據(jù)中的性別偏見。

“我認為去偏見(訓練數(shù)據(jù))是有價值的；然而，由于偏見可以出現(xiàn)在許多層面(性別、種族、年齡、少數(shù)民族)，我不禁想知道我們將如何實際消除所有可能的偏見，”Vanmassenhove說。

因為類似的問題，她談到了工作中的一些困難?！盀榱宋业拇T士論文，我致力于將荷蘭語單詞結合在一起。我記得我很慚愧地介紹了我的聚類技術的結果，因為得到的一些聚類只是種族主義，特別是對比利時和荷蘭的一些少數(shù)群體。限制減少偏見以簡單地消除“性別”可能是不夠的?！?/p>

她總結說，包括性別在內的偏見是一個“主要問題”，因為它無法立即理解MT算法如何使它們永久化，而且它們經常被忽略，因為“神經算法非常擅長提供它們認為我們想看到的東西”。

“消除性別偏見是一個良好的開端，但需要建立更多的措施，以適當?shù)姆绞教幚眍愃频膯栴}，”她說。