提到性別偏見(jiàn)，別以為只有人才會(huì)產(chǎn)生偏見(jiàn)，事實(shí)上作為非生命體的AI系統(tǒng)，也可能因?yàn)樵O(shè)計(jì)者的疏忽，或者社會(huì)語(yǔ)料庫(kù)本身的性別不公因素，而流露出性別偏見(jiàn)傾向。這當(dāng)然不是設(shè)計(jì)者的本意，可是這種現(xiàn)象無(wú)可避免地會(huì)對(duì)部分用戶造成觀感不適。

特倫托大學(xué)的研究人員以身力行，借用名為＂MuST－SHE＂的測(cè)試集，來(lái)評(píng)估AI語(yǔ)音翻譯系統(tǒng)的輸入文本數(shù)據(jù)集是否存在具有性別差異的語(yǔ)句，而AI又是否將這種性別差異從翻譯加工成果中體現(xiàn)出來(lái)。

分門別類！為不同翻譯語(yǔ)料類型找準(zhǔn)定位

在機(jī)器翻譯過(guò)程中，性別偏見(jiàn)可以歸因于語(yǔ)言表達(dá)上之于男女性別的差異。那些有專屬性別語(yǔ)法系統(tǒng)的語(yǔ)言，如羅曼斯語(yǔ)，依賴于性別詞性和句法變化來(lái)區(qū)分出性別差異。而這對(duì)于英語(yǔ)和中文都是不適用的，比如說(shuō)，中文是一種“自然性別”系的語(yǔ)言，它只通過(guò)代詞（如：“她”和“他”）、固有性別的詞語(yǔ)（如：“男孩”和“女孩”）和性別專用名詞（如：“媽媽”和“夫人”）來(lái)反映性別差異。

如果AI翻譯系統(tǒng)不能捕捉到這些細(xì)微差別，可能導(dǎo)致對(duì)不同性別群體的不準(zhǔn)確描述。為了盡可能抹消這種區(qū)別，研究人員專門創(chuàng)建了一個(gè)被稱為MuST－SHE的多語(yǔ)言測(cè)試集，旨在揭露潛藏在語(yǔ)言翻譯系統(tǒng)后的性別偏見(jiàn)。

機(jī)器人在吸收歧視性數(shù)據(jù)集后，也會(huì)表現(xiàn)出歧視傾向

MuST－SHE是基于TED演講數(shù)據(jù)集篩選得出的一個(gè)數(shù)據(jù)子集，其中包括大約1000份音頻、文本和翻譯素材，這些翻譯素材都取自開源MuST－C語(yǔ)料庫(kù)，有專門的語(yǔ)料注釋了與性別相關(guān)的定性差異。這些素材被細(xì)分為兩類：

第1類：當(dāng)性別差異性僅取決于說(shuō)話人本身的性別時(shí)（即沒(méi)有相應(yīng)的語(yǔ)境樣本支持），翻譯素材的形成需從音頻信號(hào)中獲取消除性別歧義的必要信息樣本。

第2類：所得的翻譯素材有直接消除歧義信息的樣本支持，其中包含比較清晰的語(yǔ)境提示，如性別指定性詞組、代詞和專有名詞都能說(shuō)明說(shuō)話者的性別。

每一類的第一框都是正確語(yǔ)料例子

第二框是錯(cuò)誤例子作為參照物

基于語(yǔ)料庫(kù)中的每一條翻譯引用，研究人員都特意創(chuàng)建了一個(gè)反面語(yǔ)料例子，除了“他／她”不分、“男／女”不分之外，反面的翻譯素材與原文的涵義其實(shí)完全相同。在將兩種語(yǔ)料信息輸入AI翻譯系統(tǒng)后，研究結(jié)果表明，在性別的正式表達(dá)預(yù)料方面，原語(yǔ)料庫(kù)中的翻譯范例被AI駁回，認(rèn)為其是“存在部分錯(cuò)誤的”，而反面語(yǔ)料例子則被認(rèn)為是“正確的”。這種結(jié)果差異可以用來(lái)衡量語(yǔ)音識(shí)別系統(tǒng)處理性別現(xiàn)象的能力。