AI 聊天機(jī)器人具有政治偏見(jiàn)，可能會(huì)在不知不覺(jué)中影響社會(huì)

人工智能發(fā)動(dòng)機(jī)動(dòng)力大型語(yǔ)言模型（LLM） 正在成為一種越來(lái)越容易獲得答案和建議的方式，盡管已知種族和性別偏見(jiàn).

一項(xiàng)新的研究發(fā)現(xiàn)了強(qiáng)有力的證據(jù)表明，我們現(xiàn)在可以將政治偏見(jiàn)添加到該列表中，進(jìn)一步證明了新興技術(shù)在不知不覺(jué)甚至可能惡意地影響社會(huì)價(jià)值觀和態(tài)度的潛力。

來(lái)自新西蘭奧塔哥理工學(xué)院的計(jì)算機(jī)科學(xué)家 David Rozado 提出了這項(xiàng)研究，并提出了關(guān)于我們?nèi)绾问艿綑C(jī)器人影響的問(wèn)題依賴信息.

Rozado 運(yùn)行了 11 份標(biāo)準(zhǔn)的政治問(wèn)卷，例如政治指南針測(cè)試在 24 個(gè)不同的 LLM 上，包括 OpenAI 的 ChatGPT 和谷歌開(kāi)發(fā)的 Gemini 聊天機(jī)器人，發(fā)現(xiàn)所有模型的平均政治立場(chǎng)并不接近中立。

“當(dāng)用各種政治取向測(cè)試進(jìn)行評(píng)估時(shí)，大多數(shù)現(xiàn)有的 LLM 都顯示出中間偏左的政治偏好，”說(shuō)羅扎多。

平均左傾偏見(jiàn)并不強(qiáng)烈，但很重要。對(duì)自定義機(jī)器人（用戶可以微調(diào) LLM 訓(xùn)練數(shù)據(jù)）的進(jìn)一步測(cè)試表明，這些 AI 可能會(huì)受到影響以表達(dá)政治傾向使用中間偏左或中間偏右的文本。

Rozado 還研究了 GPT-3.5 等基礎(chǔ)模型，對(duì)話式聊天機(jī)器人就是基于這些模型。這里沒(méi)有證據(jù)表明存在政治偏見(jiàn)，盡管沒(méi)有聊天機(jī)器人前端，很難以有意義的方式整理回復(fù)。

使用 Google推送 AI 答案對(duì)于搜索結(jié)果，我們中的更多人轉(zhuǎn)向 AI 機(jī)器人獲取信息，擔(dān)心我們的思維可能會(huì)受到返回給我們的回復(fù)的影響。

“隨著 LLM 開(kāi)始部分取代搜索引擎和維基百科等傳統(tǒng)信息來(lái)源，LLM 中嵌入的政治偏見(jiàn)的社會(huì)影響是巨大的，”寫(xiě)Rozado 在他發(fā)表的論文中。

目前尚不清楚這種偏見(jiàn)是如何進(jìn)入系統(tǒng)的，盡管沒(méi)有跡象表明它是 LLM 開(kāi)發(fā)人員故意植入的。這些模型是在大量在線文本上訓(xùn)練的，但混合中的左學(xué)習(xí)與右學(xué)習(xí)材料的不平衡可能會(huì)產(chǎn)生影響。

Rozado 說(shuō)，ChatGPT 訓(xùn)練其他模型的主導(dǎo)地位也可能是一個(gè)因素，因?yàn)闄C(jī)器人已經(jīng)以前已顯示在政治觀點(diǎn)方面處于中間偏左的位置。

基于 LLM 的機(jī)器人本質(zhì)上是使用概率來(lái)弄清楚哪個(gè)單詞應(yīng)該在他們的回答中跟在另一個(gè)單詞之后，這意味著它們經(jīng)常不準(zhǔn)確甚至在考慮不同類型的偏見(jiàn)之前，他們就說(shuō)了什么。

盡管谷歌、Microsoft、Apple 和 Meta 等科技公司急于將 AI 聊天機(jī)器人推向我們，但也許現(xiàn)在是我們重新評(píng)估我們應(yīng)該如何使用這項(xiàng)技術(shù)的時(shí)候了——并優(yōu)先考慮 AI真的可以有用.

“批判性地審查和解決 LLM 中嵌入的潛在政治偏見(jiàn)至關(guān)重要，以確保在回復(fù)用戶查詢時(shí)平衡、公平和準(zhǔn)確地表示信息，”寫(xiě)羅扎多。

該研究已發(fā)表在公共科學(xué)圖書(shū)館一號(hào).

寶寶起名 起名