研究發(fā)現(xiàn),人工智能實際上并不對人類構(gòu)成生存威脅

科幻小說中充斥著人工智能變得流氓并轉(zhuǎn)向他們的人類創(chuàng)造者。HAL-9000型。矩陣。天網(wǎng)。GLaDOS的。賽昂人。人類似乎對機器的反叛有著深深的恐懼。

隨著越來越復(fù)雜的大型語言模型 (LLM) 的興起,例如 Chat GPT,以下問題人工智能可能帶來哪些危險變得更有針對性.

現(xiàn)在,我們有一些好消息。根據(jù)德國達姆施塔特工業(yè)大學(xué)的計算機科學(xué)家Iryna Gurevych和英國巴斯大學(xué)的Harish Tayyar Madabushi領(lǐng)導(dǎo)的一項新研究,這些模型無法流氓。

事實上,他們的編程限制太強了,沒有指導(dǎo)就無法獲得新技能,因此仍然在人類的控制之下。

這意味著,盡管我們?nèi)匀挥锌赡軐⑦@些模型用于惡意目的,但就其本身而言,LLM 可以安全地開發(fā)而不必擔(dān)心。

“人們擔(dān)心的是,隨著模型越來越大,它們將能夠解決我們目前無法預(yù)測的新問題,這構(gòu)成了這些大型模型可能獲得包括推理和計劃在內(nèi)的危險能力的威脅。Tayyar Madabushi 說.

“我們的研究表明,擔(dān)心一個模型會消失并做一些完全出乎意料的、創(chuàng)新的和有潛在危險的事情是站不住腳的。

在過去的幾年里,LLM 的復(fù)雜性已經(jīng)發(fā)展到了驚人的程度。他們現(xiàn)在能夠通過文本進行相對連貫的對話,以一種自然和人性化的方式。

他們并不完美——因為他們實際上不是一種智力形式,他們缺乏關(guān)鍵技能需要從壞信息中解析好信息在許多情況下.但他們?nèi)匀豢梢砸粤钊诵欧姆绞絺鬟_不良信息。

最近,一些研究人員已經(jīng)調(diào)查了可能性什么被稱為緊急能力由 LLM 獨立開發(fā),而不是在其編程中故意編碼。一個特別的例子是法學(xué)碩士,它是能夠回答問題關(guān)于社交場合,而沒有接受過關(guān)于這些情況的明確培訓(xùn)。

觀察結(jié)果是,隨著LLM的規(guī)模擴大,它們會變得更加強大,并且可以執(zhí)行更多的任務(wù)。目前尚不清楚這種規(guī)模是否也意味著我們可能沒有準備好應(yīng)對的行為風(fēng)險。因此,研究人員進行了一項調(diào)查,以查看此類實例是否真的緊急出現(xiàn),或者該程序只是在其代碼范圍內(nèi)以復(fù)雜的方式運行。

他們試驗了四種不同的LLM模型,為它們分配了具有以前被確定為緊急.他們沒有發(fā)現(xiàn)任何證據(jù)表明差異化思維的發(fā)展,也沒有發(fā)現(xiàn)任何模型能夠在他們的編程之外發(fā)揮作用。

對于所有四個模型,遵循指示、記憶和語言熟練程度的能力能夠解釋 LLM 表現(xiàn)出的所有能力。沒有離開滑雪道。我們沒有什么可害怕的,LLMs本身。

另一方面,人們,不太值得信賴.我們自己對人工智能的爆炸性使用,需要更多的能量并挑戰(zhàn)從版權(quán)到信任,再到如何避免自己的一切數(shù)字污染,這正在成為一個真正的問題。

“我們的研究結(jié)果并不意味著人工智能根本不構(gòu)成威脅,”古列維奇 說.

“相反,我們表明,與特定威脅相關(guān)的復(fù)雜思維技能的出現(xiàn)并沒有得到證據(jù)的支持,而且我們畢竟可以很好地控制LLM的學(xué)習(xí)過程。因此,未來的研究應(yīng)該關(guān)注這些模型帶來的其他風(fēng)險,例如它們可能被用來產(chǎn)生假新聞。

該研究已作為會議記錄的一部分發(fā)表第62屆計算語言學(xué)協(xié)會年會.

寶寶起名

本站所有相關(guān)知識僅供大家參考、學(xué)習(xí)之用,部分來源于互聯(lián)網(wǎng),其版權(quán)均歸原作者及網(wǎng)站所有,如無意侵犯您的權(quán)利,請與小編聯(lián)系,我們將會在第一時間核實并給予反饋。
相關(guān)期刊推薦
湖北農(nóng)機化

湖北農(nóng)機化

農(nóng)業(yè)基礎(chǔ)科學(xué) - 省級期刊

文體用品與科技

文體用品與科技

合作期刊 - 國家級期刊

物流工程與管理

物流工程與管理

合作期刊 - 國家級期刊

戲劇之家

戲劇之家

合作期刊 - 省級期刊

西部學(xué)刊

西部學(xué)刊

合作期刊 - 省級期刊

現(xiàn)代鹽化工

現(xiàn)代鹽化工

合作期刊 - 省級期刊

住宅與房地產(chǎn)

住宅與房地產(chǎn)

合作期刊 - 省級期刊

中國集體經(jīng)濟

中國集體經(jīng)濟

合作期刊 - 國家級期刊

湖北農(nóng)機化

湖北農(nóng)機化

農(nóng)業(yè)基礎(chǔ)科學(xué) - 省級期刊

經(jīng)貿(mào)實踐

經(jīng)貿(mào)實踐

合作期刊 - 省級期刊