研究發(fā)現(xiàn)，使用人工智能尋找信息可能會削弱你的知識

自2022年底ChatGPT發(fā)布以來，數(shù)百萬人開始使用大型語言模型訪問知識。它們的吸引力很容易理解：提出一個問題，得到一個精致的綜合，然后繼續(xù)前進(jìn)——感覺就像是毫不費力地學(xué)習(xí)。

然而，我合著的一篇新論文提供了實驗證據(jù)，表明這種便利可能有代價：當(dāng)人們依賴大型語言模型來總結(jié)某個主題的信息時，他們往往會發(fā)展更淺的知識相比于通過標(biāo)準(zhǔn)谷歌搜索學(xué)習(xí)，這點很明顯。

合著者晉浩允我兩位市場營銷教授在一篇基于七項研究、超過一萬名參與者的論文中報告了這一發(fā)現(xiàn)。

相關(guān)：越來越多的人冒著從聊天機(jī)器人獲得醫(yī)療建議的風(fēng)險。原因如下。

大多數(shù)研究采用相同的基本范式：參與者被要求學(xué)習(xí)一個主題——比如如何種植菜園——并被隨機(jī)分配，使用像ChatGPT這樣的大型語言模型，或通過“傳統(tǒng)方法”通過標(biāo)準(zhǔn)谷歌搜索導(dǎo)航鏈接來完成。

使用工具沒有任何限制;他們可以在谷歌上搜索任意長時間，如果想要更多信息，也可以繼續(xù)提示ChatGPT。

完成調(diào)研后，他們會根據(jù)所學(xué)寫給朋友的建議。

數(shù)據(jù)顯示了一個一致的模式：通過大型語言模型學(xué)習(xí)主題的人，與通過網(wǎng)絡(luò)搜索相比，他們覺得自己學(xué)得更少，隨后在寫建議時投入的精力也更少，最終寫出的建議更短、更不真實、更通用。

反過來，當(dāng)這些建議被提交給一群獨立樣本的讀者時，他們不知道用了哪種工具來了解該主題，他們發(fā)現(xiàn)這些建議的信息量較低、幫助性較低，且更不愿意采納。

我們發(fā)現(xiàn)這些差異在多種情境下都表現(xiàn)出強(qiáng)勁性。例如，LLM用戶寫出簡短且通用的建議的一個可能原因是，LLM結(jié)果讓用戶接觸到的信息比谷歌結(jié)果少。

為了控制這種可能性，我們進(jìn)行了一項實驗，參與者在谷歌和ChatGPT搜索結(jié)果中接觸到相同的事實。

同樣，在另一個實驗中，我們保持搜索平臺——谷歌——為固定值，參與者是從標(biāo)準(zhǔn)谷歌結(jié)果學(xué)習(xí)還是谷歌的AI概覽功能。

研究結(jié)果證實，即使保持事實和平臺不變，從綜合的LLM回答中學(xué)習(xí)，也使得比通過傳統(tǒng)網(wǎng)絡(luò)鏈接自行收集、解讀和綜合信息獲得更淺的知識。

為什么重要

為什么使用大型語言模型似乎會削弱學(xué)習(xí)？技能發(fā)展最基本的原則之一是，人們在狀態(tài)良好時學(xué)習(xí)效果最好積極參與材料他們正在努力學(xué)習(xí)。

當(dāng)我們通過谷歌搜索了解一個話題時，會遇到更多的“阻力”：我們必須瀏覽不同的網(wǎng)絡(luò)鏈接，閱讀信息來源，并自己解讀和綜合它們。

雖然更具挑戰(zhàn)性，但這種摩擦導(dǎo)致了更深刻、更原創(chuàng)的心理表征關(guān)于當(dāng)前話題。但對于大型語言模型來說，整個過程都是由用戶代為完成的，將學(xué)習(xí)從主動轉(zhuǎn)變?yōu)楸粍印?/p>

接下來是什么？

需要明確的是，我們不認(rèn)為解決這些問題的方法是避免使用大型語言模型，尤其考慮到它們在許多情境下所帶來的不可否認(rèn)的好處。

相反，我們的信息是，人們只需要變得更聰明或更具戰(zhàn)略性的大型語言模型用戶——這首先要理解哪些領(lǐng)域大型語言模型對他們的目標(biāo)有益，哪些是有害的。

需要一個快速、事實準(zhǔn)確的問題回答嗎？歡迎使用你最喜歡的AI副駕駛。但如果你的目標(biāo)是發(fā)展某個領(lǐng)域深入且具通用性的知識，單靠LLM綜合研究就沒那么有幫助。

作為我對新技術(shù)和新媒體心理學(xué)研究的一部分，我也對是否能讓LLM學(xué)習(xí)成為一個更主動的過程感興趣。在又一個實驗我們通過讓參與者與一個專門的GPT模型互動來測試，該模型在綜合回答的同時提供實時網(wǎng)絡(luò)鏈接。

然而，我們發(fā)現(xiàn)一旦參與者收到LLM摘要，他們就沒有動力深入挖掘原始資料。結(jié)果是，參與者所獲得的知識仍然淺于使用標(biāo)準(zhǔn)谷歌的人群。

基于此，我計劃在未來的研究中研究那些為學(xué)習(xí)任務(wù)施加健康摩擦的生成式人工智能工具——具體來說，是探討哪些類型的護(hù)欄或減速帶最能激勵用戶主動學(xué)習(xí)，而不僅僅是簡單、綜合的答案。

這些工具在中學(xué)教育中尤為關(guān)鍵，教育者面臨的主要挑戰(zhàn)是如何最好地裝備學(xué)生發(fā)展基礎(chǔ)的閱讀、寫作和數(shù)學(xué)技能，同時為現(xiàn)實中大型語言模型（LLM）可能成為日常生活重要組成部分做好準(zhǔn)備。

這研究簡報這是對有趣學(xué)術(shù)工作的簡短見解。

希里·梅盧馬德市場營銷副教授，賓夕法尼亞大學(xué)

本文轉(zhuǎn)載自對話采用知識共享許可協(xié)議。請閱讀原文.

寶寶起名 起名