我們還能再相信我們的眼睛嗎？Apple 新 AI 清理工具的陰暗面

您可能已經(jīng)看過 Apple 宣傳其新清理功能可用于刪除照片中的元素。當(dāng)其中一個廣告在本周末引起我的注意時，我很感興趣并更新了我的軟件來試用它。

該功能自 12 月以來已在澳大利亞為具有某些硬件和軟件功能.它還適用于新西蘭、加拿大、愛爾蘭、南非、英國和美國的客戶。

該工具使用生成式人工智能（AI） 來分析場景并建議可能分散注意力的元素。您可以在下面的屏幕截圖中看到突出顯示的內(nèi)容。

然后，您可以點按建議的元素以將其刪除，或點按圓圈元素以將其刪除。然后，該設(shè)備使用生成式 AI 嘗試根據(jù)周圍區(qū)域創(chuàng)建合乎邏輯的替代品。

更簡單的欺騙方法

智能手機(jī)照片編輯應(yīng)用程序已經(jīng)存在了十多年，但現(xiàn)在，您無需下載、付費或?qū)W習(xí)使用新的第三方應(yīng)用程序。如果您有符合條件的設(shè)備，則可以直接在智能手機(jī)的默認(rèn)照片應(yīng)用程序中使用這些功能。

Apple 的 Clean Up 加入了各種科技公司已經(jīng)提供的許多類似工具。那些使用 Android 手機(jī)的人可能已經(jīng)使用了 Google 的Magic 編輯器.這允許用戶使用 AI 移動、調(diào)整大小、重新著色或刪除對象。具有 select 的用戶Samsung 設(shè)備可以使用他們的內(nèi)置照片庫應(yīng)用程序刪除照片中的元素。

總是有方法——模擬和最近的數(shù)字——可以欺騙。但是，以免費、易于使用的方式將它們集成到現(xiàn)有軟件中，使這些可能性變得更加容易。

完全使用 AI 編輯照片或創(chuàng)建新圖像引發(fā)了有關(guān)照片和視頻可信度的緊迫問題。我們依賴這些設(shè)備產(chǎn)生的視覺，從警察身體和交通攝像頭到保險索賠和驗證包裹的安全遞送。

如果科技的進(jìn)步正在侵蝕我們對圖片甚至視頻的信任，我們就必須重新思考相信自己的眼睛意味著什么。

如何使用這些工具？

刪除分散注意力或不需要的元素的想法可能很有吸引力。如果您曾經(jīng)去過擁擠的旅游熱點，那么移除一些其他游客以便您可以更多地關(guān)注環(huán)境可能會很有吸引力（下圖前后）。

但是，除了消除干擾之外，這些工具還可以如何使用呢？

有些人用它們來去除水印。水印通常是由攝影師或公司添加的，目的是保護(hù)他們的作品免受未經(jīng)授權(quán)的使用。刪除這些會使未經(jīng)授權(quán)的使用不那么明顯，但不會降低合法性。

其他人則使用它們來更改證據(jù)。例如，賣家可能會編輯受損商品的照片，以聲稱該商品在發(fā)貨前狀況良好。

隨著圖像編輯和生成工具變得越來越普遍和易于使用，用途列表氣球。其中一些用途可能令人討厭。

AI 生成器現(xiàn)在可以使收益例如。然后，人們可以嘗試將這些提交給他們的雇主，以獲得實際未發(fā)生的費用的報銷。

我們所看到的任何東西都可以再被信任嗎？

考慮到這些發(fā)展，擁有某物的“視覺證據(jù)”意味著什么？

如果您認(rèn)為照片可能被編輯過，那么放大有時會顯示 AI 堵塞的異常情況。以下是 Clean Up （清理） 功能生成的新內(nèi)容與舊內(nèi)容不完全匹配的一些區(qū)域的放大版本。

通常，處理一張圖像比以相同方式令人信服地編輯同一場景的多張圖像更容易。因此，要求查看從不同角度顯示同一場景的多個 outtakes 可能是一種有用的驗證策略。

親眼看到東西可能是最好的方法，盡管這并不總是可能的。

做一些額外的研究也可能有所幫助。例如，在假收據(jù)的情況下，餐廳是否存在？它在收據(jù)上顯示的日期營業(yè)嗎？菜單上是否提供據(jù)稱出售的菜品？稅率是否與當(dāng)?shù)囟惵氏喾?/p>

上述手動驗證方法顯然需要時間。隨著 AI 編輯和生成風(fēng)險的增加，可以自動執(zhí)行這些平凡任務(wù)的值得信賴的系統(tǒng)可能會越來越受歡迎。

同樣，還有一個監(jiān)管機(jī)構(gòu)應(yīng)發(fā)揮的作用確保人們不會濫用 AI 技術(shù)。在歐盟，Apple 推出其 Apple Intelligence 功能（包括清理功能）的計劃因”監(jiān)管不確定性".

人工智能可以用來讓我們的生活更輕松。像任何技術(shù)一樣，它可以用于好事或壞事。了解它的能力并發(fā)展您的視覺和媒體素養(yǎng)對于成為我們數(shù)字世界中知情的成員至關(guān)重要。

T.J. 湯姆森，視覺傳播與數(shù)字媒體高級講師，皇家墨爾本理工大學(xué)

本文轉(zhuǎn)載自對話根據(jù) Creative Commons 許可。閱讀原創(chuàng)文章.

寶寶起名 起名