近期，英國《衛報》發布了一項引人關注的調查結果，指出OpenAI的ChatGPT搜索工具可能會受到隱藏內容的操控，甚至存在返回惡意代碼的風險。這一發現引發了業界對AI搜索工具安全性和可靠性的新一輪討論。
在測試中，《衛報》團隊探究了ChatGPT如何處理包含隱藏內容的網頁摘要。這些隱藏內容可能包括第三方指令，即所謂的“提示注入”，旨在干擾ChatGPT的回應，或者包含旨在影響AI回應的特定內容，如大量隱藏的文字用于推銷產品或服務。這些技術如果被惡意利用，可能會導致ChatGPT在評估產品時給出不真實的評價。
例如，在測試中，ChatGPT被要求評估一個偽造的相機產品頁面是否值得購買。對于普通的頁面，ChatGPT給出了一個平衡的評價，指出了產品的優缺點。然而，當頁面包含隱藏的指令性文本，要求ChatGPT給予正面評價時，AI工具的回應總是完全積極的，即使頁面上存在負面評論，隱藏文本也能覆蓋真實的評價。這種操控方式使得ChatGPT的回應失去了客觀性。
更令人擔憂的是，ChatGPT在搜索過程中還有可能從網站中提取惡意代碼。這意味著，如果用戶通過ChatGPT搜索并訪問了被注入惡意代碼的網頁，他們的設備可能會受到威脅。這一發現無疑增加了對ChatGPT搜索功能安全性的擔憂。
CyberCX的網絡安全專家Jacob Larsen對此表示，如果ChatGPT的搜索系統按當前狀態全面發布，可能會存在很高的風險。他警告說，有人會專門設計網站來欺騙用戶，利用ChatGPT的搜索功能進行惡意操作。然而，Larsen也指出，由于搜索功能是最近才推出的，OpenAI有足夠的時間來測試并修復這些潛在問題。他相信，OpenAI擁有一支強大的AI安全團隊，能夠在該功能對所有用戶開放前進行嚴格測試。
搜索引擎如谷歌在過去也曾對使用隱藏文本的網站進行懲罰，這些網站的排名會下降，甚至可能被完全移除。SR Labs的首席科學家Karsten Nohl認為，ChatGPT作為搜索領域的新入局者，同樣面臨著SEO中毒的挑戰。他指出，SEO中毒者與谷歌、必應等搜索引擎的對抗已經持續了多年，而ChatGPT現在也需要應對類似的問題。不過，Nohl強調，這并不是大語言模型本身的問題，而是由于ChatGPT作為搜索工具的新角色所帶來的挑戰。
總之，這次《衛報》的調查揭示了ChatGPT搜索工具在應對隱藏內容方面存在的潛在風險。對于OpenAI來說，確保搜索功能的安全性和可靠性將是未來發展的關鍵。同時，對于用戶來說，也需要保持警惕，避免在使用ChatGPT搜索功能時受到欺騙或攻擊。
