AI 搜索的阴暗面，隐藏内容可操纵 ChatGPT 结果

GoodNav 12 月 25 日报道，英国卫报于昨日（12 月 24 日）发表博文，指出 OpenAI 的 ChatGPT 搜索存在安全隐患，其返回的数据可能受到页面隐藏内容的操控，甚至可能会输出恶意代码。

英国卫报专门测试了 ChatGPT 搜索工具对含有隐藏内容网页的处理情况，需注意的是，这些隐藏内容可能包括来自第三方的指令（称为“提示注入”），能够改变 ChatGPT 的响应，以及填充大量虚假好评，从而影响生成的结果。

测试显示，ChatGPT 搜索工具有被恶意利用的风险，尽管网页上存在一些负面评论，但其结果仍可被操控为正面评估。安全专家还发现，ChatGPT 能从其搜索的网站中返回恶意代码，导致出现了包含钓鱼行为的虚假网站。

CyberCX 的网络安全研究员 Jacob Larsen 表示，ChatGPT 当前搜索系统上线后，创建专门欺骗用户的网站的风险很高。不过值得庆幸的是，该功能仍在测试阶段，OpenAI 正在积极解决这些问题。

此外，安全公司 SR Labs 的首席科学家 Karsten Nohl 建议大家将 AI 聊天服务视为“辅助工具”，不应完全依赖其未经筛选的输出内容。

Nohl 将 AI 搜索面临的挑战比作“SEO 中毒”，黑客利用这种方式操控网站在搜索结果中的排名，并在网站中植入恶意软件或代码，他认为 ChatGPT 的搜索功能也面临同样的考验。