AI 搜索的阴暗面，隐藏内容可操纵 ChatGPT 结果

据 IT之家报道，英国卫报在 12 月 24 日发布的博文中指出，OpenAI 的 ChatGPT 搜索工具存在安全隐患，其搜索结果可能会受到网页中隐藏内容的影响，甚至可能返回恶意代码。

该报道特别测试了 ChatGPT 搜索功能在处理包含隐藏内容的网页时的表现。IT之家备注，隐藏内容可能是来自第三方的指令，这些指令可以更改 ChatGPT 的响应（通常称为“提示注入”），或者还可能包括大量虚假好评，从而影响生成结果的准确性。

根据测试结果显示，ChatGPT 的搜索工具可能被不当使用。虽然网页上有部分负面评论，但这些评论可能会被操控为正面的，安全专家发现 ChatGPT 能够从被搜索的网站中返回恶意代码，创造出带有钓鱼性质的虚假网站。

CyberCX 的网络安全专家 Jacob Larsen 表示，ChatGPT 当前的搜索系统使用户面临更高的风险，特别是有意创造虚假网站以误导用户的情况。值得庆幸的是，该功能目前仍在测试中，OpenAI 正在积极着手解决这些问题。

安全公司 SR Labs 的首席科学家 Karsten Nohl 提出了建议，称应将 AI 聊天服务视作“辅助工具”，用户不应完全依赖其未经筛选的输出结果。

Nohl 比喻 AI 搜索所面临的问题为“SEO 毒化”，黑客利用此技术操控网站以提高搜索排名，并向网站植入恶意软件或代码。他认为 ChatGPT 的搜索功能正面临相似的挑战。

广告声明：文中包含的外部链接（涵盖超链接、二维码、口令等形式）旨在传递更多信息，帮助节省时间，结果仅供参考。