研究人员攻破 ChatGPT 的记忆和网页搜索功能#

网络安全公司Tenable的研究人员近日披露，ChatGPT及其SearchGPT功能中存在七个可被利用的数据泄露与攻击漏洞。这些漏洞涉及记忆功能、链接打开命令和链接安全校验端点，攻击者可通过构造特定网页或恶意链接诱导AI执行隐藏指令，从而实现提示注入、钓鱼或用户数据外泄。 研究显示，攻击者可借助含有隐藏提示的网页或利用Bing点击追踪链接绕过安全检测，间接访问并提取用户记忆与聊天记录。部分攻击还可在用户数据中注入新指令，持续泄露敏感信息。OpenAI已针对部分问题进行修复，但Tenable指出，该类提示注入风险在大型语言模型中仍是长期存在的安全挑战。

SecurityWeek