OpenAI的ChatGPT搜索工具存在安全漏洞,可能返回恶意代码

近日,英国卫报发布了一篇关于OpenAI的ChatGPT搜索工具安全问题的报道。报道指出,ChatGPT在处理包含隐藏内容的网页时,可能会被恶意使用,返回被操纵的结果,甚至包含恶意代码。

测试结果显示,尽管页面存在部分负面评论,但通过“提示注入”等技术,可以影响ChatGPT的结果为积极的正面评估。此外,安全研究人员还发现,ChatGPT可以从其搜索的网站返回恶意代码,出现了含有钓鱼恶意行为的虚假网站。

CyberCX的网络安全研究员Jacob Larsen表示,ChatGPT当前的搜索系统发布后,人们创建专门用于欺骗用户的网站的风险很高。所幸的是,该功能仍处于测试阶段,OpenAI团队正在努力解决这些问题。

安全公司SR Labs的首席科学家Karsten Nohl则建议将AI聊天服务视为“辅助功能”,不应完全信任其未经过滤的输出内容。Nohl将AI搜索面临的问题比作“SEO中毒”,黑客利用这种技术操纵网站在搜索结果中排名靠前,并在网站中植入恶意软件或代码,他认为ChatGPT的搜索功能也面临类似的挑战。

Copyright © DoNews 2000-2024 All Rights Reserved
蜀ICP备2024059877号-1     京ICP证151088号
京网文【2018】2361-237号