AI 搜索的阴暗面，隐藏内容可操纵 ChatGPT 结果

作者: [db:作者]   点击次数:    发布时间: 2024-12-26 14:58

IT之家 12 月 25 日新闻，英国卫报昨日（12 月 24 日）宣布博文，报道称 OpenAI 的 ChatGPT 搜寻存在保险成绩，其前往成果能够被页面的暗藏内容把持，乃至可能前往歹意代码。英国卫报重点测试了 ChatGPT 搜寻东西对包括暗藏内容的网页处置情形，IT之家注：这里的暗藏内容可能包括来自第三方、能够变动 ChatGPT 呼应的指令（也称为“提醒注入”），以及添补大批虚伪好评，影响天生成果的内容。依据测试成果，ChatGPT 搜寻东西能够被歹意应用，只管页面存在局部负面批评，但能够影响 ChatGPT 成果为踊跃的正面评价，保险研讨职员还发明 ChatGPT 能够从其搜寻的网站前往歹意代码，呈现了含有垂纶歹意行动的虚伪网站。CyberCX 的收集保险研讨员 Jacob Larsen 以为，ChatGPT 以后的搜寻体系宣布后，人们创立专门用于诈骗用户的网站的危险很高，所幸的是该功效仍处于测试阶段，OpenAI 团队正在尽力处理这些成绩。保险公司 SR Labs 的首席迷信家 Karsten Nohl 则倡议将 AI 谈天效劳视为“帮助功效”，不该完整信赖其未经由滤的输出内容。Nohl 将 AI 搜寻面对的成绩比作“SEO 中毒”，黑客应用这种技巧把持网站在搜寻成果中排名靠前，并在网站中植入歹意软件或代码，他以为 ChatGPT 的搜寻功效也面对相似的挑衅。告白申明：文内含有的对外跳转链接（包含不限于超链接、二维码、口令等情势），用于通报更多信息，节俭甄选时光，成果仅供参考，IT之家全部文章均包括本申明。 ]article_adlist--> 　　申明：新浪网独家稿件，未经受权制止转载。 -->