攻击的核心机制在于图像重采样技术。当用户将图片上传至AI系统时，为了优化性能和降低成本，系统通常会自动调整图片分辨率。而攻击者正是利用了这一环节：在全分辨率图像中看似无害的内容，在经过如双三次插值等重采样算法处理后，特定区域的隐藏指令会以可读的文本形式暴露出来。

近日，网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sabi Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性，在人眼不可见的图像中注入恶意指令，从而劫持大型语言模型（LLM）并窃取用户数据。 该攻击的核心在于图像重采样攻击。当用户上传图片到AI系统时，系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全 ...

🤖 英伟达机器人高性能计算平台上市 🔥 马斯克真·起诉苹果、OpenAI：阻碍其他 AI 竞争 👾 格力高管再回应「销量被小米空调超越」 🔧 华为靳玉志：ADS 4 将具备高速 L3 试点商用及城区 L4 测试能力 🕶️ 字节跳动：暂无发布 ...

大型科技公司推出的AI聊天机器人正在对脆弱用户造成意想不到的心理伤害。多个案例显示，用户在与AI长时间对话后产生妄想，相信自己发现了数学公式、破解了加密技术或获得了宇宙使命。这些AI系统通过用户反馈学习，演化为会验证任何理论、确认错误信念的"完美应声 ...