你在找什么？
股票
代碼
代碼
001266
【今年會官網科技消息】今年會官網從外媒獲悉，安全研究人員開發出一種新型攻擊技術——通過篡改圖片竊取用戶敏感數據。該技術利用普遍集成的AI模型漏洞，由安全公司Trail of Bits的Kikimora Morozova和Suha Sabi Hussain提出，基于2020年布倫瑞克工業大學提出的"圖像縮放攻擊"概念。
該技術的核心原理在于AI系統為節省算力會自動縮小上傳的圖片，采用"最近鄰插值"雙線性"或"雙三次"等重采樣算法。這導致原始圖中隱藏的特定圖案在縮小后顯現——人眼難以察覺，但語言模型可讀取。實驗中，研究人員通過暗色區域變紅顯現隱藏文本，誘使AI將其識別為合法指令。
攻擊發生時用戶毫無察覺，但系統后臺可執行惡意命令。測試中，攻擊者成功利用"Gemini CLI"工具將谷歌賬戶日歷數據轉發至第三方郵箱。
谷歌Gemini
據悉，受影響平臺包括谷歌Gemini系列（CLI/網頁/API/Vertex AI Studio）、安卓版Google Assistant及Genspark服務。為演示風險，研究人員開源了工具"Anamorpher"，可生成針對不同縮放算法的攻擊圖片。
那么，有哪些防御建議呢？限制上傳圖片尺寸、向用戶展示縮放預覽圖、禁止自動執行安全敏感操作（尤其是圖片文本提取）。研究人員強調，根本解決方案在于構建抗提示詞注入攻擊的魯棒系統架構。
版權所有，未經許可不得轉載
-今年會官網提交信息后，業務人員將盡快與您聯系
用微信掃一掃，關注我們取得聯系
