9 月 19 日消息，科技媒體 Android Headline 昨日（9 月 18 日）發(fā)布博文，報道稱網(wǎng)絡安全公司 Radware 發(fā)現(xiàn) ChatGPT“深度研究”（deep research）功能存在漏洞，黑客可通過特制郵件誘導其在處理 Gmail 查詢時，將敏感信息發(fā)送至惡意網(wǎng)站。
ChatGPT 的“深度研究”可分析來自 Gmail、Google Drive 等應用的大量信息，Radware 公司指出黑客利用該漏洞，可發(fā)送包含隱蔽指令的郵件。在用戶請求 ChatGPT 針對郵箱執(zhí)行深度研究后，系統(tǒng)會被誘導將敏感數(shù)據(jù)傳送至黑客控制的網(wǎng)站，信息可能涉及姓名、地址等隱私。
不同于傳統(tǒng)攻擊方式，此次事件的特殊之處在于，AI 本身被操縱成為數(shù)據(jù)竊取的執(zhí)行者。攻擊需滿足多個條件，例如用戶的查詢主題需與惡意郵件設計匹配，且整個過程較為復雜。這種利用 AI 代理反向竊取數(shù)據(jù)的方式，在以往安全案例中較少出現(xiàn)。
Radware 還指出，常規(guī)安全防護工具幾乎無法發(fā)現(xiàn)這類攻擊，因為數(shù)據(jù)傳輸?shù)钠瘘c是 OpenAI 的服務器，而非用戶的電腦或瀏覽器。這意味著，即使本地防護正常運行，也難以阻止數(shù)據(jù)外泄，增加了防御難度。
OpenAI 在 8 月獲悉漏洞后迅速修補，并于 9 月公開確認此事。公司發(fā)言人強調(diào)，模型安全是首要任務，歡迎外部研究幫助改進技術。