研究人員表示,公開的 ChatGPT 分享連結可能在受害者的登入工作階段中執行程式碼;OpenAI 已於 10 月 26 日修復
資安公司 Parameter 於 10 月 28 日發布一篇報告,表示研究人員找到一種方法,能在任何開啟公開對話分享連結者的已登入 ChatGPT 工作階段中,執行攻擊者控制的 JavaScript。據該報告指出,OpenAI 已於 10 月 26 日修復此問題,並將該回報列為 P1。
Parameter 對攻擊鏈的說明:
- 惡意對話將一般互動式圖表(會載入 MathLive 數學函式庫,並在主 chatgpt.com 頁面安裝訊息監聽器)與會向其傳送訊息的 HTML Preview 結合。該監聽器不會檢查變更虛擬鍵盤配置的訊息來自何處,而配置內容可以包含原始 HTML。
- 這段 HTML 建立了一個未沙箱化、帶有 chatgpt.com 身分的框架。ChatGPT 的內容安全政策封鎖了行內指令碼,但允許 YouTube;而一個會回傳所提供 callback 參數的 YouTube oEmbed 端點則提供了指令碼。
- 研究人員表示,這段程式碼可以列出受害者的對話、讀取從未分享過的私人對話,並將部分內容傳送到外部伺服器。他們表示,相同的存取權限足以執行受害者帳戶能做的任何操作。只要開啟分享連結,最多再點一下 Preview,就足以觸發攻擊。
Parameter 的時序:該公司於 10 月 18 日提交回報;OpenAI 於 10 月 21 日將嚴重性從 P2 調升為 P1;修復分階段部署至兩個網頁前端;OpenAI 於 10 月 26 日確認兩者都已拒絕回報中提到的訊息,並頒發 5,000 美元獎金。這是研究人員自行描述的攻擊方式;報告並未提及曾利用此漏洞攻擊真實使用者。
來源
- 我們接管了 ChatGPT 帳戶Hacker News · 49 則留言
這樣的新聞,第一時間推播給你。
你使用的 AI 工具一有變化,AI Tracker 就會通知你。