연구진, 공개 ChatGPT 공유 링크를 통해 피해자의 세션에서 코드를 실행할 수 있었다고 밝혀… OpenAI는 10월 26일 수정

보안 업체 Parameter는 10월 28일 공개한 보고서에서 연구진이 공개 대화 공유 링크를 연 사용자의 로그인된 ChatGPT 세션 안에서 공격자가 제어하는 JavaScript를 실행하는 방법을 찾아냈다고 밝혔습니다. 보고서에 따르면 OpenAI는 10월 26일 문제를 수정하고 제보를 P1으로 분류했습니다.

Parameter가 설명한 공격 과정:

• 악성 대화는 MathLive 수학 라이브러리를 불러오고 기본 chatgpt.com 페이지에 메시지 리스너를 설치하는 일반 대화형 그래프와, 해당 리스너에 메시지를 보내는 HTML Preview를 결합합니다. 가상 키보드 레이아웃을 바꾸는 메시지의 발신자를 리스너가 확인하지 않았고, 레이아웃에는 원시 HTML을 넣을 수 있었습니다.
• 이 HTML은 chatgpt.com의 출처를 가진 샌드박스 처리되지 않은 프레임을 만들었습니다. ChatGPT의 콘텐츠 보안 정책은 인라인 스크립트를 차단했지만 YouTube는 허용했고, 콜백 매개변수를 그대로 반환하는 YouTube oEmbed 엔드포인트가 스크립트를 제공했습니다.
• 연구진은 이 코드로 피해자의 대화 목록을 확인하고, 공유된 적 없는 비공개 대화를 읽은 뒤 그 일부를 외부 서버로 보낼 수 있었다고 밝혔습니다. 또한 피해자의 계정으로 가능한 어떤 작업도 같은 권한으로 수행할 수 있었다고 합니다. 공유 링크를 열기만 하면 됐고, Preview를 한 번 클릭해야 할 수도 있었습니다.

Parameter의 타임라인: 10월 18일 제보를 제출했고, OpenAI는 10월 21일 심각도를 P2에서 P1으로 올렸습니다. 수정 사항은 두 웹 프런트엔드에 단계적으로 적용됐으며, 10월 26일 OpenAI는 제보된 메시지를 모두 거부하도록 수정했다고 확인하고 $5,000의 포상금을 지급했습니다. 이 내용은 연구진이 직접 겪은 일이며, 보고서는 실제 사용자에게 이 취약점을 악용한 사례는 설명하지 않습니다.