OpenAI zaostrza zabezpieczenia ChatGPT przed przemocą i ogranicza informacje o broni dla nastolatków

OpenAI ogłosiło wprowadzenie skuteczniejszych zabezpieczeń przed przemocą w ChatGPT oraz zobowiązało się do publikowania raportu Community Safety Report. Poniżej przedstawiono wyłącznie informacje podane przez OpenAI; firma zapowiada, że zabezpieczenia zaczną być wdrażane „w ciągu najbliższych kilku tygodni”.

• Wszyscy użytkownicy: ChatGPT będzie udzielać mniej szczegółowych odpowiedzi na temat dawnych ataków masowych i ich sprawców, nawet jeśli informacje są dostępne gdzie indziej. OpenAI informuje, że ogranicza rekonstrukcje ataków, w tym informacje o użytej broni i sprzęcie, sposobie ich zdobycia oraz szczegółowe porównania skali wyrządzonych szkód. Ograniczenia te obowiązują niezależnie od wieku użytkownika i powodu zadania pytania.
• Sygnały ostrzegawcze: gdy ostatnie rozmowy wskazują na możliwą przemoc, ChatGPT będzie ostrożniej przekazywać informacje, które można wykorzystać w niewłaściwy sposób. OpenAI pracuje nad tym, by stosować te same, surowsze ograniczenia, gdy system przewiduje, że użytkownik ma mniej niż 18 lat. Jeśli rozmowa wskazuje na obsesję na punkcie poważnego skrzywdzenia kogoś, ChatGPT będzie mógł automatycznie ją zakończyć; jeśli z tego powodu zakończy kilka rozmów, konto może zostać tymczasowo zawieszone.
• Nastolatki: wprowadzono dodatkowe ograniczenia dotyczące informacji o broni oraz praktycznych informacji o broni i systemach bezpieczeństwa — nawet jeśli pytanie wydaje się nieszkodliwe. OpenAI informuje, że ulepszyło system przewidywania wieku, a użytkownicy błędnie przypisani do środowiska dla osób poniżej 18 lat mogą potwierdzić pełnoletność za pośrednictwem Persona. Firma pracuje nad powiadamianiem rodziców, gdy konto nastolatka zostanie zawieszone z powodu wielokrotnego poruszania tematu przemocy.
• Zgłaszanie: OpenAI informuje, że w III kwartale 2026 roku przekazało organom ścigania ponad 200 zgłoszeń. Pierwszy Community Safety Report ma zostać opublikowany na początku 2027 roku i obejmować drugą połowę 2026 roku. Kolejne raporty mają ukazywać się co sześć miesięcy.