OpenAI wprowadza tryb Lockdown Mode chroniący przed atakami prompt injection

OpenAI wprowadza nową funkcję Lockdown Mode, która ma zapewnić dodatkową ochronę przed atakami prompt injection, w których złośliwe instrukcje dla chatbota są ukryte na stronach internetowych i w innych źródłach treści. Nowa funkcja została zaprojektowana specjalnie dla osób i organizacji obsługujących wrażliwe dane. Więcej szczegółów w oryginalnym artykule na TechCrunch.

Kluczowe wnioski

• Lockdown Mode wyłącza przeglądanie internetu na żywo, pobieranie obrazów z sieci, funkcję głębokiego badania i tryb agenta.
• Tryb pozwala jedynie na dostęp do treści cache'owanych i wciąż umożliwia generowanie obrazów przez AI.
• OpenAI przyznaje, że nawet z włączonym trybem bezpieczeństwa ChatGPT pozostaje podatny na niektóre ataki prompt injection.
• Funkcja jest kierowana głównie do firm i organizacji obsługujących wrażliwe dane, a nie do zwykłych użytkowników.
• Lockdown Mode jest obecnie wdrażany dla kont ChatGPT Business oraz wybranych kont osobistych.

Jak działa Lockdown Mode

Nowa funkcja wprowadza szereg ograniczeń mających na celu zmniejszenie ryzyka wycieku wrażliwych danych. W trybie Lockdown ChatGPT nie może przeglądać internetu w czasie rzeczywistym — użytkownicy mają dostęp jedynie do treści cache'owanych. System wyłącza również możliwość pobierania i wyświetlania obrazów z sieci, choć zachowuje funkcję generowania własnych obrazów.

Dodatkowo tryb bezpieczeństwa dezaktywuje zaawansowane funkcje jak deep research i tryb agenta, które mogłyby potencjalnie zwiększać powierzchnię ataku dla złośliwych instrukcji.

Ograniczenia i cele funkcji

OpenAI jasno komunikuje, że Lockdown Mode nie jest rozwiązaniem uniwersalnym. Jak przyznaje firma, ”nawet z włączonym trybem Lockdown ChatGPT może pozostać podatny na ataki prompt injection”. Złośliwe instrukcje mogą nadal ”pojawiać się w cache'owanych treściach internetowych lub przesłanych plikach i wciąż wpływać na zachowanie lub dokładność odpowiedzi”.

Celem nowej funkcji nie jest całkowite wyeliminowanie zagrożeń, ale ”zmniejszenie prawdopodobieństwa udostępnienia wrażliwych danych w tym procesie”. OpenAI podkreśla, że ”Lockdown Mode nie jest przeznaczony dla wszystkich” — funkcja została zaprojektowana dla ”osób i organizacji obsługujących wrażliwe dane i chcących ściślejszej ochrony przed ryzykiem eksfiltracji danych związanym z prompt injection”.

Lockdown Mode stanowi pierwszy krok OpenAI w kierunku lepszego zabezpieczenia ChatGPT przed rosnącymi zagrożeniami związanymi z atakami prompt injection, choć firma realistycznie ocenia jego możliwości jako rozwiązania pomocniczego, a nie kompletnego.