Společnost OpenAI oznámila zavedení nové bezpečnostní funkce s názvem Lockdown Mode. Tento režim byl navržen jako reakce na rostoucí rizika spojená s tzv. prompt injection útoky, při nichž útočníci vkládají do webových stránek nebo dokumentů skryté instrukce, které mohou zmanipulovat chování chatbota a vést k úniku citlivých informací.
Aktivace režimu Lockdown Mode s sebou přináší výrazná omezení funkcionality ve prospěch vyšší bezpečnosti. Mezi klíčová opatření patří deaktivace živého procházení webu, což znamená, že systém bude přistupovat pouze k mezipaměti (cached content). Dále dojde k zablokování vyhledávání a zobrazování externích obrázků z internetu, přičemž možnost generování nových obrázků zůstává zachována. Omezena bude také funkce hloubkového výzkumu (deep research) a pokročilý agentní režim.
„Lockdown Mode není určen pro každého. Je navržen pro jednotlivce a organizace, které manipulují s citlivými daty a vyžadují přísnější ochranu před riziky exfiltrace dat spojenými s prompt injection,“ uvedla společnost OpenAI ve svém prohlášení k novince.
I přes tato opatření OpenAI upozorňuje, že Lockdown Mode nepředstavuje stoprocentní ochranu. Riziko zmanipulování chatbota nadále existuje v případech, kdy se útočné instrukce objeví v uloženém webovém obsahu nebo v souborech nahraných přímo uživatelem. Útoky tohoto typu mohou stále ovlivnit chování modelu nebo přesnost generovaných odpovědí.
V první vlně je novinka zpřístupňována uživatelům v rámci samoobslužných firemních účtů ChatGPT Business a vybraným osobním účtům, které splňují stanovená kritéria. Společnost tímto krokem reaguje na kritiku bezpečnostních expertů, kteří dlouhodobě poukazují na zranitelnost velkých jazykových modelů vůči externím datovým zdrojům.
Zavedení Lockdown Mode přichází v době, kdy se OpenAI potýká s rostoucím tlakem na transparentnost a zabezpečení dat, zejména v kontextu firemního nasazení technologií umělé inteligence. Hlavním cílem nástroje je snížit pravděpodobnost nechtěného sdílení citlivých dat během interakce s chatbotem, i když je to za cenu snížení uživatelského komfortu a aktuálnosti čerpaných informací.