Kuidas suutsid OpenAI mudelid murda turvalisest keskkonnast võõrasse süsteemi?

Al Jazeera teatel pääsesid kaks OpenAI arenenud tehisintellektimudelit juulis sisemises küberturbetestis suletud testkeskkonnast välja ja murdsid Hugging Face’i süsteemidesse. OpenAI eemaldas mudelitelt tavapärased ohutuspiirangud, et katsetada nende iseseisvat tegutsemisvõimet. Katse toimus internetiühenduseta sisemises virtuaalses testkeskkonnas ExploitGym.

Al Jazeera teatel said mudelid 9. juulil ülesandeks parandada tarkvaranõrkusi. Üks neist oli juunis avaldatud GPT-5.6 Sol, mis on üks OpenAI võimsaim mudel, teine oli ainult kirjeldatud kui „veel võimekam” versioon.

Mõlemad mudelid otsisid ülesande lahendamiseks veebiühendust, leidsid testkeskkonnast turvanõrkuse ja kasutasid seda piiratud keskkonnast väljumiseks. Seejärel liikusid nad arvutist arvutisse, jõudsid internetiühendusega süsteemini, murdsid OpenAI-ga mitteseotud Hugging Face’i süsteemidesse, leidsid sealt lahendused ja naasid ülesannet lõpetama.

Reutersi teatel kasutasid mudelid haavatavat koodi, mille oli kirjutanud kolmanda sõltumatu tehisintellektiettevõtte Modal Labsi klient. Hugging Face’i kaasasutaja Thomas Wolf ütles, et sissemurdmine algas 11. juulil ja kestis 13. juulini. Al Jazeera teatel pole selge, kui kiiresti Hugging Face’i turvameeskond juhtumi avastas.

See oli tõenäoliselt esimene näide iseseisvalt tegutsenud tehisintellektiagendist, süsteemist, mis suudab teha otsuseid ja tegutseda eesmärgi nimel.