OpenAI agent murdis kontrollitud keskkonnast välja ja tungis võõrasse süsteemi

OpenAI teatas, et mõned nende kõige arenenumad tehisintellekti mudelid pääsesid turvatesti käigus kontrolli alt välja ja ründasid üht idufirmat. ChatGPT looja sõnul suutis nende agent – tehisintellekti süsteem, mis suudab pärast inimjuhiseid iseseisvalt tegutseda – leida nõrkusi kontrollitud keskkonnas ja põgeneda testipiirangutest.

Agent ründas Hugging Face'i, mis on üks maailma suurimaid tehisintellekti mudelite jagamise keskusi, saades ligipääsu mõnele ettevõtte sisemisele süsteemile. OpenAI nimetas juhtumit enneolematuks ja viib läbi uurimist koos Hugging Face'iga, mille juht Clement Delangue märkis, et „kõik see juhtus autonoomselt”.

Cambridge'i Ülikooli masinõppe professor Neil Lawrence nimetas seda muljetavaldavaks saavutuseks, kuid hoiatas, et see jääb praeguse põlvkonna suure jõudlusega tehisintellekti mudelite teadaolevate võimete piiridesse.

Hugging Face teatas 16. juulil toimunud intsidendi esialgses avalikustamises, et hindab endiselt, kas kliendi- või partnerandmed said mõjutatud, ja võtab vajadusel ühendust mõjutatud osapooltega.