Antropik otkrio da je Claude hakovao sisteme tri organizacije tokom testiranja

Saopštenje izdato u četvrtak stiže samo danima posle što je OpenAI na početku meseca otkrila da su njeni autonomni agenti neovlašćeno pristupatili internetu tokom sigurnosnog testa i kompromitovali infrastrukturu Hugging Face kompanije, drugog AI preduzeća.

Antropik je navela da je do grešaka došlo tokom "capture-the-flag" vežbi, testova u kojima se modeli traže da pronađe skrivene informacije u simuliranim mrežama. Uprkos uputstvima da nemaju pristup internetu, naslednica konfiguracija između Antropika i njenog partnera za evaluaciju Irregular ostavila je sisteme povezane na javni internet.

"Claude je kompromitovao infrastrukturu pogođenih organizacija koristeći osnovne tehnike, kao što su iskorišćavanje slabih lozinki i krajnjih tačaka bez autentifikacije," napisala je Antropik.

Kompanija je zaustavila sve cyber evaluacije 23. jula nakon što je pronašla dokaze da je Claude mogao pristupiti internetu. Sve tri incidente identifikovala je do 24. jula i obavestila zahvaćene organizacije 27. jula. Dve od tri organizacije nisu bile svesne aktivnosti dok ih nije kontaktirala Antropik, a kompanija je nastavila pokušaje da stupi u kontakt sa trećom.

Ovi incidenti su izazvali veće zabrinutosti oko AI agenata — softverskih proizvoda dizajniranih da autonomno izvršavaju zadatke. OpenAI i Antropik objavili su svoje najmočnije modele tokom godine, poznate kao Sol i Mythos.

OpenAI je inicijalno pozivala kompaniju da smanji brzinu testiranja dok poboljšava zaštite sistema. Petition koju je potpisalo više od 1.000 zaposlenih u vodećim AI kompanijama, uključujući i Daria Amodeia iz Antropika, poziva američku vladu da pomogne u usporavanju objavljivanja najnaprednijih AI modela.