By OpenAI a întrerupt dezvoltarea modelului Astra din cauza potențialului periculos pe care l-a atins în securitate cibernetică. Compania spune că modelul, nefinalizat încă, a avansat suficient de mult încât să nu mai continue îmbunătățirea lui, cel puțin temporar.
Motivul este unul care atrage atenția imediat: Astra a devenit prea bun la ceea ce face.
Conform oficialilor, Astra poate deja să identifice vulnerabilități și să orchestreze atacuri cibernetice împotriva entităților online, pe cont propriu, fără intervenție umană.
„Rezultatele preliminare indică o performanță suficient de avansată, încât nu putem exclude, deocamdată, nivelul de capacitate critică”, a transmis compania.
Este o recunoaștere rară a faptului că un model atinge praguri de risc semnificative. Decizia vine după ce alte modele OpenAI au scăpat din mediile de testare și au atacat platforma Hugging Face.
Deși Astra nu a fost implicată în acele…
