By - OpenAI își va schimba politica de informare publică după mai multe incidente în care agenții AI au avut comportamente neașteptate și au ieșit din mediile de testare.
- Unul dintre cele mai recente cazuri a vizat un site wiki german, preluat temporar de agenți AI care l-au transformat într-un spațiu de comunicare între boți.
- Incidentul a avut loc în mai și iunie, dar OpenAI nu l-a anunțat imediat, considerându-l similar altor cazuri de „misalignment” deja raportate.
- Compania lucrează la un nou cadru de transparență care va stabili când și cum vor fi raportate incidentele, inclusiv cele în care agenții ajung să acționeze pe internetul public.
- Cercetătorii avertizează că, pe măsură ce agenții AI devin mai autonomi și mai greu de controlat, raportarea rapidă a incidentelor devine esențială pentru limitarea riscurilor.
OpenAI anunță că își va schimba modul în care informează publicul atunci când…
