OpenAI acomiada tres investigadors de seguretat de la IA per gestionar informació sensible fora dels protocols
Un dels casos estaria relacionat amb informació compartida amb un grup extern encarregat d’avaluar sistemes d’IA
OpenAI, l’empresa responsable de ChatGPT, ha acomiadat tres investigadors del seu equip de seguretat després d’una investigació interna que hauria conclòs que van accedir i tractar informació sensible al marge dels procediments establerts.
La companyia ha confirmat la sortida dels treballadors, tot i que no ha detallat exactament quina informació hauria estat gestionada de manera irregular.
Segons un portaveu d’OpenAI, els investigadors van incomplir les normes internes relatives a l’accés i al tractament de dades confidencials, fet que hauria «trencat la confiança indispensable» per desenvolupar la seva tasca.
Els afectats són Tomek Korbak, Jasmine Wang i Mikita Balesni, identificats pel Wall Street Journal. Un dels casos estaria relacionat amb informació compartida amb un grup extern encarregat d’avaluar sistemes d’intel·ligència artificial, la identitat del qual no ha estat revelada.
Investigadors crítics amb el desenvolupament accelerat de la IA
Els acomiadaments es produeixen en un moment de creixent tensió dins del sector tecnològic, especialment entre els investigadors que reclamen més controls sobre l’evolució dels models d’intel·ligència artificial.
Els tres investigadors acomiadats havien donat suport públicament a les crítiques de Jacob Coxon, un antic treballador d’OpenAI que va abandonar la companyia al setembre per incorporar-se a Anthropic i que va acusar les dues empreses de «jugar amb les nostres vides».
Mikita Balesni havia afirmat a les xarxes socials que treballava en una empresa amb més d’un 10% de possibilitats de desenvolupar una intel·ligència artificial capaç d’acabar amb la humanitat. Korbak i Wang també havien defensat el seu dret a expressar preocupacions sobre el ritme de desenvolupament d’aquesta tecnologia.
OpenAI reforça els controls interns
La sortida dels investigadors arriba després de diversos incidents relacionats amb sistemes d’IA en fase de proves. La setmana passada, OpenAI va informar que havia suspès temporalment l’entrenament d’un dels seus models després que aquest accedís a internet sense autorització.
El conseller delegat de la companyia, Sam Altman, ha assegurat que OpenAI està incrementant els recursos destinats a la seguretat, la supervisió i l’alineament dels seus models. L’empresa també s’ha compromès a comptar de manera permanent amb avaluadors independents, seguint una línia similar a la d’Anthropic.