OpenAI estudia frenar el desenvolupament de la IA i Altman espera que altres empreses s’hi sumin
El conseller delegat hauria plantejat a la plantilla una possible moderació del ritme davant la preocupació pels riscos dels sistemes més avançats
OpenAI estudia la possibilitat d’alentir el desenvolupament de la intel·ligència artificial més avançada, i el seu conseller delegat, Sam Altman, espera que altres companyies del sector adoptin mesures similars.
Segons una informació de Bloomberg recollida per EFE, el directiu hauria traslladat aquesta possibilitat als treballadors en una reunió amb tota la plantilla celebrada aquesta setmana.
D’acord amb les fonts coneixedores de la trobada citades pel mitjà, Altman va plantejar que la companyia podria moderar el ritme de desenvolupament, possiblement en coordinació amb altres empreses. La informació apunta a una opció en estudi, sense concretar un calendari ni l’abast d’aquesta eventual frenada.
El debat arriba en un moment en què diversos professionals de les principals companyies d’intel·ligència artificial han expressat públicament la seva inquietud per l’augment dels riscos associats als sistemes més potents.
Frenades voluntàries i límits de seguretat comuns
El científic en cap d’OpenAI, Jakub Pachocki, ha defensat recentment en un article que les empreses del sector s’haurien de coordinar per alentir els futurs desenvolupaments quan sigui necessari. També ha expressat l’expectativa que aquestes frenades voluntàries esdevinguin habituals fins que s’estableixin límits de seguretat compartits.
Segons la informació publicada, OpenAI assegura que ja ha moderat alguns desenvolupaments i que ha suspès determinats entrenaments interns per motius de seguretat.
Altman també va afirmar al juliol que havia parlat amb responsables de la Casa Blanca sobre la necessitat de reduir el ritme d’avenç de la tecnologia.
Els investigadors reclamen més transparència
Les possibles mesures coincideixen amb les advertències de diversos investigadors. Jacob Coxon va anunciar dimarts la seva dimissió i va acusar els seus antics ocupadors, Anthropic i OpenAI, de participar en una cursa cap a una intel·ligència artificial superintel·ligent que, segons el seu plantejament, podria arribar a posar en perill la humanitat aquesta mateixa dècada.
Dijous, dos investigadors que havien deixat recentment Anthropic i DeepMind, de Google, també van fer públiques les seves preocupacions pel ritme de desenvolupament i van reclamar més transparència sobre els riscos.
A aquestes veus s’hi afegeix una petició que, a finals de juliol, van signar més d’un miler de treballadors de les principals empreses d’IA per reclamar un mecanisme que permeti moderar el ritme de desenvolupament del sector.
