Anthropic frena el llançament de Claude Mythos, una IA “massa potent” per al públic general
Anthropic ha optat per limitar l’ús de Claude Mythos a un entorn estrictament controlat dins del programa “Project Glasswing”
La cursa global per liderar el desenvolupament de la intel·ligència artificial ha fet un nou gir amb l’anunci de Anthropic, que ha presentat el seu model més avançat fins ara: Claude Mythos Preview. Segons la mateixa companyia, es tracta de “la IA més potent mai creada”, però amb un risc tan elevat que han decidit no posar-la a disposició del públic.
Segons ElEconomista, aquest nou sistema destaca per la seva capacitat extraordinària per detectar vulnerabilitats crítiques en aplicacions i pàgines web, un nivell d’eficàcia que supera qualsevol eina coneguda fins ara. Precisament aquesta potència és el que ha encès les alarmes dins l’empresa: temen que, en mans equivocades, pugui convertir-se en una arma per a ciberdelinqüents o fins i tot per a serveis d’intel·ligència.
En un context en què OpenAI, amb ChatGPT, va marcar l’inici de l’actual revolució tecnològica, competidors com Google i la mateixa Anthropic han anat escurçant distàncies. Ara, però, la batalla entra en una nova fase: no només qui crea la IA més potent, sinó qui sap controlar-ne els riscos.
Davant aquest escenari, Anthropic ha optat per limitar l’ús de Claude Mythos a un entorn estrictament controlat dins del programa “Project Glasswing”. Aquesta iniciativa reuneix grans corporacions tecnològiques i financeres com Amazon Web Services, Microsoft o Nvidia, amb l’objectiu de reforçar la ciberseguretat i corregir vulnerabilitats abans que puguin ser explotades.
“L’objectiu final és permetre desplegar models d’aquesta magnitud de manera segura”, asseguren des de la companyia, que també ha confirmat que manté converses actives amb el Govern dels Estats Units per analitzar tant les capacitats ofensives com defensives d’aquesta tecnologia.
Tot i la prudència, Anthropic reconeix que aquest escenari és només l’inici. L’arribada de models encara més potents és inevitable, i el repte serà establir mecanismes globals per evitar que aquestes eines es converteixin en armes digitals.
