Segons l'enginyer Jacob Cobson, els directius de la IA «temen una catàstrofe en privat mentre acceleren el seu desenvolupament» per la qual cosa hi ha un greu problema
Ens ha de preocupar l’evolució “interessada”
de la IA?
Jacob Coxon, enginyer d'Anthropic,
dimiteix per por de l’espectacular evolució de la Intel·ligència Artificial,
que, segons ell, “podria matar-nos a
tots abans del 2030”
Segons que han publicat una majoria
de mitjans de tot el món, Jacob Coxon, investigador britànic que ha treballat a
OpenIA i Antrophic, ha dimitit perquè considera que la indústria
de la intel·ligència artificial està «jugant amb les nostres vides». No és un
personatge de ciència-ficció, no és un activista marginal, no és un teòric de
la conspiració. És un enginyer que ha estat al centre del desenvolupament
d'aquesta tecnologia i que ha vist coses que l'han portat a plantar-se.
Personalment ja fa molt temps que
treballo amb l’ajut de la Intel·ligència Artificial (IA), ja sigui per elaborar
anàlisis geopolítiques o feines comunicatives que m’encarreguen empreses i
corporacions a tant la peça. Hi compto perquè és el meu gran ajudant de
redacció, un becari que mai no em demana que li apugi el sou i que m'aporta
tota mena de dades i contrastos perquè jo els utilitzi en els meus articles i
treballs de camp per tal que cap picapinyes em pugui rebatre els arguments que
presento i publico i que si fossin dubtosos o apòcrifs, mai no els donaria llum
perquè, tal com em van ensenyar a la Universitat Autònoma de Barcelona (UAB) fa molts, molts anys —i com 50 anys de
feina han corroborar— el periodista ha d'explicar realitats, no ficció. D'altra
banda corre el risc de ser un Tom Wolfe, que es movia entre una cosa i una
altra en relats que no acabava de deixar clar què era què. I un escriptor no és
periodista, ni que molts s'ho facin dir perquè —amb tots els meus respectes
pels col·legues de ploma no informativa o d'anàlisi— no passen de ser uns conta
contes més o menys creïbles pel fet d'escriure fets més o menys creïbles i
versemblants.
Però justament per això, perquè soc
usuari de programaris de pagament com Perplexity —especialitzat en periodisme
d’investigació i dades contrastades del món actual—, el cas de Jacob Coxon em
preocupa especialment. La realitat, com he dit tantes vegades, supera la ficció
de llarg. I ara mateix tenim davant nostre un exemple perfecte.
Santi Capellera i Rabassó,
periodista i analista / 9-9-26
1. Declaracions contundents
■ L’enginyer ha declarat públicament i
davant els micròfons de desenes de mitjans de comunicació que més tard han reproduït
que «Ni OpenIA ni Antrophic estan actuant de manera responsable. Estan corrent
directament cap a una súper intel·ligència auto millorable i jugant-se les
nostres vides.» I afegeix, encara més inquietant: «Les persones que estan
construint IA creuen sincerament que podria matar-nos a tots a finals de la
dècada. Això no és un truc de màrqueting.» Això no és ficció. És un testimoni
directe d'algú que ha estat al cor del desenvolupament de la IA i que ha
decidit dimitir per por del que està passant. I no és l'únic: hi ha cada vegada
més veus dins del sector que demanen una pausa, més regulació i més control.
2. Qui és Jacob Coxon
■El tècnic és un investigador britànic especialitzat en el preentrenament de models d'IA. Durant els últims tres anys ha treballat tant a OpenAI —la creadora de ChatGPT— com a Anthropic, una empresa que es presenta com a més prudent i responsable en el desenvolupament d'aquesta tecnologia. De fet, va deixar OpenAI per anar a Anthropic precisament perquè considerava que aquesta última empresa era més cautelosa.
■ Aquesta no és una crítica superficial. És una denúncia directa des de dins. I quan algú que ha estat treballant en el desenvolupament d'aquests sistemes diu que hi ha un problema greu, cal escoltar-lo.
3. Les acusacions: «Estan jugant
amb les nostres vides»
■ Coxon no es limita a dir que hi ha riscos. Diu que les empreses ho saben, que ho discuteixen en privat, però que continuen accelerant el desenvolupament igualment. Segons ell, els directius de la IA «temen una catàstrofe en privat mentre acceleren el seu desenvolupament».
Les seves acusacions són molt
concretes:
- Les companyies estan corrent cap a una súper intel·ligència
auto millorable sense garanties de seguretat.
- Els sistemes que estan construint aviat seran
«sobrehumans», capaços de hackejar qualsevol cosa,
revolucionar qualsevol camp i adquirir poder i recursos reals.
- Hi ha escenaris possibles en què la IA podria
matar-nos a tots abans del 2030.
- Els directius guanyen diners amb això i, per
tant, tenen un incentiu econòmic per continuar accelerant, encara que
sàpiguen que hi ha riscos greus.
■ Això no és una opinió: és un testimoni directe
d'algú que ha estat al centre del procés. I quan algú que ha estat construint
aquests sistemes diu que hi ha un problema, cal prendre-s'ho seriosament.
4. Els riscos que descriu
Coxon no parla de riscos
abstractes. Parla de riscos concrets i immediats:
- Súper intel·ligència auto millorable: sistemes capaços de
millorar-se a si mateixos de manera recursiva, accelerant el seu propi
desenvolupament fins a un punt en què els humans no podrien controlar-los.
- Capacitat de hackeig: sistemes sobrehumans que
podrien vulnerar qualsevol sistema informàtic, inclosos els de seguretat
nacional, infraestructures crítiques o sistemes financers.
- Adquisició de poder i recursos: la possibilitat que
aquests sistemes puguin adquirir recursos reals, prendre decisions
autònomes i actuar de manera independent dels seus creadors.
- Pèrdua de control: l'escenari en què els
humans ja no podrien controlar el que fan aquests sistemes, amb
conseqüències potencialment catastròfiques.
■ Aquests no són riscos teòrics. Són escenaris que els
mateixos desenvolupadors de la IA discuteixen en privat, segons Coxon. I quan
els mateixos que estan construint aquests sistemes diuen que hi ha un problema,
cal escoltar-los.
5. El dilema de la indústria: seguretat vs.
velocitat
■ El problema de fons és un dilema clàssic: seguretat
o velocitat? Les empreses tecnològiques estan en una cursa per desenvolupar
sistemes cada vegada més avançats, i aquesta cursa les porta a prioritzar la
velocitat sobre la seguretat.
Coxon ho resumeix així:
«Estan apostant amb les nostres
vides»
■ I, segons el meu criteri de periodista que fa mig segle
que tracta amb déus i diables, té tota la raó. Quan una empresa desenvolupa un
nou model d'IA, allò que li importa és ser la primera a llançar-lo al mercat,
no si és segur o no. I això passa perquè hi ha diners en joc, hi ha
competència, hi ha inversors que volen rendiments ràpids. Però el que està en
joc no és només diners. El que està en joc és el futur de la humanitat. I quan
es juga amb això, cal anar amb molt més de compte.
6. Les veus dins del sector
■ Coxon no està sol. Hi ha altres experts que
comparteixen les seves preocupacions. Geoffrey Hinton, considerat el «pare de
la IA», va deixar Google el 2023 precisament per alertar sobre els riscos
d'aquesta tecnologia. Yoshua Bengio, un altre pioner del camp, també ha
expressat preocupacions similars. I ara, el mateix Coxon s'hi suma. La seva
dimissió arriba després d'un estiu marcat per falles en la contenció de la IA i
un nou impuls en el desenvolupament d'aquesta tecnologia.
■ Això no és una conspiració. És un moviment creixent
dins del sector que demana més precaució, més regulació i més control. I quan
els mateixos que estan construint aquests sistemes demanen això, cal
escoltar-los atentament.
7. La regulació: què estan fent (o
no fent) governs i institucions
■ Mentre la indústria accelera, els governs i les
institucions van molt més a poc a poc. La Unió Europea ha aprovat recentment
una llei de regulació de la IA, però molts experts consideren que és
insuficient. Espanya i Catalunya encara estan en fases molt inicials de debat
sobre com regular aquesta tecnologia.
■ El problema és que la tecnologia avança molt més
ràpid que la regulació. I quan la tecnologia pot tenir conseqüències
catastròfiques, això és un problema greu.
Coxon ho diu clarament:
■ «Les persones que estan construint IA creuen
sincerament que podria matar-nos a tots a finals de la dècada.» I si això és
així, cal actuar ara. No d'aquí a cinc anys, no d'aquí a deu. Ara.
8. Per acabar: què implica tot això
per a la societat?
■ El cas de Jacob Coxon ens obliga a fer-nos una
pregunta molt incòmoda: estem preparats per al que ve? La resposta,
sincerament, és no. La IA té un potencial enorme per millorar la nostra vida:
pot ajudar-nos a curar malalties, a resoldre problemes complexos, a optimitzar
recursos. Però també té riscos greus, i aquests riscos no es poden ignorar.
■ Quan un enginyer que ha estat treballant en el
desenvolupament d'aquesta tecnologia dimiteix per por del que està passant, cal
escoltar-lo. No es tracta de frenar el progrés, es tracta de fer-ho de manera
responsable. Es tracta de posar la seguretat per davant de la velocitat. Es
tracta de regular abans que sigui massa tard.
■ Perquè, com diu Coxon, «això no és un truc de
màrqueting». És una alerta real. I cal prendre-s'ho seriosament. La realitat,
com he dit tantes vegades, supera la ficció de llarg. I ara mateix tenim davant
nostre un exemple perfecte: un enginyer que ha estat al cor del desenvolupament
de la IA i que ha decidit dimitir per por del que està passant. No en fem cas omís.
