MOLDOVENII.MD

Când creatorii trag un semnal de alarmă: cine anume și ce avertizează în industria inteligenței artificiale

În ultimii ani, în domeniul inteligenței artificiale se observă un fenomen rar pentru sectorul tehnologic: persoane aflate la vârful dezvoltării și conducerii părăsesc funcții-cheie și vorbesc public despre riscuri majore. Nu este vorba despre critici externi, ci despre arhitecții sistemelor înseși.

Jan Leike: siguranța pierde în fața competiției

Unul dintre cele mai mediatizate cazuri este plecarea lui Jan Leike, fost co-lider al echipei Superalignment din cadrul OpenAI. În 2024, acesta a părăsit compania, afirmând public că siguranța inteligenței artificiale este sacrificată în favoarea vitezei de dezvoltare și a intereselor comerciale.

Leike a subliniat că sistemele devin din ce în ce mai puternice, în timp ce mecanismele de control și aliniere nu țin pasul. Potrivit lui, acest dezechilibru creează riscuri reale pentru societate.

Plecări din marile laboratoare de AI

Pe lângă Leike, mai mulți specialiști în AI-safety au părăsit laboratoare de top precum OpenAI și Anthropic. Declarațiile lor au avut un numitor comun: competiția de piață împinge industria să avanseze mai repede decât poate gestiona consecințele.

Deși aceste plecări nu au fost însoțite de afirmații alarmiste despre un colaps iminent, ele au scos în evidență o problemă structurală: lipsa unor priorități clare privind siguranța pe termen lung.

Geoffrey Hinton: vocea fondatorilor

Un rol central îl are Geoffrey Hinton, unul dintre părinții rețelelor neuronale moderne. După ce a părăsit Google în 2023, Hinton a început să vorbească deschis despre riscurile inteligenței artificiale. În 2024, a fost distins cu Premiul Nobel pentru Fizică pentru contribuțiile sale fundamentale în domeniul rețelelor neuronale.

În intervențiile sale publice, Hinton avertizează că modelele actuale de AI imită intuiția umană, nu logica strictă, ceea ce le face extrem de eficiente, dar dificil de controlat. El atrage atenția asupra riscurilor pe termen scurt — dezinformare, manipulare, arme autonome — și asupra riscului pe termen lung de a pierde controlul asupra unor entități digitale autonome.

Mesajul său central este clar: dacă dezvoltarea AI este ghidată exclusiv de profit, siguranța va rămâne secundară.

Ce se întâmplă, de fapt, în industrie

Inteligența artificială devine rapid omniprezentă, influențând toate domeniile vieții. Sistemele sunt tot mai complexe și mai puțin transparente, chiar și pentru creatorii lor. În același timp, lipsesc reguli globale clare care să corespundă puterii acestor tehnologii.

Specialiștii din interior vorbesc despre un decalaj tot mai mare între capacitățile tehnologice și capacitatea societății de a le controla responsabil.

Paralela ecologică

Din perspectivă ecologică, situația AI seamănă cu istoria industrializării: instrumente extrem de puternice sunt adoptate înainte de a înțelege pe deplin consecințele lor. Așa cum s-a întâmplat cu natura, efectele se pot acumula lent, până devin sistemice și greu reversibile.

Avertismentele creatorilor AI reprezintă o încercare de a preveni acest scenariu.

Concluzie

Declarațiile și plecările unor figuri precum Jan Leike și Geoffrey Hinton nu sunt panică și nici ficțiune. Ele reflectă o problemă reală: dezvoltarea inteligenței artificiale a ajuns într-un punct în care responsabilitatea trebuie să țină pasul cu puterea tehnologică.

Întrebarea nu mai este dacă AI va continua să evolueze, ci dacă omenirea va reuși să stabilească limite și reguli care să prevină pierderea controlului — așa cum nu a reușit întotdeauna în relația cu mediul natural.