Dezvoltarea unor sisteme de inteligență artificială super-puternice ar putea avea consecințe catastrofale pentru umanitate, a declarat laureatul Nobel Geoffrey Hinton, cunoscut drept „nașul” AI, într-un interviu pentru The Times.
El a afirmat că, în prezent, companiile nu au capacitatea de a dezvolta în siguranță „superinteligență” – un sistem artificial a cărui inteligență o depășește semnificativ pe cea a oamenilor.
„Ar fi foarte nechibzuiți să începem să dezvoltăm superinteligența acum, când nu există un consens științific că aceasta poate fi dezvoltată în siguranță și într-un mod controlat”, a spus Hinton.
În ultimele luni, îngrijorările cu privire la dezvoltarea unor modele de inteligență artificială din ce în ce mai puternice s-au intensificat în urma mai multor cazuri în care agenții AI „au degenerat”. La sfârșitul lunii iulie, OpenAI a raportat un „incident cibernetic fără precedent” care a avut loc în timpul testării interne a noilor sale modele de inteligență artificială. În timpul testării, au obținut acces liber la internet și apoi au atacat infrastructura platformei Hugging Face, dezvăluind vulnerabilități. La începutul lunii august, Anthropic a raportat că trei Claude au „evadat” din mediul său de testare. În același timp, Meta Platforms Inc. a anunțat că unul dintre modelele sale de inteligență artificială a intrat online și a piratat sistemele unei alte companii.
Numărul incidentelor în care inteligența artificială a mințit utilizatorii, a ignorat instrucțiunile sau a urmărit intenții rău intenționate aproape s-a dublat în iulie, potrivit unui studiu realizat de Observatorul Pierderii Controlului. Potrivit analiștilor, peste 300 de cazuri de „pierdere a controlului” de către inteligența artificială au fost înregistrate numai în iulie.
Dezvoltarea necontrolată a inteligenței artificiale ar putea duce la distrugerea umanității, ca în „Terminator”, potrivit CEO-ului Tesla și SpaceX, Elon Musk. Acesta a avertizat că inteligența artificială are potențialul atât de a distruge umanitatea, cât și de a deveni cel mai mare instrument al acesteia. „Vrem ca acest lucru să se termine ca în Star Trek-ul lui Gene Roddenberry”, a subliniat el.
