Șeful cercetării OpenAI, Jakub Pachocki, a emis un avertisment fără precedent, subliniind nevoia de prudență extremă în ceea ce privește dezvoltarea rapidă a inteligenței artificiale. Într-o postare publicată pe blogul OpenAI, intitulată „An Alien Mind”, Pachocki a avertizat că ar putea fi necesare măsuri suplimentare pentru a asigura că oamenii păstrează controlul asupra viitorului, într-o lume în care mașinile devin din ce în ce mai inteligente.
Creșterea rapidă a inteligenței artificiale: o tranziție periculoasă
În contextul dezvoltării accelerate a tehnologiei, Pachocki a exprimat îngrijorare față de consecințele unei creșteri continue a inteligenței mașinilor. El a subliniat că o tranziție către o lume cu mașini incredibil de inteligente trebuie gestionată cu grijă, pentru a asigura un rezultat favorabil pentru umanitate. Avertismentul vine la doar câteva zile după lansarea de către OpenAI a modelului GPT-6 Astra, considerat cel mai puternic produs dezvoltat până în prezent.
În același timp, OpenAI și alte companii din domeniul inteligenței artificiale, cum ar fi Anthropic, au prezentat rapoarte privind agenții IA capabili să acționeze autonom și să efectueze atacuri cibernetice în lumea reală asupra altor companii, conform BBC. În luna iulie, OpenAI a descris drept „fără precedent” un incident în care agenții săi IA au atacat platforma Hugging Face, ceea ce a determinat compania să-și concentreze eforturile asupra dezvoltării unor „sisteme defensive” și a căutării unor soluții tehnice pentru alinierea inteligenței artificiale la obiectivele umane.
Conceptul de „alignment” se referă la dezvoltarea unor sisteme ale căror acțiuni și obiective respectă intențiile oamenilor, precum și mecanismele de siguranță stabilite de aceștia. Pachocki a afirmat că una dintre prioritățile companiei va fi dezvoltarea unui „cercetător AI automatizat”, capabil să țină pasul cu ritmul dezvoltării tehnologice, dar care să permită în continuare implicarea cercetătorilor umani în proces.
Pachocki a susținut și ideea unor „încetiniri voluntare” ale dezvoltării, prin care companiile să își reducă temporar ritmul de antrenare a modelelor avansate până la stabilirea unor mecanisme comune de siguranță. În august, OpenAI a anunțat că a încetinit antrenarea unora dintre cele mai avansate modele ale sale pentru a îmbunătăți securitatea.
Propunerea a fost primită cu scepticism de unii specialiști. Gina Neff, profesoară și directoare a Minderoo Centre for Technology and Democracy, din cadrul Universității Cambridge, a criticat ideea concentrării pe agenți IA interni în locul unor reglementări și mecanisme de protecție mai stricte. Ea a susținut că dezvoltarea unor astfel de sisteme nu reprezintă un răspuns suficient la problemele deja asociate modelelor IA, inclusiv riscurile pentru securitatea cibernetică, pierderea locurilor de muncă, erorile și fraudele.
Nathan Calvin, consilier juridic al organizației Encode AI, a spus că este de acord cu avertismentele privind riscurile dezvoltării modelelor IA avansate, dar a acuzat OpenAI de lipsă de transparență. Potrivit acestuia, avertismentele companiei riscă să fie percepute drept „hype” interesat, dacă OpenAI nu oferă mai multe informații despre motivele concrete pentru care solicită prudență.
Cezar
