OpenAI a anunțat vineri noi restricții privind informațiile despre arme și sisteme de securitate oferite adolescenților prin ChatGPT, inclusiv în cazul întrebărilor care par inofensive. Această măsură vine într-un moment în care companiile din domeniul Inteligenței Artificiale (AI) se confruntă cu o atenție tot mai mare asupra riscurilor pe care chatbot-urile le prezintă pentru utilizatorii tineri și asupra rolului companiilor în detectarea amenințărilor de vătămare, potrivit Reuters.
ChatGPT va limita informațiile despre arme și sistemele de securitate
Una dintre principalele modificări vizează informațiile tehnice și practice pe care ChatGPT le poate furniza utilizatorilor minori. Adolescenții nu vor mai avea acces la același nivel de detaliu privind armele și sistemele de securitate, în special atunci când informațiile ar putea fi folosite pentru pregătirea unor acțiuni periculoase. Restricțiile vor fi aplicate chiar și în cazul unor solicitări care, analizate separat, nu par să indice un comportament violent. Prin această abordare, OpenAI încearcă să reducă riscul ca informațiile oferite de inteligența artificială să fie utilizate în contexte periculoase.
Măsurile nu se limitează însă la utilizatorii minori. Compania pregătește schimbări care vor afecta modul în care ChatGPT gestionează conversațiile despre violență, indiferent de vârsta persoanei care utilizează platforma. Conversațiile despre violență ar putea fi întrerupte automat de OpenAI. O altă schimbare importantă se referă la modul în care platforma identifică discuțiile care indică o preocupare persistentă pentru violență sau pentru vătămarea gravă a unei alte persoane. În astfel de situații, ChatGPT va putea încheia automat conversația, pentru a întrerupe interacțiunea respectivă. Dacă sistemul închide în mod repetat conversații din același motiv, OpenAI poate suspenda temporar contul utilizatorului.
Conversațiile despre violență ar putea fi întrerupte automat de OpenAI
Potrivit informațiilor publicate de companie, aceste intervenții vor fi dezvoltate împreună cu specialiști în sănătate mintală și prevenirea violenței. Scopul este identificarea mai timpurie a semnalelor de avertizare și reducerea riscului ca informațiile furnizate de chatbot să fie folosite pentru pregătirea unor acte violente. OpenAI a anunțat și consolidarea sistemului de estimare a vârstei utilizatorilor. Tehnologia analizează mai multe semnale, inclusiv tiparele de comportament, pentru a estima dacă un cont aparține unei persoane sub 18 ani.
Părinții vor putea fi anunțați dacă adolescenții au conturile suspendate. Această măsură vine într-un moment în care companiile din domeniul Inteligenței Artificiale (AI) se confruntă cu o atenție tot mai mare asupra riscurilor pe care chatbot-urile le prezintă pentru utilizatorii tineri și asupra rolului companiilor în detectarea amenințărilor de vătămare, potrivit Reuters. Informațiile practice despre arme și sisteme de securitate care ar putea fi utilizate în mod abuziv vor fi restricționate, chiar și atunci când nu există semne de intenție violentă.
OpenAI va restricționa accesul adolescenților la informații despre arme și alte sisteme de securitate care ar putea fi folosite abuziv, chiar și atunci când conversația nu indică o intenție violentă. Măsura face parte dintr-un set de schimbări anunțat de companie, pe fondul atenției tot mai mari acordate riscurilor pe care chatboturile le pot prezenta pentru utilizatorii tineri, potrivit Reuters. Restricțiile se vor aplica și informațiilor despre atacuri armate din trecut, în special despre atacurile în masă.
B. Zamfir
