Primele obligații concrete pentru entitățile care utilizează IA

Regulamentul privind Inteligența Artificială (IA) al Uniunii Europene introduce, începând cu 2 februarie 2025, primele obligații concrete pentru entitățile implicate în utilizarea IA, dintre care cea mai importantă este obligația de alfabetizare în materie de IA.
Aspecte esențiale:

• Articolul 4 din Regulamentul privind IA prevede că „Furnizorii și implementatorii de sisteme de IA iau măsuri pentru a asigura, în cea mai mare măsură posibilă, un nivel suficient de alfabetizare în domeniul IA a personalului lor și a altor persoane care se ocupă cu operarea și utilizarea sistemelor de IA în numele lor, ținând seama de cunoștințele tehnice, experiența, educația și formarea lor și de contextul în care urmează să fie folosite sistemele de IA și luând în considerare persoanele sau grupurile de persoane în legătură cu care urmează să fie folosite sistemele de IA.”

• Alfabetizarea IA implica, pe lângă înțelegerea principiilor de bază despre modul în care funcționează, și înțelegerea capacităților IA, cum ar fi conceptele de recunoaștere a modelelor și procesarea limbajului.
• În ceea ce privește practicile interzise, Regulamentul privind IA interzice următoarele practici prin utilizarea sistemelor:
  • tehnici subliminale, manipulatoare sau înșelătoare;
  • exploatarea vulnerabilităților (vârstă, handicap, situații sociale sau economice specifice)
  • evaluarea socială (nu se aplică guvernelor și numai în ceea ce privește tratamentul nefavorabil care este nejustificat sau disproporționat la colectarea datelor);
  • crearea de profiluri pentru evaluarea riscurilor penale (interzicând doar crearea de profiluri preventive și oferind anumite excepții);
  • bazele de date de recunoaștere facială (pentru colectarea nedirecționată a datelor faciale);
  • identificarea starii emoționale a persoanelor în situații legate de locul de muncă și de educație (excepții prevăzute din motive medicale și de siguranță);
  • clasificarea biometrică (în legătură cu articolul 9 din GDPR privind datele personale speciale);
  • identificarea biometrică la distanță în timp real în spațiile publice (excepții prevăzute pentru sistemele de verificare, cum ar fi controalele de securitate în aeroporturi).

Sursă: REGULAMENTUL (UE) 2024/1689 AL PARLAMENTULUI EUROPEAN ȘI AL CONSILIULUI din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială și de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 și (UE) 2019/2144 și a Directivelor 2014/90/UE, (UE) 2016/797 și (UE) 2020/1828 (Regulamentul privind inteligența artificială)