Interdicții specifice pentru utilizări AI în sectorul public

Inteligența artificială (AI) oferă administrațiilor publice instrumente puternice pentru analiză, predicție și automatizare. Totuși, odată cu aceste oportunități vin și riscuri semnificative pentru drepturile fundamentale, securitatea cetățenilor și integritatea deciziilor publice.

AI Act-ul Uniunii Europene a identificat anumite utilizări ale AI ca fiind prea riscante și le interzice în sectorul public sau le limitează strict, pentru a preveni abuzurile și efectele negative asupra cetățenilor.

1. Recunoașterea biometrică în timp real în spații publice

Recunoașterea facială și alte tehnologii biometrice permit identificarea persoanelor în timp real. În sectorul public, folosirea acestei tehnologii fără autorizare judiciară este interzisă de AI Act, datorită riscurilor de:

• Supraveghere în masă și invadarea vieții private;

• Posibile erori în identificare care pot afecta cetățenii nevinovați;

• Efecte discriminatorii dacă sistemele AI sunt antrenate pe date neechilibrate.

Implicații pentru instituțiile publice din România:
Toate proiectele de supraveghere sau monitorizare publică bazate pe recunoaștere biometrică trebuie revizuite. Implementările existente trebuie evaluate pentru conformitate, iar viitoarele proiecte trebuie să includă autorizări judiciare și audituri independente.

2. Profilarea pentru predicția comportamentului criminal

AI poate fi utilizată pentru predicția riscului infracțional, dar acest tip de profilare prezintă riscuri majore dacă deciziile nu sunt verificate de operatori umani calificați.

Riscuri identificate:

• Etichetarea eronată a persoanelor ca "risc ridicat", afectând libertățile și drepturile acestora;

• Amplificarea inegalităților și prejudecăților existente;

• Lipsa transparenței deciziilor și dificultăți în contestarea acestora.

Recomandare pentru instituții:
Sistemele de predictive policing sau alte proiecte similare trebuie reevaluate, iar deciziile critice trebuie să fie supuse supravegherii umane, pentru a preveni discriminarea și abuzul.

3. Social scoring de către autorități

Social scoring-ul implică evaluarea cetățenilor pe baza comportamentului lor, cu scopul de a le acorda beneficii sau restricții. AI Act interzice acest tip de utilizare de către autorități sau intermediari, deoarece:

• Poate afecta drepturile fundamentale și libertățile individuale;

• Creează riscuri de manipulare socială și control excesiv al populației;

• Lipsa standardelor clare poate duce la abuzuri sistemice.

Impact pentru sectorul public:
Instituțiile trebuie să renunțe la orice sistem care acordă punctaje cetățenilor sau care influențează decizii administrative pe baza unui algoritm social. Alternativele trebuie să fie transparente, echitabile și auditate.

4. Implicații generale pentru instituțiile publice

Interdicțiile AI Act impun revizuirea proiectelor de supraveghere și predictive analytics bazate pe AI. Instituțiile trebuie să:

1. Identifice toate proiectele care ar putea încălca interdicțiile;

2. Evalueze riscul și impactul asupra drepturilor cetățenilor;

3. Oferă alternative conforme cu reglementările europene;

4. Creeze proceduri interne de audit și supraveghere;

5. Asigure transparență și comunicare publică privind utilizarea AI.

5. Concluzie

AI Act stabilește un cadru clar de interdicții pentru utilizarea tehnologiilor AI cu risc ridicat în sectorul public. Recunoașterea biometrică fără autorizare judiciară, profilarea comportamentală fără verificare umană și social scoring-ul reprezintă exemple de practici inacceptabile, care pun în pericol drepturile cetățenilor.

Pentru instituțiile publice din România, aceste interdicții nu sunt doar norme legale, ci și obligații strategice pentru protecția cetățenilor și consolidarea încrederii publice. Revizuirea proiectelor existente și adoptarea de alternative conforme reprezintă pași esențiali pentru o administrație digitală sigură, responsabilă și transparentă.