Europa se pregătește pentru Epoca Digitală: Comisia propune noi reguli și măsuri pentru a sprijini încrederea în Inteligența Artificială (IA) și excelența în acest domeniu
15 minute • Ștefania-Cosmina Tatarcan • 11 mai 2021
Inteligența artificială este un fenomen. Este un fenomen care constă în simularea de către un robot a inteligenței umane. Cu toții ne uimim, pe zi ce trece, din ce în ce mai mult, de evoluția tehnologiei. Mulți dintre noi ne temem că roboții ne vor fura locurile de muncă și că vom ajunge să fim manipulați de către aceștia. Ei bine, situația nu stă deloc așa, căci inteligența artificială are multe beneficii în toate domeniile, iar acum, mai mult ca niciodată, odată cu implementarea sa, este imperios ca aceasta să aibă și o reglementare.
Comisia Europeană propune noi norme și măsuri menite să transforme Europa în polul mondial al unei Inteligențe Artificiale (IA). Îmbinarea primului cadru legal privind Inteligența Artificială cu un nou plan coordonat cu statele membre va garanta siguranța și securitatea atât a drepturilor fundamentale ale cetățenilor, cât și a întreprinderilor. Se va consolida, totodată, adoptarea Inteligenței Artificiale, precum și investițiile și inovarea în acest domeniu în întreaga Uniune Europeană (UE). Acestea vor fi completate de o reglementare privitoare la echipamentele tehnice, care are ca scop sporirea încrederii utilizatorilor în IA.
În primul rând, ce este Comisia Europeană?
Comisia Europeană este o instituție importantă a Uniunii Europene, reprezentând organul executiv al UE. Comisia își are sediul în Bruxelles și are rolul de a apăra interesul general al UE. Totodată, propune noi acte legislative și se asigură că acestea sunt respectate întocmai. Propunerile de acte normative urmează să fie înaintate spre adoptare Parlamentului și Consiliului.
Comisia mai gestionează și politicile UE și alocă fonduri europene, stabilind cu prioritate cheltuielile UE, împreună cu Parlamentul și Consiliul. De asemenea, garantează respectarea legislației UE și, cel mai important, reprezintă Uniunea Europeană pe scena internațională, exprimându-se în numele țărilor membre și negociind acorduri internaționale în numele UE. În prezentul articol, însă, importantă este doar prima atribuție a Comisiei, mai exact propunerea actelor legislative.
Cum s-a ajuns aici?
Comisia consolidează de mulți ani cooperarea cu privire la IA în întreaga UE. Se dorește stimularea competitivității și asigurarea încrederii cetățenilor în valorile UE.
În 2018 s-a publicat Strategia Europeană cu privire la IA. Aceasta a fost urmată de o consultare a părților interesate. Apoi, Gruparea de experți de nivel înalt privind Inteligența Artificială (IA) a elaborat ,,Guidelines for Trustworthy AI” în anul 2019 și ,,Assessment List for Trustworthy AI” în anul 2020. Primul Plan Coordonat privind IA a fost publicat în 2018, luând forma unui angajament asumat de statele membre. Bazele propunerii Comisiei au fost constituite de ,,White Paper on AI”, care a fost publicată de Comisie în 2020 și stabilea o viziune a IA în Europa, prin care se dorea un ecosistem de excelență și încredere.
Cum stă treaba în România?
În România a existat o lege a protecției datelor. Aceasta a fost Legea 677 din 21 noiembrie 2001 și includea niște reglementări cu privire la IA. Legea a fost, însă, abrogată în 2018. De atunci se aplică Regulamentul General Privind Protecția Datelor. Reglementarea noii tehnologii este un ”must have” în zilele noastre.
ANSPDCP a publicat la un moment dat pe site-ul său Decizia nr. 174 din 18 octombrie 2018 privind lista operaţiunilor pentru care este obligatorie realizarea evaluării impactului asupra protecţiei datelor cu caracter personal (DPIA). La noi găsești un pachet complet care să te ajute să faci această analiză fără să-ți bați prea mult capul.
Cât de importantă este reglementarea IA și cum se va realiza aceasta?
Societatea se modifică, apar anumite schimbări, ca urmare a evoluției tehnologiei, astfel că, în viitor, vom asista la drastice schimbări în mediul economic, cultural, social, politic, juridic. Anumite locuri de muncă vor dispărea, poate că altele vor apărea, dar ce este cert este faptul că viața cotidiană a fiecărei persoane nu va mai fi la fel. Trebuie să admitem că schimbarea va veni cu o mulțime de beneficii în medicină, învățământ și multe alte ramuri.
Vicepreședinta executivă pentru ,,O Europă pregătită pentru Era Digitală”, Margrethe Vestager, a declarat: „În ceea ce privește inteligența artificială, încrederea constituie o necesitate, nu un element oarecare. Odată cu adoptarea acestor norme, UE va impulsiona elaborarea unor noi reguli la nivel mondial care să asigure că inteligența artificială constituie un fenomen în care ne putem încrede. Prin definirea standardelor, putem să deschidem calea către o tehnologie etică în întreaga lume și să ne asigurăm că UE își menține competitivitatea pe termen lung. Adaptate exigențelor viitorului și favorabile inovării, normele noastre vor interveni în cazurile în care este strict necesar: atunci când sunt în joc siguranța și drepturile fundamentale ale cetățenilor UE.”.
Încrederea europenilor în oportunitățile oferite de IA se va realiza prin noul Regulament privind IA. Noile norme vor aborda riscurile pe care sistemele de IA le prezintă. Planul Comisiei Europene are în vedere schimbările de politică și investițiile necesare la nivelul statelor membre. Se dorește dezvoltarea IA, dar această evoluție va fi una centrată pe factorul uman. Normele juridice vor fi unele durabile, sigure, favorabile incluziunii și vor prezenta încredere pentru populație.
Părerea Parlamentului European
Trebuie să ne asigurăm că întreaga societate beneficiază de progresele tehnologice. Prin urmare, este crucial să stabilim un cadru de reglementare care să stabilească ce principii etice trebuie să fie respectate odată cu implementarea și dezvoltarea unor noi tehnologii. Conform Parlamentului European, scopul unei reglementării este acela de a garanta încrederea cetățenilor UE. Se încearcă crearea unui cadru de certitudine care să ofere valoare adăugată companiilor de pe piață și, totodată, prin care IA din Europa să fie recunoscută ca fiind de încredere.
Abordarea europeană privind o IA de încredere
Noile norme vor fi aplicate identic în toate statele membre, pe baza unei definiții a IA adaptate exigențelor viitorului. Este realizată o statistică a riscurilor, riscuri ce vor fi asumate în funcție de gravitatea lor.
Sisteme cu risc inacceptabil
Programul are în vedere și niște norme prohibitive. Astfel, sunt considerate a reprezenta un risc inacceptabil și, prin urmare, vor fi interzise, sistemele de IA considerate o amenințare clară la adresa siguranței, a mijloacelor de subzistență și a drepturilor persoanelor. De pildă, sistemele sau aplicațiile de IA care manipulează comportamentul uman pentru a împiedica utilizatorii să își exercite liberul arbitru. În această categorie intră jocurile care încurajează minorii la un comportament periculos. Aici mai intră și sistemele de social scoring.
Sistemul de social scoring constă în acordarea unui scor, în mod automatizat, în funcție de datele personale ale cetățenilor și de profilul lor, obținute din anumite surse. Acest sistem analizează dacă există suspiciuni în activitatea zilnică a persoanei, dacă aceasta se asociază cu persoane nepotrivite, dacă are anumite comportamente sociale inadecvate și altele. În urma analizei, sistemul va limita libertatea de acțiune a respectivei persoane și accesul la bunuri și servicii. Sistemul va crea o ”white list” și o ”black list”. Acest fenomen duce la discriminare și la o imixtiune în viața privată a persoanei. Sistemul există în China și a fost anunțat formal în 2014, dar o versiune anterioară a sa a existat la nivel regional din 2009.
Sisteme cu risc ridicat
Cu risc ridicat, dar nu inacceptabil, sunt considerate următoarele sisteme în care IA este utilizată:
- infrastructurile critice, de pildă transporturile, care ar putea avea ca efect negativ punerea vieții cetățenilor în pericol;
- formarea educațională sau profesională, căci în cadrul acestei ramuri interacțiunea umană este mai importantă decât în orice alt domeniu;
- componentele de siguranță ale produselor, ca de exemplu, o aplicație a IA utilizată în chirurgia robotică;
- ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente, în a căror categorie poate intra un software de selecție a CV-urilor;
- serviciile publice și private esențiale, unde ar putea intra evaluarea bonității care îi împiedică sau le permite cetățenilor să aibă posibilitatea de a obține un împrumut;
- activitatea de asigurare a respectării legii care poate aduce atingere drepturilor fundamentale ale cetățenilor (de pildă, evaluarea fiabilității probelor);
- gestionarea migrației, a azilului și a controlului la frontiere;
- administrarea justiției și procesele democratice (de exemplu, aplicarea legii în cazul unui set concret de date factuale).
Cum pot fi introduse aceste sisteme dacă ele prezintă risc? Înainte de a putea fi introduse pe piață, sistemele de IA care prezintă un grad ridicat de risc vor face obiectul unor obligații stricte, astfel încât să se asigure următoarele:
- sisteme corespunzătoare de evaluare și reducere a riscurilor;
- calitatea ridicată a seturilor de date care alimentează sistemul, pentru a se reduce la minimum riscurile și rezultatele discriminatorii;
- înregistrarea activității pentru a asigura urmărirea rezultatelor;
- documentația detaliată care să furnizeze toate informațiile necesare privind sistemul și scopul acestuia, pentru ca autoritățile să poată evalua conformitatea sistemului în cauză;
- informații clare și adecvate pentru utilizatori;
- măsuri care să garanteze o supraveghere umană corespunzătoare, în vederea reducerii la minimum a riscului;
- un nivel ridicat de robustețe, securitate și precizie.
Sistemele de identificare biometrică, mai ales, sunt cele care prezintă un grad ridicat de risc. Pentru acestea, cerințele sunt mai stricte. În principiu, este interzisă utilizarea lor în timp real în spații accesibile publicului, în scopuri de asigurare a respectării legii. Sunt prevăzute câteva excepții, limitativ prevăzute. De exemplu, cazul în care se caută un copil dispărut, pentru a preveni o amenințare teroristă. O astfel de utilizare este condiționată de obținerea unei autorizații din partea unui organism judiciar sau a unui alt organism independent și de termene adecvate, de acoperirea geografică și de bazele de date în care se efectuează căutări.
Sisteme cu risc limitat
În categoria sistemelor cu risc limitat intră, de exemplu, roboții de chat. Utilizatorii sunt conștienți de faptul că aceștia interacționează cu un aparat, prin urmare au posibilitatea de a lua o decizie în cunoștință de cauză: fie folosesc sistemul de IA mai departe, fie renunță la serviciile sale.
Sisteme cu risc minim
Riscul minim în ceea ce privește IA este reprezentat, de exemplu, de jocurile video bazate pe IA sau de filtrele antispam. Majoritatea sistemelor de IA intră în această ultimă categorie. Proiectul Comisiei Europene nu vizează și această categorie, fiindcă aceste sisteme nu reprezintă niciun risc pentru drepturile cetățenilor.
Ce se dorește de la acest Plan?
Se dorește consolidarea poziției de lider a Europei în ceea ce privește o IA centrată pe factorul uman, sigură, durabilă, care va constitui un fenomen de încredere pentru populație și care le va aduce o mulțime de beneficii. Pentru a rămâne competitivă la nivel mondial, Comisia își propune să promoveze inovarea și utilizarea tehnologiei IA în toate sectoarele și ramurile, în toate statele membre.
În 2018 a fost publicat Planul Coordonat privind IA și a avut ca scop definirea unor măsuri și a unor instrumente de finanțare pentru evoluția IA. Acest Plan a permis dezvoltarea unor strategii naționale și, de asemenea, a constituit un fundament pentru finanțarea de către UE a unor parteneriate pentru rețelele de cercetare și de inovare.
Planul a fost actualizat și își propune luarea unor măsuri de colaborare cu Strategia Europeană privind IA și la Pactul Verde European, mai ales că acum trebuie să ținem cont și de contextul pandemic. Se încearcă punerea în aplicare a strategiilor naționale privind IA. Ce fonduri va utiliza Planul Coordonat? Acesta va folosi fondurile alocate prin intermediul programelor Europa Digitală și Orizont Europa, precum și prin intermediul Mecanismului de Redresare și Reziliență.
Care este abordarea europeană privind noile echipamente tehnice?
La ce se referă echipamentele tehnice? Ei bine, în această categorie intră totul de la roboți, la mașini de tund iarba, imprimante 3D, utilaje pentru construcții și altele. Directiva privind Echipamentele tehnice, care acum este înlocuită de noul Regulament privind Echipamentele tehnice, garantează siguranța cetățenilor. Regulamentul impune condiții privitoare la asigurarea cerințelor de sănătate și siguranță, în cazul utilizării echipamentelor. Acesta încurajează inovarea, dar garantează și siguranța consumatorilor.
Deci, avem, pe de o parte, Regulamentul privind IA care va aborda riscurile privitoare la siguranța sistemelor de IA, și, pe de altă parte, Regulamentul privind echipamentele tehnice ce va asigura implementarea sigură a sistemelor de IA în anumite echipamente tehnice. Întreprinderile ce vor utiliza aceste echipamente vor trebui doar să facă o evaluare a conformității.
Bine, bine, și cum ne vor ajuta pe noi aceste echipamente? În primul rând, se vor reduce sarcinile administrative și costurile suportate de întreprinderi prin autorizarea formatelor digitale pentru documentație și prin adaptarea taxelor achitate de IMM-uri pentru evaluarea conformității, asigurând totodată coerența cu cadrul legislativ al UE pentru produse.
Ce urmează?
Aceste propuneri ale Comisiei în domeniul dezvoltării la nivel european a inteligenței artificiale urmează să fie adoptate de Parlamentul European și de statele membre în cadrul procedurii legislative ordinare. Odată adoptate, regulamentele vor fi direct aplicabile în întreaga UE. În paralel, Comisia va continua să colaboreze cu statele membre pentru a pune în aplicare măsurile anunțate în Planul coordonat.
Cam care ar fi beneficiile concrete ale unei asemenea reglementări?
Cum tehnologia se va răspândi din ce în ce mai mult în toate sferele vieții noastre, o asemenea reglementare, care să garanteze siguranța drepturilor omului, este imperioasă. De exemplu, compania americană Clearview AI își oferă serviciile anumitor companii, dar și agenților guvernamentali din SUA, ca de pildă FBI, cu scopul identificării infractorilor. Tehnologia de recunoaștere facială este, dintotdeauna, controversată. Această aplicație prezintă și unele riscuri, căci aplicația se poate înșela cu privire la respectiva persoană. În atare caz se pune problema protejării datelor cu caracter personal, dar și problema încălcării dreptului la viață intimă și privată. Prin urmare, o reglementare care să aibă în centru asigurarea drepturilor omului le-ar oferi cetățenilor încredere în AI.
De-a lungul timpului, oamenii au investit o mulțime de speranțe în aceste noi tehnologii, mai ales în domeniul asistenței medicale și al proceselor decizionale. Acestor aspirații li se opun teama de necunoscut și cea de intruziune în viața personală. De aceea, este nevoie să se stabilească standarde globale pentru a fi asigurate regulile etice pe care toată lumea le va respecta.
Thierry Breton, comisarul pentru piața internă a declarat: „Inteligența artificială reprezintă un mijloc, nu un scop în sine. Este prezentă în viața noastră de zeci de ani, însă în momentul de față a atins noi capacități, alimentate de puterea de procesare, oferind un potențial imens în ramuri variate și multiple, cum ar sănătatea, transporturile, energia, agricultura, turismul sau securitatea cibernetică. Totodată, inteligența artificială implică o serie de riscuri. Propunerile prezentate astăzi au ca obiect să consolideze poziția Europei în calitate de pol mondial al excelenței în domeniul inteligenței artificiale, de la laborator la piață, să asigure faptul că, în Europa, inteligența artificială respectă valorile și normele noastre și să valorifice potențialul inteligenței artificiale pentru utilizare industrială.”
Dar dezavantaje există?
Se pune problema faptului că Inteligența Artificială o să aibă un impact negativ asupra noastră, deoarece ,,roboții o să ne fure locurile de muncă”. Să fie oare așa? IA nu va înlocui niciodată, în realitate, omul, ci doar îl va sprijini să își facă treaba într-un mod mult mai eficient. De pildă, una dintre cele mai mari frici este că vom avea roboți în loc de medici. Acest lucru nu este posibil, căci este nevoie de medici care să arate empatie, să poată corela informații, să poată face anumite consultații li operații pe care roboții nu le vor putea face. De altfel, IA nu va altera nici justiția, iar dacă că vrei să vezi cum va arăta viitorul pentru avocați și dacă aceștia vor fi sau nu înlocuiți de inteligența artificială, poți să intri aici.
În schimb, vor apărea modificări în alte domenii. De exemplu, lucrurile se vor schimba în social media, unde partea de asistență clienți a fost deja asociată de algoritmi. Vom regăsi schimbări mai ales în birocrație, unde documentele de pe hârtie se vor găsi în format electronic. Transformări vom regăsi și în domeniul de recrutare și resurse umane, dar și în domeniul financiar. Ce este important este faptul că în aceste domenii nu se va înlocui resursa umană cu roboți. Inteligența artificială o să eficientizeze, însă, aceste sisteme și o să ofere o mână de ajutor personalului.
Concluzie
Așadar, trebuie să ne pregătim pentru evoluția Inteligenței Artificiale și pentru transformarea Europei în polul mondial al unei inteligențe artificiale de încredere. Este important să nu ne temem de ceea ce Inteligența Artificială o să ne aducă: inovație și noutate. Noile norme propuse de Comisia Europeană de la Bruxelles sunt doar un pas din mulții care vor urma în vederea integrării Inteligenței Artificiale în viața cotidiană.
Fotografie creată de Alex Knight, de la Pexels
