Despre Inteligența Artificială și reglementările dorite de UE. Octavian Radu, STT: AI Act este deja „cu un pas în urmă” și nu țintește problemele curente, din 2023

Printre prevederile AI ACT se numără reguli privind transparența algoritmilor, drepturile utilizatorilor și responsabilitatea dezvoltatorilor de AI. Potrivit UE, legea urmărește să evite discriminarea și bias-ul în sistemele AI și să asigure că acestea funcționează în interesul public.

Smart Touch Technologies, start-up deep tech, a fost fondat în noiembrie 2020. Cei doi co-fondatori au experiențe solide în industrii complexe: Octavian Radu, care este și CEO, a fost Innovation Program Leader la Keysight Technologies, are o experiență de peste 20 de ani în dezvoltarea de produse software și hardware și studii de doctorat în inteligență artificială, iar Decebal Popescu este fondatorul Transport Academy și fostul CEO al Cartrans România, cu o experiență de peste 17 ani în industria de transport & logistică.

Cât de folositoare este pentru domeniul AI emiterea unui act legislativ european, în condițiile în care tehnologia devine din ce în ce mai mult parte din viața noastră? 

Inteligența Artificială și implicațiile sale pe aproape toate planurile societății, la nivel geo-politic și chiar asupra Statului și a modului în care Statul interacționează cu cetățenii, fac ca această tehnologie să fie diferită de toate celelalte revoluții industriale, valuri de digitalizare sau etape de automatizare de până acum, care au automatizat parțial sau total procese sau fluxuri industriale. 

AI-ul influențează comportamentul nostru și al celor din jurul nostru, deciziile pe care le luăm noi, dar și deciziile pe care alții le iau și care ne afectează direct. AI-ul influențează produse, servicii, procese și interacțiunea public-privată, iar această influență va crește mai mult și mai rapid decât ne-am aștepta.

Regulamentul privind Inteligența Artificială, AI ACT, pornește de la riscurile pe care AI-ul le-ar putea prezenta pentru consumatori și are ca obiectiv definirea unui cadru comun și transparent, dar și minimizarea riscului ca tehnologia implementată în diverse produse, servicii, aplicații, să fie creată sau utilizată cu rea-intenție și să încalce, astfel, libertățile și drepturile cetățenilor. 

Cel mai bun lucru pe care îl putem face pentru viitorul nostru este să învățăm din greșelile trecutului, respectiv să reglementăm, pe cât de bine și de rapid posibil, tehnologia Inteligenței Artificiale, care, apropo, nu este deloc una nouă. Se lucrează de 70 de ani la ea, doar că în ultimul timp asistăm la popularizarea și democratizarea ei rapidă. Paul Roetzer, de la Marketing AI Institute spunea, luna trecută, pe scena IQ Digital, că “Aceste instrumente de inteligență artificială își dublează performanța la fiecare 12 luni. De aceea, e foarte greu să ne imaginăm cum arată viitorul în marketing și business – nu putem cuprinde cu mintea cât de repede progresează.”. Cum ar putea, deci, să nu fie folositoare reglementarea unei astfel de tehnologii?

Vorbim și de un aspect negativ al acestui act normativ? Ar putea afecta negativ dezvoltarea companiilor? Dar competitivitatea continentului?

Ca orice propunere legislativă, și acest act normativ trebuie să mai parcurgă câțiva pași până la forma finală. 

Un minus pe care îl văd aici este că AI Act încearcă să reglementeze problemele care au fost observate în folosirea tehnologiilor de AI de până în 2020, însă, datorită dezvoltării rapide a tehnologiei din ultimii ani, din punctul meu de vedere, este deja „cu un pas în urmă” și nu țintește problemele curente din AI în 2023 (cum ar fi super human AI), din simplul motiv că nu erau prezente în 2020, când s-a propus primul draft al acestui act. 

Așa cum știm, AI Act propune o împărțire a sistemelor de AI în patru categorii de risc: inacceptabil, ridicat, limitat și mic. Pentru riscul minim sau limitat, nu este prevăzută nicio restricție, dar este încurajată adoptarea de către companii, în mod voluntar, a unor coduri de conduită interne. O problemă pe care o vad aici ar fi lipsa mecanismelor de a integra un caz viitor în cele patru categorii de risc menționate mai sus. De exemplu, dacă peste câțiva ani un sistem AI va fi folosit într-un domeniu nou, nu există, deocamdată, niciun mecanism care să decidă dacă acel sistem este „high risk” sau nu. Toate acele sisteme vor fi nereglementate „by default”.

Riscurile inacceptabile sunt cele care stârnesc, însă, cele mai multe controverse (și au stârnit controverse și pe perioada ultimilor ani). La rândul lor, aceste riscuri inacceptabile sunt împărțite în patru categorii:

• Două categorii care au în vedere „manipularea” – aici intră acele sisteme AI din piață care nu trebuie să exploateze vulnerabilitățile unui grup de persoane.
• Una pentru „social scoring” – aici se referă mai mult la autoritățile publice. De exemplu, sistemele de supraveghere video care pot fi antrenate să genereze alarme de comportament, cu precădere pentru anumite etnii, sunt interzise.  Dar, așa cum este formulat acum, poate să impacteze și magazinele online care clasifică oamenii după comportamentul social în online pentru a face sugestii de produse. Ceea ce vreau să subliniez este că intenția este bună, dar lasă loc de interpretare și poate afecta și alte sisteme AI „nevinovate”.
• Una pentru sisteme de identificare biometrice – aici se face referire la CCTV, recunoaștere facială și instituțiile de forță. 

În cazul sistemelor care intră în categoria de riscuri inacceptabile (manipulare și scor social), problema ar fi că sunt foarte greu de măsurat / evaluat fără un cadru clar. Din acest motiv, sisteme AI inofensive pot intra foarte ușor sub suspiciunea de riscuri inacceptabile.

Un alt exemplu care ridică semne de întrebare este scanarea CV-urilor (sau a altor documente) și procesarea automată a datelor personale. Ele intră la categoria sistemelor cu risc ridicat. Acest lucru va afecta companiile care procesează automat datele din documente. În ce fel? De exemplu, dacă se întâmpla ca, din greșeală, acele fluxuri de business cu un AI în spate care a învățat din numărul mare de CV-uri, să favorizeze anumite clase sociale, etnii etc. în cadrul antrenării sistemului, ele intră automat la riscuri inacceptabile. 

Care ar fi impactul pozitiv la nivel social și de business în urma adoptării acestei legi, în UE, dar și în România? 

Există și efecte pozitive iar, din punctul meu de vedere, acestea ar fi: încredere la nivel social și transparență la nivel de business.

Pe noi, oamenii, ne sperie ceea ce nu cunoaștem și ne sperie lipsa măsurilor de control asupra a ceva ce ne poate afecta viața. Ambele temeri pot fi diminuate dacă vom ști ce reguli trebuie să respecte această tehnologie, dacă vom ști cui și cum trebuie să ne adresăm atunci când Inteligența Artificială ne afectează negativ. Rezultatul unor măsuri care să abordeze fiecare dintre aceste temeri va fi, automat, un grad mai mare de încredere. Lipsa încrederii va genera rezistența societății în a interacționa cu produsele, serviciile și procesele care folosesc AI.

Când vorbim despre companii și mediul de business, inteligența artificială facilitează deja, și o va face într-o pondere tot mai mare, dezvoltarea unor generații noi de produse și servicii, chiar în sectoare în care companiile europene dețin deja poziții solide: economia verde și circulară, echipamente, agricultură, asistență medicală, piața muncii etc. Prin crearea unui cadru legislativ de reglementare, AI ACT va impune transparentizarea utilizării tehnologiei – de exemplu, parametrii de optimizare a instrucțiunilor date de algoritmi -, dar și rigori clare de respectat de către dezvoltatorii inteligenței artificiale și ai celor care implementează tehnologia în produsele sau serviciile lor. Cu alte cuvinte, AI ACT va scrie regulile jocului care a început deja.

Pe cale de consecință, atunci când oamenilor le va fi mult mai clar ce se întâmplă, de ce un algoritm ia o anumită decizie sau de ce îi face o anumită recomandare, cine este responsabil și ce soluții are la îndemână, iar companiilor le vor fi fost făcute cunoscute rigorile pe care trebuie să le respecte, vor crește aplicabilitatea și adopția tehnologiei.  

Vorbim, desigur, despre beneficii de business – nivelul creșterii volumului și calității productivități, rapidității, securitatea sporită a datelor, angajați mai motivați, optimizarea vânzărilor, îmbunătățirea întreținerii echipamentelor, îmbunătățirea serviciilor pentru clienți și economisirea energiei etc – dar și multiple beneficii la nivel de societate pe care, de altfel, le-am văzut și probat din plin în perioada pandemiei de Covid-19 – acces la informație, educație și formare la distanță, servicii de asistență medicală mai bune, autovehicule și alte sisteme de transport mai sigure, produse și servicii adaptate, mai ieftine și mai durabile, economie de timp etc.

Se estimează că productivitatea muncii corelată cu AI va crește cu 11-37% până în 2035 (grupul de reflecție al PE 2020). Toate aceste aspecte pozitive se văd deja și în România.

Credeți că această lege îi va determina pe cei care erau sceptici în folosirea AI să o folosească de acum înainte? (Având în vedere că vor exista aceste reglementări care reduc din riscurile pe care le presupune AI). 

Apariția și explozia utilizării ChatGPT și a altor aplicații asemănătoare au tras un semnal de alarmă asupra scopului în care folosim AI, atât pentru uz personal cât și în scop de business. Și, cum era de așteptat, a apărut scepticismul și neîncrederea în folosirea inteligenței artificiale, generate de riscurile pe care le prezintă pentru consumatori. În acest context, emiterea unui act normativ care are ce scop principal reglementarea AI este o măsură care ar trebui să ne ajute și să ne dea încredere în soluțiile oferite de acest instrument. 

În perioada pe care o trăim, digitalizarea și folosirea inteligenței artificiale nu mai este o alegere sau un avantaj competitiv, ci o condiție obligatorie dacă vrei să reziști pe piață. Cei care au ezitat să folosească AI în activitatea lor, vor fi nevoiți să o adopte pentru a ține pasul și a se dezvolta pe viitor. 

Este un act normativ ”stufos”, dar reușește să acopere toate tipurile de AI și use case-urile? Cum rămâne cu platformele de social media, de ex.?

Deocamdată, regulamentul este la nivel de propunere, la care, cu siguranță, se vor adăuga și scoate noi amendamente și situații care să aibă o aplicabilitate mai specifică. Până la urmă, totul se negociază. Ce știm acum este că normele propuse stabilesc obligații pentru furnizori și utilizatori în funcție de nivelul de risc pe care respectivul sistem AI îl poate avea pentru siguranța sau drepturile utilizatorilor. 

Folosirea necontrolată și nereglementată a inteligenței artificiale pe rețelele de socializare poate duce la încălcarea drepturilor omului, mai ales în ceea ce privește discriminarea anumitor segmente ale societății ca urmare a algoritmilor părtinitori, biased. Normele propuse vor încerca să rezolve sau să limiteze și această problemă. 

Este AI o componentă strategică importantă pentru companie și un avantaj competitiv? 

De 3 ori, da! 

Inteligența Artificială este un element strategic pentru orice afacere care dorește să obțină o eficiență mai mare, oportunități noi de venituri și să crească loialitatea clienților. De asemenea, este și un avantaj competitiv pentru că business-urile pot realiza mai mult în mai puțin timp, pot anticipa rezultatele de afaceri, pentru a stimula rentabilitatea. Până la urmă, vorbim despre a deține una dintre cele mai importante resurse din zilele noastre: informație. Date. Nu se mai poate face business fără date.

De la ce punct încolo AI începe să fie nociv pentru business și societate? 

Inteligența artificială are capacități și oportunități uriașe dar, în egală măsură, implică riscuri mari când este folosită în exces sau cu rea-intenție. Orice aplicație, sistem sau algoritm care discriminează, polarizează sau aduce orice fel de prejudiciu unei persoane sau companii devine nociv. Această propunere legislativă vine să impună criterii și consecințe legale pentru a sancționa derapajele folosirii IA.  

Cine ar trebui să vegheze la respectarea legii?

AI Act prevede ca fiecare stat membru să își creeze propriul corp care să armonizeze legislația din țara respectivă cu prevederile AI Act, iar apoi să monitorizeze aplicarea AI Act. Din câte știu, aceste corpuri nu sunt încă funcționale și va mai dura ceva până vor fi. De aceea, există riscul ca reglementările din AI Act în forma actuală să sufere noi modificări și update-uri, pentru a ține pasul cu avansul tehnologic.