China vrea să învingă în cursa pentru Inteligența Artificială

Henrieta Șerban*

Sursa foto aici.

Inteligența artificială (IA) s-a impus ca o sintagmă curentă și ca dezbatere readusă în atenția publică de cazul specialistului de la Google, care a trebuit să se retragă, după ce a declarat că ar fi realizat o inteligență artificială conștientă – cercetătorul Blake Lemoine declara că LaMDA, IA în discuție, îi spusese că „se simte singură” și se teme „să nu fie oprită” … oricum ar fi ajuns la aceste formule și orice ar putea indica aceste expresii sensibile.

Tensiunea dintre libertatea informației și protecția datelor private

Se consideră însă că IA presupune deocamdată numai o serie de aplicații și algoritmi, implicați în activitățile și viața cotidiană prin utilitatea lor și care interacționează cu utilizatorii. Aceste aplicații, acești algoritmi, funcționează prin organizare și filtrare de date, activități necesare și justificate, considerând cantitatea imensă de informație prezentă online (pe de o parte, furnizată de utilizatorii umani și, pe de altă parte, propusă acestora). Tensiunea dintre libertatea informației și protecția datelor private nu a fost niciodată mai clară decât acum. Încă din 2019, există preocupări concertate ale specialiștilor chinezi, tehnicieni și juriști, concretizate în propuneri de reglementări pentru această problemă (specific, manipularea și „discriminarea algoritmică”) (DigiChina).

Sursa foto aici.

Accelerarea rapidă a progresului științific și tehnologic, care a început la începutul secolului XXI, a devenit un factor decisiv în influențarea globală și economie. Cine va conduce cursa globală a inovației IA? Această problemă este relevantă în special în domeniul inteligenței artificiale (IA). În acest moment, Statele Unite și China sunt principalele forțe care-și dispută dominația în domeniul inteligenței artificiale. Pe baza statisticilor pare că dezvoltarea inteligenței artificiale în China a atins un punct critic. China conduce cu încredere noua cercetare fundamentală a inteligenței artificiale. Totuși, în ceea ce privește numărul și calitatea specialiștilor IA („AI Talents”) și numărul de companii implicate în crearea de forme de IA, China este încă în urmă în urma principalului său rival, și anume Statele Unite.

Așa să fie?

Pentru context, după cum evidențiază și Foreign Policy în China Brief, aplicațiile dedicate recunoașterii faciale și subsumate categoriei desemnate prin sintagma „inteligență artificială” sunt criticate în SUA de American Civil Liberties Union, o organizație care a semnalat deja incidente rasiste cauzate de astfel de aplicații. Programele de recunoaștere facială sunt aplicate în SUA, China și Rusia. Dacă SUA ar interzice aplicațiile de recunoaștere facială, ar fi ca și cum s-ar ușura stabilirea unei supremații ruse și chineze în acest domeniu, fiindcă este puțin probabil că aceste țări ar urma exemplul american, ci ar continua să dezvolte tehnologia (așa cum o fac companii precum Hikvision) și s-o aplice pentru supravegherea și ingineria socială tehnologizată aplicată minorității uigure, ca în Xinjiang. Totuși, pe de altă parte, există pericolul de a folosi drept sperietoare dezvoltare tehnologică chineză pentru a continua supravegherea în masă pretutindeni, fără considerație pentru drepturile civile.

Sursa foto aici.

„Discriminarea algoritmică” în China

Reglementarea activității și influenței algoritmilor, în fapt a IA incipiente care se impune ca prezență marcantă în lumea contemporană și care deocamdată tinde să influențeze sau să stabilească prețurile, să influențeze sau selecteze rezultatele căutărilor pe internet, să recomande sau să filtreze conținut online reprezintă o miză contemporană de primă importanță. Va fi IA cerberul în cyber security în China și în lume sau un set de norme coerente legitimate societal sau și mondial?

Sursa foto aici.

Nemulțumirile utilizatorilor care au observat aceste tipuri de interferențe din partea algoritmilor a condus la profilarea conceptului de „discriminare algoritmică”, în China, unde se constată și cel mai asiduu efort de reglementare a activității IA (Algoritmic Bias). S-au stabilit reglementări care să interzică companiilor să folosească prin intermediul algoritmilor IA pentru a oferi utilizatorilor prețuri diferite pentru același produs sau serviciu (prețul unei curse Uber, ori al unui bilet de avion, sau costul unei cazări etc.).

Președintele Xi Jinping a declarat într-un discurs din octombrie 2021 „Unele semnale și tendințe nesănătoase și dezordonate au apărut în dezvoltarea rapidă a economiei digitale a țării noastre”. (Pekingnology) Rogier Creemers (Leiden University), dar și alți experți în legislație și guvernare chineză urmăresc cu interes și atestă evoluția chineză extrem de rapidă în acest domeniu. (Proiectul DigiChina) Reglementările chineze sunt cunoscute sub denumirea Internet Information Service Algorithmic Recommendation Management Provisions și sunt opera Administrației Spațiului Cibernetic în China /The Cyberspace Administration of China.

Demersul de reglementare a algoritmilor IA și mai ales a celor dedicați recunoașterii faciale a început încă din iunie 2018 cu o evaluare a situației în vederea stabilirii unor norme și reglementări, precum și a unor politici publice, finalizat inițial prin documentul „Security Impact Assessment Guide of Personal Information”. (Assessment Guide)

Sursa foto aici.

Așa cum arătau Rogier Creemers și Samm Sacks, Administrația Cyberspace din China înființată încă din 2011 a publicat, pe 29 octombrie 2021, un proiect de reguli care subliniază un proces guvernamental de evaluare a securității pentru transferul în străinătate a unei game largi de date. Proiectul „Măsuri de evaluare a securității transferului de date în exterior” a fost deschis pentru comentarii publice până pe 28 noiembrie 2021.

Prezentul proiect de măsuri se referă la Legea securității cibernetice, la Legea securității datelor și la Legea privind protecția datelor cu caracter personal (în vigoare la 1 noiembrie 2021) concepute pentru a implementa prevederile lor privind transfer de date de frontieră. (Proiectul DigiChina)

China, UE și competiția globală

Rogier Creemers subliniază faptul că reglementările chineze se remacă prin aplicabilitatea la „serviciile de informare pe internet” (un termen umbrelă pentru rețelele sociale, comerțul electronic și serviciile de transport), la drepturile consumatorilor (să evite să cauzeze consumatorilor „dependență ori consum excesiv”) sau angajaților în sfera dreptului civil, dar nu sunt destinate să abordeze utilizarea algoritmilor de către organismele guvernamentale, cf. în special art. 17 și 18. Cf. proiectului DigiChina de la Stanford apar însăformulări vagi care sunt menite să deschidă oportunități pentru controlul statului asupra cetățenilor și informației și „să susțină orientările valorice principale”, „diseminarea energică a energiei pozitive” și „prevenirea sau reducerea controverselor sau disputele”.

În al doilea rând, astfel de documente constituie primul efort major demonstrat de Administrația Cyberspace din China de a aborda un aspect al controlului conținutului, în special conținutul politic dar există și prevederi speciale privind „algoritmi cu proprietăți a opiniei publice sau capacități de mobilizare socială”, regulile reflectând poziția paternalistă a PCC cu privire la o anumită moralitate a serviciilor online, eludată în Europa sau în Statele Unite.

În al treilea rând, aceste reglementări responsabilizează acțiunile corporative, urmăresc tipul de aplicare și nivelul de impact pentru algoritmi, similar cu Sistemul de protecție pe mai multe niveluri deja în vigoare pentru rețelele și infrastructura critice și „protecția clasificată și gradată”, încorporată în Legea securității datelor. (Proiectul DigiChina) Astfel, importanța algoritmilor ar fi măsurată prin potențiale consecințe politice, precum și numărul de utilizatori, sensibilitatea datelor utilizate și gradul în care influențează activitățile utilizatorilor. Algoritmii de opinie publică ar trebui să fie înregistrați de către Administrația Cyberspace din China, sau, de către diviziunile regulatoare de la nivel regional-provincial.

Sursa foto aici.

Reglementările prevăd amenda maximă de 4600 USD sau 30000 RMB, ceea ce nu reprezintă deloc o problemă pentru afacerile de succes în e-commerce cu cifre de afaceri de miliarde, dar, observă și R. Creemers, aceste sume se vor stabili la niveluri mai mari. Gigantul Alibaba a fost sancționat cu câteva milioane pentru violări antitrust. Într-adevăr, „China este pe cale să reglementeze activitatea IA, în timp ce lumea stă și privește?”

Există similarități între reglementările Chinei și cele ale UE, care le-au precedat și care restricționează utilizarea recunoașterii faciale, interzic manipularea prin intermediul algoritmilor și reglementează utilizarea produselor întemeiate pe IA cum ar fi chatbot-urile și anumite jocuri pe calculator. Dar reglementările europene din aprilie 2021 sunt propuneri și se poate să fie dezbătute mai multe luni de acum înainte. Silvia De Conca privind analitic problema vieții private, a dreptului la intimitate și casele noastre europene vrăjite de internetul lucrurilor (IoT), prin care lucrurile prind viață la un semn identifică astfel de similarități  problematice, care frizează manipularea, în informarea utilizatorilor asupra opțiunilor. Foarte recent, China și Europa conlucrează în aceste probleme. Numai că, în timp ce în Europa interesul este axat pe sprijinirea piețelor și a drepturilor individuale, în China accentul cade pe binele societal, apărat în sensul că autoritățile chineze sunt preocupate drepturi colective, moralitate și valori tradiționale.

Bătălia în acest domeniu este în curs, iar președintele chnez Xi Jinping a declarat deja că vrea să facă din China liderul mondial în IA.

*Henrieta Șerban este dr. hab. și cercetător științific la Institutul de Științe Politice și Relații Internaționale „Ion I. C. Brătianu” al Academiei Române.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *