La începutul lunii mai, în contextul moțiunii de cenzură împotriva fostului premier Ilie Bolojan, șase parlamentari intrați pe listele Partidului Oamenilor Tineri (POT) s-au desprins de acesta și au pus bazele unei noi facțiuni: Partidul UNIT. „Nu suntem nici de stânga, nici de dreapta. Suntem de partea lucrurilor care funcționează” își descriu membri partidului orientarea politică (sau lipsa ei?) pe site-ul lor. În urma unei postări pe Facebook scrisă de Radu Uszkai – cercetător în cadrul Centrului de Etică Aplicată –, mi-a atras atenția faptul că acest nou partid își propunea să folosească inteligența artificială (IA) pentru a găsi răspunsuri la decizii administrative.
În programul lor politic, UNIT se declară „ÎNTÂIUL” și singurul partid care a folosit inteligența artificială în politica din România. Adaugă că, prin intermediul datelor și informațiilor oferite de IA, vor lua cele mai bune hotărâri pentru români. Partidul susține că IA poate lua decizii mai bune tocmai pentru că nu are interese personale, obligații sau relații de influență. Pe scurt, mesajul este simplu: IA e mai onestă ca politicienii noștri sau, cel puțin, asta sugerează partidul.
Programul politic îmbină idei despre inovație și tradiție, despre inteligența artificială „lipsită de biasuri” și afirmă că partidul nu aderă la nicio ideologie. Dincolo de aceste afirmații, documentul deschide o discuție importantă despre inteligența artificială și cum este tehnologia folosită în politică, dar și despre implicațiile etice ale acestei utilizări. Partidul UNIT nu este „ÎNTÂIUL” care a adus inteligența artificială în politica din România, chiar dacă se declară astfel. În timpul mandatului premierului PNL Nicolae Ciucă a fost creat ION, un robot care avea să funcționeze pe post de consilier al fostului premier, de care nu știm însă ce s-a mai întâmplat după ce a venit în funcție alt prim-ministru. Primăria din Cluj Napoca o are asistentă, încă din 2018, pe Antonia, un soft cu inteligență artificială care servește drept funcționar public virtual, cu ajutorul căruia clujenii pot să înregistreze cereri de la distanță, fără a mai trece pe la registratură. Recent, ANAF a lansat chatbot-ul Ana, care îi va ajuta pe oameni la plata taxelor.
La nivel global, probabil unul dintre cele mai cunoscute cazuri este al Albaniei, care are o ministră creată cu ajutorul inteligenței artificiale, în cabinetul premierului Edi Rama. Diella, pe numele ei, urmează să aibă 83 de „copii”, adică asistenți digitali. În Statele Unite ale Americii, candidații la alegerile de la jumătatea mandatului, programate pentru luna noiembrie a acestui an, au deja început să folosească inteligență artificială pentru a aduna date despre campanie, votanți și pentru a se promova. Am invitat un cercetător în etică aplicată, doi politologi și o expertă în tehnologie să ne explice în ce fel influențează inteligența artificială domeniul politic din țară și care sunt efectele folosirii acestei tehnologii de către politicieni.
*Toate răspunsurile la întrebările reporterei Scena9 au fost editate și compilate într-un text unitar pentru o mai bună înțelegere a lecturii.
„Utilizarea de tehnologii noi și emergente de către partide extremiste este motivată de dorința de a se legitima prin modernitate” (Radu Uszkai, Centrul de Etică Aplicată)
UNIT nu este, sub nicio formă, primul actor politic de pe scena de la noi care aduce în discuție utilizarea AI în politică sau administrație. Nu mai departe de acum trei ani avea loc o adevărată încleștare discursivă a titanilor, între fostul premier Nicolae Ciucă și Robotul ION, vremelnicul său consilier algoritmic. La ani lumină de reprezentări ale unor asemenea entități din filmele sau serialele SF cu care ne-am obișnuit, Robotul ION, acest Data din Star Trek după o lună pe malul Dâmboviței, învăța de la fostul prim-ministru prima lecție pentru a fi un bun român: faptul că „România este o țară frumoasă, cu oameni frumoși". Nu știm exact prin ce debara din Palatul Victoria mai zace acum Ion, sau dacă e în cărți pentru fotoliul de premier, dar de atunci am mai văzut în spațiul public figuri politice relevante la nivel național care au pus în discuție utilizarea AI în zona de administrație locală. Probabil cel mai important este primarul Bucureștiului, Ciprian Ciucu. Într-o postare recentă pe Facebook, Ciucu spune că „AI-ul este game changer. E fabulos”, între altele deoarece l-a servit bine în rolul de consilier în analiza și dezvoltarea de strategii administrative.
Revenind la cei de la UNIT, cele câteva sute de cuvinte pe tema AI de pe site-ul lor seamănă cu ceva halucinat de Robotul ION: o salată de cuvinte searbădă, fără substanță, în care nici nu și-au bătut capul să facă puțină editare sau corectură. Aflăm, de pildă, că „UNIT și I.A. pot moderniza România cu adevărat, transparent și eficientnu”. Nu aflăm nimic despre care IA ar fi vorba, la ce se referă prin modernizare ori transparență, dar măcar ne fac curioși cu privire la ce o fi însemnând „eficientnu”.
Lăsând gluma deoparte, unele riscuri sunt vizibile chiar în acest mic (să-i spunem) policy brief(?). Umorul involuntar al unor afirmații precum „I.A. nu are o clică ocultă și lacomă în jurul ei” devine vizibil atunci când ne gândim la proprietarii marilor modele de limbaj pe care, cel mai probabil, cei de la UNIT le au în vedere. Apoi, a spune că „I.A. nu are obligații față de sponsori”, trădează, desigur, lipsa unei înțelegeri minimale a unor probleme cât se poate de evidente și discutate nu doar în literatura academică de specialitate, precum este cea a părtinirilor (bias-urilor) algoritmice. Această problemă este cât se poate de relevantă mai ales atunci când utilizarea unor sisteme opace de AI în administrație sau poliție (cazul Suediei este deja celebru) a evidențiat cum aceste părtiniri algoritmice au un impact negativ la adresa multor cetățeni.
Pe lângă aceste probleme discutate anterior, adică cele care privesc neutralitatea (conform căreia sistemele de AI ar fi niște unelte similare cu un pix ori o drujbă), opacitatea (sistemele nu pot explica de ce au luat o decizie) și părtinirile algoritmice (a căror origine se află în datele problematice utilizate pentru antrenarea algoritmilor), vreau să mai atrag atenția asupra unor chestiuni pe care le consider de o importanță crucială. În primul rând, utilizarea unor asemenea sisteme deschid o reală cutie a Pandorei responsabilității morale. Fără a menține posibilitatea controlului uman pe parcursul procesului decizional (în termeni tehnici, fără un „human in the loop”), ne aflăm în fața unei situații cu un rest moral important: nu știm cine (sau ce) este responsabil și blamabil (moral și legal) pentru deciziile ce rezultă într-un asemenea context când algoritmul greșește. Nu în ultimul rând, un risc adițional este deja cât se poate de evident dacă ne uităm la impactul deja vizibil în zona educației. Mă refer, desigur, la atrofierea unor abilități cognitive ale celor care ar trebui să lucreze și să ia decizii în zona administrației și a politicii, dublată de erodarea abilității de a delibera.
Cel puțin la nivel discursiv, multe mișcări extremiste au flirtat și în trecut cât se poate de vizibil cu tehnologiile noi și emergente. De exemplu, în contrast cu caracterul profund reacționar al fascismului spaniol, fascismul italian era o mișcare futuristă. Nazismul, pentru a mai oferi doar un exemplu, a profitat din plin de noile tehnologii ale informației și comunicării din anii '30 pentru a-și îmbunătăți propaganda politică. Nu știu cât de mult merită să credităm partide precum UNIT cu asemenea credențiale, asta fără a ignora însă relația cu partidul POT. Mie, de pildă, îmi este greu să iau în serios un partid care pare chitit să încalce legea noncontradicției din momentul în care se intitulează „Uniunea Națională pentru Inovație și Tradiție”. Există un aer caragialesc al acestui partid care pare dispus să accepte revizuirea a orice, cu amendamentul că nu dorește să se schimbe nimic.
Totuși, la o scară diferită, utilizarea de tehnologii noi și emergente (sau planul de a o face) de către partide extremiste cred că este motivată, în primul rând, de dorința de a se legitima prin modernitate. De pildă, hype-ul actual pe tema AI constituie o oportunitate de neratat pentru un partid aproape complet necunoscut în spațiul public, care dorește să pozeze într-o organizație „tech savvy”, însă care ajunge să semene cu un template celebru de memă: „How do you do, fellow kids?”. Așadar, lipsa de substanță ideologică reală și, cel mai probabil, lipsa unei resurse umane de calitate, este văzută de un partid precum UNIT drept șansa de a poza într-o organizație cu credențiale tehnocrate, în fața unui public încă vrăjit de inteligența artificială, care are mai degrabă statutul Oracolului din Delphi, decât cel al unei unelte imperfecte (dar care poate fi îmbunătățită).
Nu în ultimul rând, dacă lăsăm deoparte aspectele care țin de simbolistica acestor acte de comunicare, probabil cea mai relevantă implicație este una deja vizibilă. Diverse forme de totalitarism, dar și democrații într-o stare de degradare avansată, sunt din ce în ce mai captivate de posibilitatea de a crea o infrastructură a supravegherii cvasi-totale cu ajutorul sistemelor de AI. China, de altfel, deja o face, iar SUA și companii precum Palantir stau de multă vreme la pândă.
În cazul politicienilor (cel puțin la nivel european) avem un cadru creat de EU AI Act care trasează niște granițe clare între tipuri de riscuri și precizează, explicit, că unele utilizări ale AI-ului sunt inacceptabile (de exemplu, supravegherea biometrică în masă, scoringul social pe model chinezesc ori manipularea comportamentului). În plus, pentru a evita potențiale probleme care apar în cazul unor actori cu tendințe autoritare, cred că ar fi important să evităm o situație în care niște sisteme AI din administrație ar fi controlate de un partid politic, pentru că mantra sub care trăim acum devine, din ce în ce mai clar, următoarea: „cine controlează algoritmul, controlează decizia”. În acest sens, dacă mutăm atenția de la actorii politici la cei economici sau la laboratoarele de cercetare, un pas important ar fi să avem semnificativ mai multă transparență, dar și posibilitatea de a face audit (etic, politic, algoritmic) sistemelor folosite în administrație.
În condiții ideale, în care actorii politici ar fi motivați de satisfacerea interesului public, există o sumedenie de utilizări ale inteligenței artificiale la care ne putem gândi, unele dintre ele deja aduse în discuție mai devreme. Asistenți inteligenți precum Claude ne pot ajuta, în principiu, să avem servicii publice mai eficiente și accesibile pentru că oferă multor persoane din administrație acces la precondițiile necesare pentru a dezvolta evidence based policies (politici publice bazate pe dovezi), în contextul în care facilitează analiza unor seturi mari de date și ușurează procesul de brainstorming.
În condițiile non-ideale în care trăim însă, trebuie să fim cât se poate de conștienți de faptul că lucrurile sunt semnificativ mai complicate, cu multe tușe de gri și mai ales de negru. Sistemele AI complică un peisaj deja poluat de impactul din ce în ce mai coroziv al social media. Probabil cel mai relevant risc este distorsionarea agendei publice până la dispariția, de fapt, a sferei publice care permite deliberarea democratică. AI-ul Generativ este o sabie cu două tăișuri care permite, așa cum știm deja foarte bine, multiplicarea unui conținut manipulativ pe steroizi și distribuit pe niște rețele sociale care ne captează atenția ore întregi pe parcursul unei zile. În lipsa unui vaccin epistemic care să ne imunizeze, fiecare dintre noi poate să cadă pradă ușor, ținând cont de propriile părtiniri ideologice, unor deep fake-uri care ne-ar putea influența deciziile electorale și, la o scară mai mare, ar eroda întregul eșafodaj democratic.
În etica cercetării vorbim deseori despre tehnologii dual use (cu dublă utilizare): atât civilă, cât și militară. Astfel, același model, aceleași linii de cod pot fi folosite deopotrivă pentru a analiza întregi rapoarte ale Primăriei Bucureștiului din ultimele două decenii, cât și în diverse scopuri militare sau de securitate precum recunoașterea facială, analiza predictivă sau drone militare autonome. În ultima vreme vedem din ce în ce mai multe intersecții între utilizări civile și militare/de securitate. Ne uităm, de pildă, la planurile Pentagonului în urma ultimei dispute cu Anthropic. Sau, chiar mai relevant, la figuri marcante din industrie precum Peter Thiel și compania sa Palantir care construiesc în mod activ punți între cele două lumi, cu niște riscuri cât se poate de clare în erodarea drepturilor civile ale cetățenilor.
Diferențele dintre utilizările legitime și ilegitime ale inteligenței artificiale sunt cât se poate de clare. Pe de-o parte, ne uităm la intenția din spatele utilizării sistemelor IA – e una să te motiveze interesul public și să vrei să construiești politici publice mai eficiente, e cu totul alta să-ți dorești mai multă putere de dragul puterii. Pe de cealaltă parte, consecințele sunt, de asemenea, relevante. Toată lumea beneficiază de pe urma unor politici publice eficiente, în vreme ce erodarea sferei publice prin microtargeting agresiv sau deep fake-uri transformă democrația într-o algocrație în care câștigă cel care are algoritmul mai bun. Apoi, dacă utilizările legitime ar putea avea, măcar în principiu, niște mecanisme de audit și de contestare a unor decizii, cele manipulative operează în afara oricărei forme genuine de control public.
Riscul privind autonomia decidenților în cazul delegării deciziilor inteligenței artificiale este unul major și deja vizibil. Se instalează, încet dar sigur, o lene cognitivă și morală, dublată de un reflex aproape patologic de a-l întreba pe ChatGPT lucruri chiar înaintea unor decizii personale pe care le luăm. În filosofie și psihologie discutăm deseori despre „deskilling”, o atrofiere vizibilă a abilităților noastre cognitive și morale pe fondul acestei delegări (epistemice sau decizionale) către agenți inteligenți precum ChatGPT ori Claude. Într-un mod trivial, cineva care nu mai gândește cu propria minte în acest context algoritmic este o persoană cu o autonomie vizibil erodată. Fondul problemei este însă mai complicat. Avem, pe de-o parte, politicieni care deleagă decizii către sisteme inteligente, un trend care pare că golește de conținut ideea de mandat democratic. Autonomia cetățenilor este, de asemenea, lezată de acest proces al delegării. Pentru cetățeni devine greu să înțeleagă, să conteste sau să influențeze diverse decizii politice dacă acestea sunt rezultatul unor sisteme opace.
„Algoritmizarea politicii contribuie la fenomenul de hiperpolitizare a societăților noastre” (Răzvan Petri, Vlad Adamescu – Politica la Minut)
De unde putem începe să vorbim despre riscurile care apar atunci când inteligența artificială (IA) ajunge să ia decizii administrative? În primul rând, astăzi, industria IA se confundă aproape la fix cu „clica ocultă și lacomă” menționată de partidul UNIT, chiar dacă ei o prezintă drept o alternativă la aceasta. Marile corporații care dezvoltă inteligența artificială sunt în cârdășie cu puterea politică, în loc să fie un instrument pentru responsabilizare. În special la Washington, acolo unde politicienii MAGA și șefii companiilor tech au ajuns să lucreze împreună pentru a-și atinge scopurile – monopol politic și economic –, iar inteligența artificială nu este reglementată așa cum ar trebui să fie. Cel mai bun exemplu este chiar colaborarea Anthropic, iar mai apoi și cea a OpenAI cu Pentagonul, împotriva interesului public.
Împreună cu administrația Trump, magnații IA luptă împotriva celor care au încercat să reglementeze sectorul, cum ar fi Uniunea Europeană care a încercat această reglementare prin intermediul AI Act. Administrația din SUA subminează unitatea europeană în timp ce industria IA ar beneficia de pe urma piețelor nereglementate. Win-win. În fine, să zicem totuși că avem de-a face cu o tehnologie perfectă. Tot trebuie să ne punem întrebări serioase în legătură cu aceasta: poate IA să înlocuiască decizia omului? Sau ne dorim să facă asta? Haideți să presupunem că IA va dobândi capacitatea de a prezice infracțiuni și crime cu acuratețe aproape 100%. Am fi de acord să se facă arestări înainte de comiterea infracțiunii? Să luăm altă variantă: presupunem că inteligența artificială va putea să ne ofere rata optimă de taxare ori nivelul de ajutor social dintr-o societate. IA va lua în calcul datele puse la dispoziție, dar, fiind antrenat pe baza experienței, inclusiv a biasurilor oamenilor, ne putem asigura că va lua în calcul dileme etice și morale?
Dacă ne uităm puțin la probleme din plan local, va putea oare IA să ne spună dacă incriminarea legionarismului sau legiferarea parteneriatului civil sunt dezirabile? Nimeni nu își dorește și nici nu a ales ca IA-ul să răspundă la aceste întrebări, așadar tehnologiei îi lipsește legitimitatea democratică. În plus, știm că AI-ul reproduce și amplifică biasul oamenilor. Dacă ne referim strict la Partidul UNIT, nu cred că există motive reale de îngrijorare. Formațiunea pare evident neserioasă și este puțin probabil să aibă o existență îndelungată în Parlament, fiind alcătuită din deputați care au părăsit partidul POT. În plus, partidul pare să se fi inspirat din sigla partidului TISZA din Ungaria, continuând astfel seria formațiunilor suveraniste din România care preiau identități vizuale ale unor partide din regiune. Un exemplu anterior este PACE, care a copiat sigla partidului Konfederacja din Polonia, inclusiv conturul hărții Poloniei.
Totuși, vedem că utilizarea inteligenței artificiale devine o problemă politică indiferent de partid. Cei care urmăresc traseul legislativ probabil că au observat că în ultimii doi ani au apărut din ce în ce mai multe inițiative legislative scrise integral cu ajutorul unor chatboti (și, de multe ori, chiar cu variantele neplătite, mai puțin performante). Acest lucru doar ajunge să reducă și mai mult calitatea actelor legislative, care era deja destul de slabă. În același mod, vedem propuneri de de politici publice scrise cu IA într-un mod abstract, fără a se mai ține cont de contextele locale și particularitățile în care acestea ar urma să fie aplicate.
Felul în care inteligența artificială influențează procesele democratice se reflectă cel mai evident în cazul dezinformării. Cred că perfecționarea instrumentelor IA a contribuit la criza de încredere în democrație. Nu este doar faptul că nu știm dacă un video este realizat cu IA (deepfakes, spre exemplu), lucru care poate să deturneze întregi campanii, ci este vorba și de avalanșa de informație produsă sau sintetizată cu ajutorul IA, informație care poate să fie rezultatul halucinației chatbot-ului sau a încercării unor actori care doresc să vicieze procesul electoral. Pur și simplu nu mai știm dacă putem să avem încredere în ceea ce vedem în față sau în politicienii noștri. Or, sistemele democratice se bazează pe încrederea cetățenilor. Fără încredere în sistemul politic, cetățenii tind să fie mai puțin dispuși să respecte regulile agreate în comun. Printre efectele lipsei de încredere se numără: creșterea nivelului de apatie, scăderea participării la vot, creșterea evaziunii fiscale și, într-un final, amplificarea furiei oamenilor.
Algoritmizarea politicii contribuie și la fenomenul de hiperpolitizare a societăților noastre. Se accelerează producția de conținut politic (de foarte multe ori AI slop) care contribuie la politizarea unor teme și la reactivarea unor electorate cu ajutorul social media. Pe de altă parte, însă, el nu ajută la instituționalizarea conflictelor politice, adică la o mai bună reprezentare politică sub forma unor partide, organizații sau sindicate. Tindem să petrecem mai mult timp interacționând cu IA și cu produși IA decât cu alți oameni interesați de politică sau de probleme sociale. Astfel, sfera publică se golește, rapid, de dezbatere reală, între oameni.
O altă problemă legată de industria inteligenței artificiale are de-a face cu nivelul de control pe care îl exercită asupra politicului, deși acesta din urmă ar trebui, în mod normal, să stabilească regulile și limitele de funcționare ale primei. Asta pentru că bula IA a concentrat în mâinile a câtorva indivizi averi și tehnologii râvnite, lucruri care se convertesc ușor în putere politică. Probabil că am văzut mulți dintre noi acele imagini cu Donald Trump la masă cu șefii din tech. Asemenea imagini, ușor distopice, prevestesc o colaborare nefiresc de strânsă între două sectoare care ar trebui să fie ordonate ierarhic. Într-o democrație, firesc este ca reprezentanții aleși de către cetățeni să fie cei care stabilesc în ce fel își desfășoară aceste companii activitatea, nu invers. Sprijinul din tech față de Donald Trump a venit chiar și sub forma unor donații din partea lui Jeff Bezos, Mark Zuckerberg sau Sam Altman, participarea la mitinguri electorale cum a fost în cazul lui Elon Musk și vizite la Mar-a-Lago.
Un lucru la care ar trebui să fim atenți, în acest context, sunt strategiile de blame shifting și de evitare a responsabilității, care sunt foarte comune politicienilor de pretutindeni. În România, multe politici publice ajung să fie implementate fără prea multe explicații publice, dezbateri sau consultări. De multe ori ajung să treacă sub pretextul că „vin de la UE” sau pentru că sunt cerute de Banca Mondială ori alte organizații internaționale. Într-o notă similară, incompetența sau neputința politicienilor ajunge să fie de multe ori pusă în cârca Uniunii Europene: „Noi am fi vrut să facem X sau Y lucru, dar pur și simplu nu lasă UE”. Așadar, nu e greu să ne închipuim justificări de genul și în viitor „Noi am fi vrut să facem o schimbare în acel domeniu, dar după ce ne-am consultat cu AI-ul, ne-am dat seama că pur și simplu nu e fezabil să facem asta”. Va fi și mai important să rămânem vigilenți și să sancționăm astfel de comportamente din partea aleșilor noștri în următorii ani.
În concluzie, folosirea inteligenței artificiale în politică ar trebui strict reglementată, ceea ce face deja Uniunea Europeană prin AI Act. Lipsa reglementărilor ne poate duce foarte ușor în scenarii distopice, în care AI-ul este instrumentalizat de candidați și partide politice. Vorbim de filmulețele fake făcute cu AI, discursuri inventate ale candidaților sau legi scrise integral de un chatbot. Jamie Susskind, autor al cărții The Digital Republic, crede că suntem aproape de punctul în care vom ajunge să prezumăm că orice fel de conținut de pe internet este fals sau creat cu AI – inclusiv filmări cu CCTV, folosite în instanțe judecătorești, de exemplu. Avem nevoie, deci, de proceduri care să ne ajute să dovedim când un anumit conținut – fie că e imagine, video, sau înregistrare audio – e real. Altminteri, într-o eră în care suntem inundați non-stop cu informații din toate părțile, am deveni și mai vulnerabili la conținut fals.
„Folosirea genAI este o alegere. Formularea prompt-ului este o alegere. Acceptarea răspunsului este o alegere” (Alex Ștefănescu, Asociația pentru Tehnologie și Internet)
În primul rând, inteligența artificială generativă (genAI), adică ChatGPT, Claude, Replica și alte astfel de aplicații, este o tehnologie construită prin furt și exploatare, folosită pentru a deprofesionaliza și precariza persoane. Au fost publicate deja studii care demonstrează că utilizarea genAI ne distruge capacitatea de a gândi limpede, de a rezolva probleme, de a lua decizii, de a fi reziliente la emoții dificile. Folosirea repetată în context profesional a inteligenței artificiale scade toate abilitățile care fac dintr-o persoană „un profesionist”. Angajatorii ne cer mult mai multă muncă, ne oferă mai puțin timp și ne amenință că ne dau afară și ne „înlocuiesc” cu genAI. Nu există nicio utilizare etică a unei tehnologii care distruge coeziunea socială atunci când e utilizată.
Suntem în situația în care e dificil să tragem la răspundere decidenți politici pentru acțiunile lor, atât în timp de pace, cât și în timp de război. Văd două chestii care îngreunează responsabilizarea. Prima e apatia politică. Din ce în ce mai puține persoane sunt active în viața politică. Din ce în ce mai puțini dintre noi suntem membri ai unui partid sau activ implicați măcar la nivel local în politică.
A doua e spălarea sau delegarea responsabilității cu ajutorul tehnologiei. GenAI este o tehnologie care produce rezultate fără a putea să le explice: un algoritm de acest gen nu ne poate arăta cum a ajuns să producă un anumit text în detrimentul altuia. Noi știm asta și alegem să folosim această tehnologie pentru a obține răspunsuri întocmai pentru că există cazuri în care vrem să ștergem urma raționamentului care a produs un răspuns. Acțiunea politică, însă, e mereu înfăptuită de un om. Și trebuie să reînvățăm cum să acționăm democratic pe scena politică pentru a-i responsabiliza pe acești oameni și a le pentru a le arăta consecințele acțiunilor lor.
Democrația are la bază participarea politică neîngrădită, atât în nume propriu, cât și prin reprezentanți. Tehnologia nu ne face mai puțin democratici, ci invers: odată cu apatia politică, odată cu delăsarea, am construit tehnologii care ne canalizează toată energia în bule sociale și în propriul univers individual. Nu mai avem avântul de a ne aduna în jurul unei idei și de a o pune în aplicare. Ce facem, în schimb, este să folosim tehnologia pentru a ne retrage în noi înșine. Așa am ajuns la afirmația distopică a lui Mark Zuckerberg, care spunea că chatboții vor ține locul prietenilor pe care nu-i mai avem. Dacă noi am fi în continuare aduși laolaltă de un avânt social și politic, nu am mai avea loc în viață și nici nevoie de un chatbot.
Un chatbot de genAI nu poate produce efecte dacă nu-i dă nimeni o comandă (un prompt). Persoana care dă prompt-ul unui chatbot controlează ceea ce va fi produs. Folosirea genAI este o alegere. Formularea prompt-ului este o alegere. Acceptarea răspunsului este o alegere. Toate alegerile astea sunt făcute de persoane vii, care trebuie trase la răspundere atunci când alegerile lor produc efecte dezastruoase. Dacă ar exista consecințe materiale pentru persoana, partidul, instituția care a făcut toate alegerile astea, utilitatea genAI ar fi redusă dramatic. Nimeni nu ar vrea să-și asume să fie dat afară sau adus în fața legii pentru ceva ce a fost produs de un algoritm pe care nici nu-l înțelege.
În industria militară, în controlul de frontieră, în moderarea de conținut, genAI-ul merge mână în mână cu colectarea, stocarea și procesarea de date despre noi. Toate aceste acțiuni sunt, la rândul lor, politice, înfăptuite de oameni. Noi putem decide și putem acționa politic să ștergem, de exemplu, o bună parte din toate datele colectate vreodată. Putem alege să nu le mai colectăm vreodată. Putem alege să dăm legi și să le punem în aplicare astfel încât modelul de business prin care fac profit Palantir, Meta, NSO Group (care produc spyware-ul Pegasus) să nu mai fie profitabil. Toate astea se rezolvă cu acțiune socială, politică, nu prin tehnologie. Fascismul ajunge să fie posibil atunci când o bună parte din noi ne pierdem complet orice urmă de speranță că situația politică actuală va deveni vreodată una în care putem avea o viață bună. E clar că suntem în situația asta, acum. Vedem din ce în ce mai mult apetit în partidele noastre politice pentru o guvernare autoritară.
Numele ăsta, UNIT, e și ironic în contextul în care doar dezbinarea socială le poate asigura vreo urmă de capital politic membrilor lui. Orice program politic care mizează pe faptul că oamenii guvernați nu pot acționa laolaltă e sortit eșecului.
