Pentru a înțelege mai bine cum pot fi combătute abuzurile online asupra copiilor și adolescenților, am stat de vorbă cu două organizații care operează linii de urgență, unde oricine poate sesiza astfel de cazuri.
Internet Watch Foundation, din Marea Britanie, caută proactiv site-urile care găzduiesc sau creează materiale online care conțin abuz sexual asupra minorilor și soluționează plângerile venite de la oameni. Organizația face pionierat în acest domeniu și munca specialiștilor dela IWF e folosită ca model de către instituțiile europene.
În România, organizația Salvați Copiii operează esc_ABUZ, platforma unde oricine poate semnala conținut online ce poate fi dăunător copiilor.
Cum funcționează un astfel de hotline? Cine poate apela la ele? Cum pot reprezenta un model pentru alte organizații care vor să combată violența online la adresa minorilor?
Acest articol face parte din seria „Vulnerabili online”, în care discutăm despre cum îi putem proteja pe copii și adolescenți de violența digitală.
Deși discutăm frecvent despre riscurile la care sunt expuși copiii în mediul online - cyberbullying, revenge porn, deepfake porn, șantaj sexual, doxxing și altele - știm puțin despre instrumentele pe care le au la dispoziție victimele acestor tipuri de abuz.
În fiecare an, mai mult de 300 de milioane de copii sunt victime ale exploatării și abuzului sexual online, potrivit unui studiu realizat de Childlight Global Child Safety Institute. Cu un caz la fiecare 10 secunde, organizația a avertizat că în fiecare clasă, în fiecare școală și în fiecare țară găsim câte o victimă a abuzului online.
Mulți dintre acești minori vorbesc de un sentiment de „izolare” și singurătate, atunci când vine vorba de felul în care simt aceste experiențe. Tocmai de aceea, e important să cunoaștem modul prin care pot să primească ajutor.
Unele organizații din România, precum Salvați Copiii, se concentrează direct pe riscurile pe care copiii și tinerii le pot întâlni în mediul online: cyberbullying, revenge porn, doxxing, etc. Organizația se ocupă de monitorizarea abuzurilor, de consilierea victimelor care le cer ajutorul și încearcă să crească gradul de conștientizare în rândul copiilor și părinților.
Programul Ora de Net, început în urmă cu 17 ani, combină cercetarea, educația și consilierea, și include și linia de raportare anonimă esc_Abuz, singura din România unde oricine poate raporta experiențe de abuz sau situații periculoase pe internet.
Claudia Oprescu, coordonatoarea proiectului încă de la început, explică cum, de-a lungul anilor, riscurile la adresa siguranței online a minorilor au crescut semnificativ. Cyberbullying-ul, de exemplu, a devenit un fenomen tot mai frecvent, iar numărul materialelor cu conținut ilegal publicate pe site-urile din România a explodat: în 2023 au fost raportate aproximativ 3.000 de cazuri, iar în 2024 cifra a urcat la 19.000. „Aceste materiale online care reflectă abuz asupra minorilor, pot fi găsite pe servere din România, iar linia esc_Abuz este dedicată raportării lor”, subliniază Oprescu.
În noiembrie 2024, Salvați Copiii a fost desemnată de ANCOM drept notificator de încredere pentru siguranța digitală a minorilor. Organizația are acum rolul de a semnala rapid conținut periculos, precum accesul copiilor la site-uri pornografice, pornografia infantilă sau tentativele de ademenire în scopuri de abuz.
Acest certificat le-a validat ultimele aproape două decenii de muncă, pe lângă toate cifrele pe care le-au adunat de-a lungul anilor și poveștile voluntarilor sau ale minorilor pe care i-au ajutat.
Copiii, parte din soluție
Organizația consideră esențială implicarea tuturor actorilor relevanți în prevenirea abuzului online: părinți, profesori, elevi și autorități. „Avem o comunitate activă de profesori, cărora le oferim periodic kituri educaționale cu planuri de lecții, iar părinților metode simple de reacție la mesaje jignitoare sau amenințări online”, explică coordonatoarea.
Ceea ce îi învață pe părinți, în primul rând, este să restabilească echilibrul emoțional al copilului și să știe cum să-l ajute să-și gestioneze emoțiile, înainte de partea legală și tehnică. „Copiii preferă să vorbească cu prietenii, nu cu părinții, despre experiențe neplăcute online. De aceea, părinții trebuie să fie prezenți și empatici, căutând soluții împreună. Aplicațiile de control parental pot ajuta, dar doar dacă sunt prezentate ca protecție, nu ca restricție”, explică Claudia Oprescu.
Un pilon important al programului este implicarea tinerilor în promovarea siguranței online. Adolescenții de peste 15 ani pot deveni voluntari și ambasadori ai organizației „Salvați Copiii”, participând la traininguri despre riscuri digitale, la sesiuni de brainstorming și focus grupuri. Pregătiți cu informații actuale, aceștia merg apoi în școli pentru a le vorbi colegilor despre cum se pot proteja în mediul online.
În prezent, organizația are o rețea de 500 de voluntari activi la nivel național.
O soluție similară pentru gestionarea cazurilor de abuz de orice tip în rândul elevilor vine chiar de la elevi. Mai precis, de la Consiliul Consultativ al Copiilor, un grup afiliat fundației World Vision România. În 2023, puștii ei au propus Ministerului Educației înființarea unei platforme online prin care poți raporta în mod anonim cazurile de violență în școli, la nivel național. În felul ăsta, cred ei, rușinea și teama de a fi blamată ca victimă nu vor mai fi obstacole în calea raportării. În urma semnalării cazului, școala ar trebui să aibă o procedură clară pe care să o aplice pentru rezolvarea lui. Mai rămâne de găsit și voința politică pentru crearea unui astfel de program.
Dacă în România copiii au fost invitați pentru prima dată să facă parte din soluție, în Marea Britanie există deja structuri consolidate care lucrează pentru a combate abuzul online asupra minorilor și pentru a da jos de pe internet materialele care reprezintă abuz sexual asupra copiilor.
Cum funcționează un hotline internațional?
Internet Watch Foundation (IWF) este una dintre aceste organizații, care acționează în spatele ecranelor pentru a șterge urmele celui mai sumbru tip de conținut: materialele de abuz sexual asupra copiilor.
De-a lungul timpului au observat că problema abuzului online asupra minorilor nu are granițe. Tocmai de aceea încearcă să colaboreze cu instituții, autorități, persoane din tech, organizații și linii de urgență din alte țări ca să vadă efectele pe care și le doresc.
Când au început, în urmă cu 29 de ani, 18% din conținutul cunoscut, la nivel mondial, care înfățișează abuz sexual asupra copiilor provenea din Marea Britanie. Astăzi, mai puțin de 1% din aceste imagini provin de aici.
În spatele acestei scăderi stau și analiștii Internet Watch Foundation, o echipă oarecum mică pentru impactul pe care îl are, dar esențială, care în fiecare zi petrece ore întregi în fața ecranelor, filtrând cele mai întunecate colțuri ale internetului. O zi obișnuită la IWF nu seamănă cu nicio altă meserie din tech: începe cu rapoarte anonime trimise de public și continuă cu o muncă de verificare meticuloasă, menită să salveze copii reali din situații de abuz.
Munca în cadrul organizației se desfășoară pe mai multe paliere. Unul dintre cele mai importante este hotline-ul, la care oricine poate apela pentru a semnala existența în online a unor materiale ce conțin abuz sexual asupra minorilor. În paralel, echipa lucrează la politici publice, influențând decizii la nivel european, și se ocupă de comunicare și colaborare cu instituțiile relevante pentru protecția copiilor online.
Tamsin McNally lucrează la IWF de 11 ani și conduce linia lor telefonică de urgență (hotline). Activitatea acestei linii este structurată în trei echipe: analiști, evaluatori și o echipă de asigurare a calității.
În fiecare zi, analiștii - cei care răspund la telefon și care analizează conținutul primit de la oameni fie anonim, fie cu detaliile lor. Verifică ce au raportat oamenii, încarcă materialele necesare în baza lor de date și stabilesc dacă este sau nu vorba despre abuz sexual asupra copiilor în acele imagini. Dacă da, se întocmește un raport detaliat, se colectează dovezi pentru autorități și se adaugă URL-ul pe lista de blocare, prevenind accesul ulterior. De asemenea, identifică țara de proveniență a serverului de pe care au fost publicate materialele și colaborează cu linii de urgență partenere sau cu forțele de ordine internaționale pentru eliminarea rapidă a conținutului.
Evaluatorii sunt cei care analizează, pe rând, fiecare imagine și videoclip, notând vârsta copiilor, activitatea sexuală implicată și clasificarea din punct de vedere legal, în funcție de legislația din Marea Britanie. Toate aceste informații sunt mai apoi transformate într-un hash digital - o amprentă unică ce permite identificarea unui fișier drept child sexual abuse material - care este transmis și celorlalți parteneri pentru a putea preveni răspândirea materialelor și, mai pe scurt, pentru a le elimina de la sursă.
Pe lângă sesizările primite de la public, echipa desfășoară și o activitate proactivă. O dată pe săptămână, specialiștii caută materiale ilegale pe zone mai puțin vizibile ale internetului, folosind cunoștințele și experiența acumulate de-a lungul anilor pentru a identifica site-uri obscure unde pot apărea astfel de conținuturi. După atât de mult timp, le este ușor să le depisteze.
Pentru că este o muncă dificilă și cu un puternic impact emoțional, echipa hotline - adică cei aproape 40 de oameni, sunt obligați să vadă cel puțin o dată pe an un psiholog profesionist. De asemenea, au la dispoziție ședințe lunare de consiliere, pentru cine are nevoie. Printre situațiile raportate la hotline se numără: sextortion (șantaj sexual asupra minorilor), materiale create cu ajutorul inteligenței artificiale care prezintă abuz sexual asupra minorilor, precum și materiale care implică violență, cruzimi sau acte de bestialitate asupra copiilor.
Tamsin consideră că e nevoie să fii extrem de atent la procesul de recrutare, ca să angajezi oamenii rezilienți emoțional. Altminteri, tot procesul poate să fie extrem de traumatizant. Chiar dacă este greu, coordonatoarea liniei de urgență spune că mereu pleacă acasă cu un sentiment de satisfacție, pentru că știe că a făcut ceva valoros:
„Recent, de exemplu, am primit un mesaj de la o victimă pe care am ajutat-o. A descris cât de mult a însemnat pentru ea faptul că materialul abuziv fusese eliminat. A avut astfel șansa să își continue viața. (...) Și apoi sunt toți copiii care nici măcar nu realizează că sunt victime - cei manipulați, constrânși sau exploatați online. Mulți dintre ei cred că doar se joacă, fără să înțeleagă de ce li se cere să efectueze acte sexuale tot mai grave. Noi nu doar eliminăm niște materiale care există în online, ci le oferim protecție și blocăm accesul altora la ele. Asta este, în fond, motivul pentru care fac această muncă.”
Legislația față-n față cu chatboții, deepfake-urile și AI
Hannah Swirsky, Head of Policy and Public Affairs la IWF, ne-a explicat că organizația a lucrat intens la mai multe acte legislative europene. Implicarea lor a constat atât în exercitarea de presiuni asupra oficialilor europeni, cât și în oferirea de sprijin pentru implementarea efectivă a acestor reglementări, menite să prevină răspândirea materialelor cu abuz sexual asupra copiilor.
Primul este Regulamentul privind abuzul sexual asupra copiilor, menit să înlocuiască legislația temporară care permite detectarea materialelor ce conțin abuz sexual asupra minorilor și să facă identificarea și blocarea lor obligatorie pentru companii. Al doilea este Directiva privind abuzul sexual asupra copiilor, care cere incriminarea tuturor materialelor cu caracter sexual generate cu inteligență artificială.
Această măsură vine ca răspuns la creșterea numărului de imagini și videoclipuri cu minori create cu ajutorul deepfake care sunt disponibile pe internet. Cel mai recent, IWF a descoperit un site de tip chatbot care oferea mai multe personaje cu care utilizatorii pot să interacționeze în diferite scenarii. Unele dintre aceste cazuri includeau acțiuni sexuale explicite cu personaje tip chatbot care erau create după imaginea unui copil.
„Imaginile din acest caz sunt generate cu ajutorul inteligenței artificiale pentru a crea materiale care reprezintă abuzuri sexuale la adresa minorilor. Aceste imagini, create cu ajutorul inteligenței artificiale, sunt periculoase pentru că normalizează și înrădăcinează abuzul sexual asupra copiilor”, explică Hannah Swirsky. „De asemenea, este ilegal în anumite țări din UE și în Marea Britanie. În unele cazuri, imagini reale cu minori au fost folosite pentru a antrena diferite tipuri de AI, introducând o traumă reală într-un conținut sintetic. De asemenea, acest lucru ascunde victimele reale, deturnând resursele critice ale poliției de la identificarea și protejarea copiilor aflați în pericol.”
Munca de advocacy în domeniul politicilor publice poate dura până poate să producă schimbări, însă Hannah mi-a explicat cum își măsoară impactul.
Un exemplu relevant sunt materialele care conțin abuz sexual asupra minorilor generate de inteligență artificială:
„În ultimii ani am semnalat atât creșterea fenomenului, cât și lacunele din legislația britanică existentă, creată cu mult înainte de apariția AI. Am subliniat necesitatea recunoașterii unor noi infracțiuni: una pentru modelele AI sau generatoarele de imagini folosite pentru crearea de materiale abuzive și alta pentru manualele sau ghidurile care explică cum să se producă astfel de materiale.”
Așadar, în urmă cu șapte luni, Secretarul de Interne a anunțat introducerea celor două noi infracțiuni, incluse acum într-un proiect care se află în dezbatere în Parlament și care sunt optimiști că vor fi adoptate.
„Mi-aș dori ca jobul meu să nu existe”
De cealaltă parte, Tamsin McNally observă impactul la firul ierbii. Pentru că lucrează îndeaproape cu cazuri de abuz sexual asupra minorilor, s-au obișnuit să repereze noile tehnologii folosite pentru propagarea lui și cum să împărtășească mai departe aceste informații către autorități și factorii de decizie. Datele pe care le colectează nu ajută doar la stoparea abuzului, ci ulterior sprijină anchetele penale și ajută companiile să-și întărească măsurile de protecție.
Uneori primesc telefoane de la supraviețuitori sau de la poliție cum că informațiile lor au dus la condamnări. „Din când în când, primim feedback de la victime sau de la poliție, care ne spun că informațiile furnizate au dus la condamnări. Să știi că persoanele responsabile sunt trase la răspundere este extrem de satisfăcător”, continuă managera liniei de urgență.
Însă, Tamsin reamintește că vorbim despre un fenomen fără granițe. Astfel, o imagine poate să fie creată într-o cameră din SUA, să fie vizualizată în Germania, cumpărată ulterior de altcineva dintr-o altă țară și găzduită pe un server care se află de cealaltă parte a lumii. Tocmai de aceea, crede ea, fiecare stat ar trebui să trateze această problemă cu seriozitate.
„Spun des asta, dar mi-aș dori ca jobul meu să nu existe. Ar fi minunat dacă, într-o zi, am putea spune că problema este rezolvată. Până atunci însă, vom continua să adunăm date și să facem pași înainte”, continuă Tamsin McNally.
La lansarea raportului anual al IWF, care a avut loc la Bruxelles în luna mai, unul dintre vorbitorii principali, Antonio Labrador Jimenez, din cadrul Direcției Generale pentru Migrație și Afaceri Interne a Comisiei Europene, a subliniat valoarea expertizei oferite de IWF și a declarat că un pilon central al propunerii de Regulament al UE privind abuzul sexual asupra copiilor este dezvoltarea unui Centru al UE care să fie bazat pe activitatea organizației pentru a acționa ca destinatar al rapoartelor privind abuzul sexual asupra copiilor și pentru a „servi ca un centru de cunoștințe pentru prevenire și asistență”.
„Modul în care centrul va funcționa în practică nu a fost încă definit clar, însă IWF își exprimă dorința de a continua colaborarea cu autoritățile și liniile de asistență ale UE, așa cum face și în prezent, indiferent de forma pe care aceasta o va lua în viitor, pentru a ne asigura că împărtășim cunoștințe și expertiză și că ajutăm cât mai multe victime și supraviețuitori”, ne-a explicat una dintre reprezentantele organizației.
Momentan, abordarea în UE este fragmentară. Odată cu înființarea acestui centru - chiar dacă va dura ceva - el ar putea funcționa ca un loc central pentru coordonare și colaborare între state pentru a combate materialele cu abuz sexual asupra copiilor în Europa. Mai mult decât atât, ar putea inspira noi inițiative de acest tip, încurajând schimbul de cunoștințe, dezvoltarea de tehnologii inovatoare și educația preventivă, astfel încât fiecare copil să aibă o șansă reală la siguranță și protecție în mediul digital.
Ce rol joacă legislația în protejarea copiilor de abuzurile online și cum poate ea să susțină munca organizațiilor precum Salvați Copiii și Internet Watch Foundation aflăm din ultimul episod al seriei Vulnerabili online - un proiect jurnalistic realizat de Scena9, Maldita.es (Spania) & Rubryka (Ucraina), cu susținere de la Journalismfund Europe și Transitions.
