UNICEF cere guvernelor lumii, într-o declarație publicată joi, 5 februarie, să extindă definițiile materialelor care prezintă abuzuri sexuale asupra copiilor așa încât acestea să includă conținutul generat de IA. Organizația cere, totodată, guvernelor să incrimineze „crearea, procurarea, deținerea și distribuirea” acestor conținuturi.
Ttodată, UNICEF cere măsuri active de prevenție pentru a contracara utilizarea abuzivă a modelelor IA, anume:
- Implementarea de către dezvoltatorii IA a sistemelor solide de siguranță încă din faza de proiectare pentru a preveni utilizarea abuzivă a modelelor de IA.
- Prevenirea de către companiilor din domeniul digital a circulației materialelor ce conțin abuzuri sexuale asupra copiilor generate de IA – nu doar să le elimine după ce abuzul a avut loc; și consolidarea moderării conținutului prin investiții în tehnologii de detectare, astfel încât astfel de materiale să poată fi eliminate imediat – nu la câteva zile după raportarea de către victimă sau reprezentantul acesteia.
Potrivit declarației, organizația se declară „tot mai alarmată” de informațiile cu privire la creșterea rapidă a imaginilor de natură sexuală generată cu ajutorul IA, ce includ cazuri de imagini ale unor copii „manipulate și sexualizate”.
UNICEF arată că „noi dovezi confirmă amploarea acestei amenințări în creștere rapidă: într-un studiu UNICEF, ECPAT și INTERPOL* realizat în 11 țări, cel puțin 1,2 milioane de copii au dezvăluit că, în ultimul an, imaginile lor au fost manipulate în deepfakes cu caracter sexual explicit. În unele țări, acest lucru înseamnă 1 din 25 de copii – echivalentul a unui copil într-o clasă obișnuită”.
Organizația precizează că declarația sa de astăzi „reflectă poziția inclusă în Orientările UNICEF privind IA și copii 3.0”, emise în decembrie 2025.
Declarația UNICEF, integral:
„Abuzurile comise prin intermediul deepfake rămân abuzuri – Declarația UNICEF privind imaginile sexualizate ale copiilor generate de inteligența artificială
UNICEF este tot mai alarmat de rapoartele privind creșterea rapidă a volumului de imagini cu caracter sexual generate de IA care circulă, inclusiv cazuri în care fotografiile copiilor au fost manipulate și sexualizate.
Deepfake-urile – imagini, videoclipuri sau fișiere audio generate sau manipulate cu ajutorul inteligenței artificiale (IA) pentru a părea reale – sunt utilizate din ce în ce mai des pentru a produce conținut cu caracter sexual care implică copii, inclusiv prin „nudificare”, unde instrumentele IA sunt utilizate pentru a elimina sau modifica îmbrăcămintea din fotografii pentru a crea imagini nud sau sexualizate.
Noi dovezi confirmă amploarea acestei amenințări în creștere rapidă: într-un studiu UNICEF, ECPAT și INTERPOL* realizat în 11 țări, cel puțin 1,2 milioane de copii au dezvăluit că, în ultimul an, imaginile lor au fost manipulate în deepfakes cu caracter sexual explicit. În unele țări, acest lucru înseamnă 1 din 25 de copii – echivalentul a unui copil într-o clasă obișnuită.
Copiii înșiși sunt profund conștienți de acest risc. În unele dintre țările incluse în studiu, până la două treimi dintre copii au declarat că le este teamă că IA ar putea fi utilizată pentru a crea imagini sau videoclipuri sexuale false. Nivelul de îngrijorare variază foarte mult de la o țară la alta, subliniind necesitatea urgentă de măsuri mai puternice de sensibilizare, prevenire și protecție.
Trebuie să fim clari. Imaginile cu caracter sexual ale copiilor generate sau manipulate folosind instrumente AI sunt materiale de abuz sexual asupra copiilor. Abuzurile comise prin intermediul deepfake rămân abuzuri, iar prejudiciul pe care îl cauzează nu este deloc fictiv.
Atunci când imaginea sau identitatea unui copil este utilizată, acel copil este victimizat în mod direct. Chiar și în absența unei victime identificabile, materialele cu abuzuri sexuale asupra copiilor generate de IA normalizează exploatarea sexuală a copiilor, alimentează cererea de conținut abuziv și prezintă provocări semnificative pentru autoritățile de aplicare a legii în identificarea și protejarea copiilor care au nevoie de ajutor.
UNICEF salută cu tărie eforturile dezvoltatorilor de IA care implementează abordări de siguranță prin proiectare și măsuri de protecție solide pentru a preveni utilizarea abuzivă a sistemelor lor. Cu toate acestea, situația rămâne eterogenă și prea multe modele de IA nu sunt dezvoltate cu măsuri de protecție adecvate. Riscurile pot fi agravate atunci când instrumentele generative de IA sunt integrate direct în platformele de socializare, unde imaginile manipulate se răspândesc rapid.
UNICEF face apel urgent la următoarele măsuri pentru a face față amenințării crescânde reprezentate de conținutul generat de IA care prezintă abuzuri sexuale asupra copiilor:
- Extinderea de către toate guvernele a definiților materialelor care prezintă abuzuri sexuale asupra copiilor pentru a include conținutul generat de IA și să incrimineze crearea, procurarea, deținerea și distribuirea acestora.
- Implementarea de către dezvoltatorii IA a sistemelor solide de siguranță încă din faza de proiectare pentru a preveni utilizarea abuzivă a modelelor de IA.
- Prevenirea de către companiilor din domeniul digital a circulației materialelor ce conțin abuzuri sexuale asupra copiilor generate de IA – nu doar să le elimine după ce abuzul a avut loc; și consolidarea moderării conținutului prin investiții în tehnologii de detectare, astfel încât astfel de materiale să poată fi eliminate imediat – nu la câteva zile după raportarea de către victimă sau reprezentantul acesteia.
Prejudiciile provocate de abuzurile comise prin deepfake sunt reale și urgente. Copiii nu pot aștepta ca legea să se adapteze.”
Foto: © Sandshack33 | Dreamstime.com / Dreamstime.com sprijină educaţia din România şi oferă gratuit imagini stock prin care Edupedu.ro îşi poate ilustra articolele cât mai relevant posibil / Campania Back to school oferă posibilitatea oricărei școli, profesor sau elev să descarce imagini de calitate cu 50% discount.
Alexa Stănescu
Redacția
Mihai Peticilă
Karina Dorobanțu
Adriana Vișean