Imazhet e inteligjencës artificiale të abuzimit seksual të fëmijëve po bëhen dukshëm më realiste. Raporti i Fondacionit Internet Watch tregon rritje 380% të imazheve të paligjshme të krijuara nga AI në 2024, shumica e tyre ‘kategoria A’.
Fondacioni Internet Watch (IWF) tha se në vitin 2024, cilësia e videove të krijuara nga AI u përmirësua në mënyrë eksponenciale dhe të gjitha llojet e imazheve të AI të vlerësuara dukeshin dukshëm më realiste me zhvillimin e teknologjisë. IWF zbuloi në raportin e saj vjetor se mori 245 raporte për imazhe të abuzimit seksual të fëmijëve të krijuara nga AI që shkelin ligjin e Mbretërisë së Bashkuar në 2024 – një rritje prej 380% nga 51 që shiheshin në 2023.
Raportet barazoheshin me 7644 imazhe dhe një numër të vogël videosh, duke pasqyruar faktin se një URL e materialit të paligjshëm mund të përmbajë shembuj të shumtë. Pjesa më e madhe e atyre imazheve ishte materiali i “kategorisë A”, termi për llojin më ekstrem të përmbajtjes së abuzimit seksual të fëmijëve që përfshin aktivitet seksual ose sadizëm. Kjo përbënte 39% të materialit të zbatueshëm të AI të parë nga IWF.
Qeveria britanike njoftoi në shkurt se do të bëhet e paligjshme zotërimi, krijimi ose shpërndarja e mjeteve të inteligjencës artificiale të krijuara për të gjeneruar materiale të abuzimit seksual të fëmijëve, duke mbyllur një boshllëk ligjor që kishte alarmuar policinë dhe aktivistët e sigurisë në internet. Do të bëhet gjithashtu e paligjshme për këdo që të ketë manuale që i mësojnë njerëzit se si të përdorin mjetet e AI për të bërë imazhe abuzive ose për t’i ndihmuar ata të abuzojnë me fëmijët.
IWF tha se imazhet e krijuara nga AI po shfaqen gjithnjë e më shumë në internetin e hapur dhe jo vetëm në “web-in e errët” – një zonë e internetit që aksesohet nga shfletues të specializuar. Ai tha se materiali më bindës i krijuar nga AI mund të jetë i padallueshëm nga imazhet dhe videot reale, madje edhe për analistët e trajnuar të IWF.
Raporti vjetor i mbikëqyrësit njoftoi gjithashtu nivele rekord të faqeve të internetit që kanë imazhe të abuzimit seksual të fëmijëve në vitin 2024. IWF tha se kishte 291,273 raporte të imazheve të abuzimit seksual të fëmijëve vitin e kaluar, një rritje prej 6% në vitin 2023. Shumica e viktimave në raporte ishin vajza.
IWF gjithashtu njoftoi se po vinte një mjet të ri sigurie në dispozicion falas për faqet e internetit më të vogla, për t’i ndihmuar ata të zbulojnë dhe parandalojnë përhapjen e materialeve të abuzimit në platformat e tyre.
