Eksperci alarmują, że sztuczna inteligencja coraz częściej wykorzystywana jest do tworzenia materiałów przedstawiających seksualne wykorzystywanie dzieci. Według danych Dyżurnet.pl liczba takich treści wzrosła w ciągu roku o 300 proc.
Zespół Dyżurnet.pl działający w ramach NASK poinformował o gwałtownym wzroście liczby nielegalnych materiałów generowanych przy użyciu sztucznej inteligencji. Z najnowszego raportu wynika, że w ciągu roku liczba treści przedstawiających seksualne wykorzystywanie dzieci wzrosła aż o 300 proc. Eksperci podkreślają, że rozwój narzędzi AI znacząco ułatwia tworzenie tego typu materiałów.
Coraz większym problemem są aplikacje umożliwiające tzw. nudyfikację zdjęć, czyli cyfrowe „rozbieranie” osób widocznych na fotografiach. Do tworzenia nielegalnych treści wykorzystywane są zdjęcia publikowane przez dzieci oraz ich rodziców w mediach społecznościowych. Specjaliści ostrzegają, że nowoczesne modele AI potrafią już generować nie tylko obrazy, ale także realistyczne filmy z udziałem dzieci.
Raport zwraca również uwagę na skalę cyberprzemocy wśród młodzieży. Eksperci przypomnieli m.in. zjawisko tzw. „Szon Patroli”, polegające na publikowaniu obraźliwych treści i zdjęć nastolatek w mediach społecznościowych. Według analityków problem nasila się także dlatego, że użytkownicy przenoszą aktywność na platformy z ograniczoną moderacją treści, co utrudnia ich wykrywanie.
Znaczącą rolę w rozpowszechnianiu nielegalnych materiałów odgrywają komunikatory internetowe, w tym Telegram. Dyżurnet.pl podkreśla, że część analizowanych treści była tworzona przez same dzieci, jednak często pod wpływem manipulacji i działań sprawców. Eksperci apelują o zgłaszanie przypadków cyberprzemocy oraz nielegalnych materiałów za pośrednictwem strony Dyżurnet.pl lub aplikacji mObywatel.