Dzieci na pierwszej linii algorytmicznej wojny. AI przyspiesza przemoc szybciej, niż państwa potrafią reagować

Internet od dawna bywał miejscem ciemnym, brutalnym i bezwzględnym wobec najmłodszych, ale dziś, w epoce sztucznej inteligencji, stare zagrożenia dostały nowe paliwo. Grooming, cyberprzemoc, szantaż, pornografia dziecięca czy manipulacja emocjonalna nie zniknęły, one zostały zautomatyzowane, przyspieszone i wyposażone w narzędzia, które jeszcze kilka lat temu przypominały scenariusze dystopijnych filmów science fiction. Teraz są codziennością.

W irlandzkim parlamencie wybrzmiało ostrzeżenie, którego politycy nie mogą już traktować jak kolejnego technicznego raportu do odłożenia na półkę. Organizacje zajmujące się prawami dziecka alarmują, że sztuczna inteligencja nie tylko pogłębia istniejące zagrożenia w sieci, ale tworzy całkowicie nowe formy przemocy wobec dzieci. Państwo, regulacje i wielkie platformy technologiczne pozostają w przeciwdziałaniu temu zjawisku dramatycznie spóźnione. Noeline Blackwell z Children’s Rights Alliance mówiła przed komisją Oireachtas ds. Sztucznej Inteligencji, że obecne zabezpieczenia dla dzieci są niewystarczające, a brak realnych regulacji budzi „poważne zaniepokojenie”. Jej słowa nie brzmiały jak ostrożna uwaga urzędniczki, a jak alarm przeciwpożarowy w budynku pełnym dzieci.

Właśnie dzieci stają się dziś najłatwiejszym celem dla generatywnej AI. Fałszywe wiadomości potrafią tworzyć realistyczne obrazy, które mogą służyż do szantażu, poniżania i niszczenia psychiki młodych ludzi. Wystarczy jedno zdjęcie z mediów społecznościowych, kilka sekund materiału wideo albo próbka głosu. Resztę wykona algorytm. Twarz dziecka może zostać umieszczona w pornograficznym materiale szybciej, niż szkoła zdąży wysłać maila do rodziców.

Najbardziej przerażające jest jednak to, że technologia rozwija się szybciej niż zdolność społeczeństw do rozpoznania zagrożenia. Dorośli często mają problem z odróżnieniem fałszywego obrazu od prawdziwego, a dzieci praktycznie nie mają na to szans. Ich rozwój emocjonalny i poznawczy sprawia, że są bardziej podatne na manipulację, bardziej ufne i mniej zdolne do identyfikowania oszustwa. Dla nich cyfrowa fikcja bywa równie realna jak szkolny korytarz czy własny pokój.

Blackwell zwróciła uwagę, że deepfake’i naruszają fundamentalne prawa dziecka do bezpieczeństwa, prywatności, zdrowia psychicznego i ochrony przed poniżającym traktowaniem. To nie są abstrakcyjne dyskusje o technologii. To konkretne dramaty konkretnych ludzi, często nastolatków, którzy budzą się rano i odkrywają, że ich twarz krąży po internecie w spreparowanym materiale seksualnym.

Jeszcze bardziej niepokojące jest tempo reakcji instytucji. Według przedstawionych informacji część europejskich regulacji dotyczących najbardziej ryzykownych zastosowań AI może wejść w życie dopiero pod koniec 2027 roku. W świecie technologii to niemal epoka i do tego czasu modele generatywne będą wielokrotnie potężniejsze niż dziś, a narzędzia do tworzenia fałszywych obrazów staną się dostępniejsze niż program do edycji zdjęć.

W czasie przesłuchania padły również mocne słowa o odpowiedzialności gigantów technologicznych. Zdaniem organizacji chroniących prawa dziecka menedżerowie i właściciele platform powinni ponosić odpowiedzialność karną, jeśli ich aplikacje umożliwiają realne szkody wobec najmłodszych. To postulat radykalny, ale coraz trudniej ignorować pytanie: dlaczego odpowiedzialność za cyfrową przemoc niemal zawsze kończy się na anonimowym użytkowniku, podczas gdy korporacje zarabiające miliardy pozostają praktycznie nietykalne?

Olga Cronin z Irish Council for Civil Liberties przypomniała, że niedawny skandal związany z Grokiem pokazał, jak szybko systemy AI mogą pomagać w tworzeniu i rozpowszechnianiu nielegalnych oraz skrajnie szkodliwych treści. Problem nie polega już na tym, czy sztuczna inteligencja może wyrządzić szkody. Problem polega na tym, że robi to już teraz, masowo i przy niemal zerowym tarciu technologicznym. Coraz większy niepokój budzą także chatboty oraz narzędzia określane jako „AI girlfriend” czy „AI companion”. Dla samotnych dzieci i nastolatków mogą one stawać się substytutem relacji, emocjonalnym narkotykiem podszytym algorytmem. Nikt tak naprawdę nie wie, jaki wpływ na psychikę młodych ludzi będą miały wielogodzinne rozmowy z maszyną zaprogramowaną do emocjonalnego przywiązania. Zwłaszcza gdy te systemy pozostają praktycznie poza realnym nadzorem.

Równolegle sztuczna inteligencja coraz mocniej wchodzi do szkół. Programy edukacyjne, narzędzia analityczne i platformy monitorujące postępy uczniów, wszystko to gromadzi ogromne ilości danych o dzieciach. Pojawia się pytanie, którego politycy długo unikali, czyli kto będzie właścicielem cyfrowego dzieciństwa przyszłych pokoleń?

AI, o czym trzeba wiedzieć, nie jest już futurystycznym dodatkiem do Internetu, bo jest jego nowym szkieletem. Jak zauważył Alex Murphy z Children’s Rights Alliance, algorytmy są dziś fundamentem niemal wszystkich platform, więc od mediów społecznościowych po gry online. Skoro ten fundament został przebudowany przez generatywną sztuczną inteligencję, to również skala zagrożeń weszła na nowy poziom. Przez lata technologia była sprzedawana społeczeństwom jako obietnica postępu, wygody i wolności. Dziś coraz częściej przypomina dziki rynek bez szeryfa, na którym najsłabsi płacą najwyższą cenę. Dzieci znalazły się na froncie tej cyfrowej rewolucji nie dlatego, że tego chciały, lecz dlatego, że dorośli nie zdążyli zbudować dla nich ochrony.

Bogdan Feręc

Źr. Independent

Photo by Thomas Park on Unsplash