„To nie ja”. Premier ostrzega przed falą oszustw AI wykorzystujących jego wizerunek

Premier Irlandii Micheál Martin wystosował publiczne ostrzeżenie po tym, jak w mediach społecznościowych zaczęło krążyć fałszywe nagranie stworzone przy użyciu sztucznej inteligencji. W materiale wideo, który został wygenerowany technologią deepfake, szef rządu rzekomo zachęca użytkowników do udziału w programie inwestycyjnym obiecującym szybkie i wysokie zyski.

Fałszywe nagranie przedstawia lidera Fianna Fáil, który twierdzi, że uczestnicy schematu mogą zarobić nawet 40 tysięcy euro. W jednej z wersji materiału pojawia się nawet zapewnienie, że premier „osobiście” zwróci użytkownikom 10 tysięcy euro, jeśli inwestycja się nie powiedzie. Micheál Martin stanowczo zdementował te informacje, podkreślając, że nagranie jest całkowicie sfabrykowane. – To ewidentnie bardzo nieprawdziwe informacje na mój temat, ilustrujące skalę manipulacji i przeinaczeń, do których może dochodzić w mediach społecznościowych. Jest to dla nas wszystkich przypomnienie, abyśmy byli czujni i dbali o siebie w mediach społecznościowych – powiedział premier.

Nagranie jest kolejnym przykładem coraz bardziej zaawansowanych oszustw internetowych wykorzystujących sztuczną inteligencję. Dzięki technologii deepfake przestępcy są w stanie tworzyć realistycznie wyglądające filmy, w których znane osoby sprawiają wrażenie, jakby wypowiadały słowa, których nigdy nie powiedziały. Premier zwrócił również uwagę na odpowiedzialność platform społecznościowych za walkę z tego typu treściami. – To także przypomnienie dla platform internetowych, aby upewniły się, że takie materiały nigdy nie pojawią się w sieci i są usuwane natychmiast po ich wykryciu – podkreślił.

Micheál Martin nie jest jedyną osobą publiczną, której wizerunek został wykorzystany przez oszustów. W ostatnich miesiącach podobne fałszywe reklamy i nagrania pojawiały się z udziałem wicepremiera Simona Harrisa, ministra energii Darragha O’Briena oraz byłego ministra finansów Paschala Donohoe. Ofiarami cyfrowych fałszerstw padły również znane postacie spoza świata polityki. W oszukańczych materiałach wykorzystywano między innymi wizerunki dziennikarki RTÉ Miriam O’Callaghan, ekonomisty Davida McWilliamsa oraz prezesa linii lotniczych Ryanair Michaela O’Leary’ego.

Rząd w odpowiedzi na te oszustwa zapowiada dalsze działania mające ograniczyć skalę problemu. Wicepremier Simon Harris poinformował wcześniej, że irlandzkie władze współpracują z instytucjami Unii Europejskiej oraz sektorem finansowym w celu zwalczania reklam deepfake wykorzystywanych do oszustw inwestycyjnych. Jednocześnie regulator rynku reklamowego analizuje możliwość wprowadzenia nowych przepisów zobowiązujących reklamodawców do ujawniania, czy w tworzeniu materiałów promocyjnych wykorzystano sztuczną inteligencję. Ma to pomóc w ograniczeniu rozprzestrzeniania się fałszywych reklam, które coraz częściej trafiają do użytkowników mediów społecznościowych.

Eksperci podkreślają jednak, że walka z tego rodzaju oszustwami nie jest łatwa. Źródło, lokalizacja i organizatorzy kampanii deepfake często pozostają trudni do zidentyfikowania, ponieważ przestępcy działają międzynarodowo i wykorzystują zaawansowane narzędzia cyfrowe. Fałszywe reklamy służą najczęściej do wyłudzania pieniędzy poprzez fikcyjne inwestycje, ale mogą być również wykorzystywane w innych schematach zarobkowych. Specjalista ds. sztucznej inteligencji Mark Kelly wskazuje, że istnieją pewne sygnały ostrzegawcze pozwalające rozpoznać materiały stworzone przez AI. Do najczęstszych należą nienaturalnie częste mruganie, rozmyte kontury twarzy i włosów, mechaniczny lub płaski ton głosu oraz wywieranie presji na odbiorcy poprzez hasła typu „działaj natychmiast” czy „nie przegap okazji”.

Rosnąca popularność sztucznej inteligencji sprawia, że oszustwa stają się coraz bardziej przekonujące. Dlatego eksperci apelują, by każdą reklamę obiecującą szybkie zyski traktować z dużą ostrożnością, nawet jeśli występują w niej znani politycy, przedsiębiorcy czy celebryci. Coraz częściej bowiem to, co wygląda jak prawdziwe nagranie, okazuje się jedynie cyfrową iluzją stworzoną po to, by wyłudzić pieniądze od nieświadomych użytkowników.

Bogdan Feręc

Źr. Independent/X

Fot. X – Micheal Martin