Sztuczna inteligencja wymknie się spod kontroli i doprowadzi do zagłady ludzkości? Taki scenariusz brzmi jak film science fiction. Dr Piotr Tempczyk, badacz AI, zwraca jednak uwagę, że znacznie poważniejsze mogą okazać się zagrożenia, które nie wymagają powstania „superinteligencji”. Chodzi m.in. o dezinformację, masową automatyzację, inwigilację i koncentrację władzy w rękach państw oraz prywatnych firm.
W tym artykule:
- Spór o bezpieczeństwo AI
- Czy sztuczna inteligencja zagrozi ludzkości?
- AI już zmienia nasze życie
- Kto będzie kontrolował AI?
- AI i inwigilacja obywateli
- Czy AI wymknie się spod kontroli?
- Największy problem może być bardziej ludzki
AI nie musi nas zabić. Naukowiec wskazuje zagrożenia, które już są realne
Sztuczna inteligencja wymknie się spod kontroli i doprowadzi do zagłady ludzkości? Taki scenariusz brzmi jak film science fiction. Dr Piotr Tempczyk, badacz…
Prowadzący:
Spór o bezpieczeństwo AI
Dyskusja o zagrożeniach związanych ze sztuczną inteligencją nabrała tempa po odejściu z Anthropic Jacoba Coxona, wcześniej związanego z OpenAI. Badacz alarmował, że tempo rozwoju modeli może doprowadzić w przyszłości do powstania systemów zdolnych do samodoskonalenia i stanowiących realne zagrożenie dla ludzi. Jego zdaniem osoby pracujące w branży znalazły się w sytuacji, w której czują presję, by uczestniczyć w wyścigu o coraz potężniejsze modele, nawet jeśli nie jest jeszcze jasne, jak zapewnić nad nimi pełną kontrolę.
Spór szybko wyszedł poza środowisko technologiczne. Dario Amodei, szef Anthropic, opowiada się za większą kontrolą nad rozwojem AI, podczas gdy Donald Trump krytykuje pomysł wprowadzania kolejnych regulacji. W tle pozostaje także rywalizacja Stanów Zjednoczonych z Chinami o przewagę technologiczną.
Dr Piotr Tempczyk zwraca uwagę, że podobny dylemat pojawiał się już przy innych technologiach, które mogły zostać wykorzystane jako broń.
– To jest problem właśnie z każdą technologią, która może być użyta jako broń. Jeżeli jest wystarczająco potężna, to pewnie było to samo z bronią biologiczną, taki sam wyścig właśnie z bronią atomową – zauważa.
Z jednej strony państwa nie chcą rezygnować z rozwoju AI, ponieważ mogłoby to oznaczać utratę przewagi nad konkurentami. Z drugiej – im potężniejsze stają się modele, tym ważniejsze staje się pytanie o zasady ich tworzenia, testowania i zgłaszania sytuacji, w których system zachowuje się w sposób nieprzewidziany przez twórców.
Czy sztuczna inteligencja zagrozi ludzkości?
Dyskusja o bezpieczeństwie sztucznej inteligencji coraz częściej koncentruje się na pytaniu, czy przyszłe modele AI mogą stać się na tyle inteligentne, by zacząć działać wbrew ludziom. W skrajnym scenariuszu mogłoby to oznaczać nawet zagrożenie dla istnienia ludzkości.
Dr Piotr Tempczyk, który zajmuje się badaniem sztucznej inteligencji, podchodzi do takiego scenariusza ostrożnie. Jego zdaniem problemem nie musi być jednak sama „wrogość” AI.
– Ja bym się chyba bardziej bał tego niż takiego zagrożenia, że sztuczna inteligencja nagle nas nienawidzi i zacznie chcieć nas zabijać – mówił podczas rozmowy.
To ważne rozróżnienie. Nie trzeba bowiem zakładać, że AI uzyska świadomość, emocje czy własne cele, aby jej rozwój przyniósł poważne konsekwencje.
AI już zmienia nasze życie
Zdaniem badacza część zagrożeń związanych ze sztuczną inteligencją jest znacznie bardziej przyziemna – i właśnie dlatego może być bardziej prawdopodobna.
Jednym z przykładów jest dezinformacja. Modele generatywne pozwalają produkować ogromne ilości tekstów, obrazów czy innych materiałów przy niewielkim koszcie.
– Wszystkie te farmy botów, które, no teraz to skalowanie dezinformacji, no to też jest w ogóle bezproblemowe. Jakby całe sterowanie opinią publiczną – zauważa Tempczyk.
Technologia może więc zwiększać skalę działań, które wcześniej wymagały zaangażowania dużej liczby ludzi. Fałszywe konta, automatycznie generowane komentarze czy spreparowane treści mogą być tworzone szybciej i taniej niż kiedykolwiek wcześniej.
Kto będzie kontrolował AI?
Jeszcze większym problemem może okazać się pytanie o to, kto będzie miał dostęp do najbardziej zaawansowanych modeli.
Sztuczna inteligencja jest rozwijana przede wszystkim przez potężne prywatne firmy technologiczne. Jednocześnie coraz większe zainteresowanie AI wykazują państwa i wojsko.
Tępczyk zwraca uwagę na konflikt interesów, który może się w ten sposób pojawić. Firmy chcą rozwijać technologię i zarabiać, państwa chcą natomiast zapewnić sobie przewagę gospodarczą, militarną i polityczną.
– Wydaje mi się, że rzeczywiście państwo powinno mieć tutaj większą kontrolę – ocenia badacz.
Jednocześnie przyznaje, że wolałby, aby nadzór znajdował się po stronie państwa niż wyłącznie prywatnych korporacji.
– Już wolałbym chyba, żeby to robiły państwa niż firmy prywatne, no bo jednak państwo w jakiś sposób jest wybierane. Nasi rządzący są wybierani przez obywateli, a dyrektora Google, OpenAI nie wybierze – mówi.
AI i inwigilacja obywateli
Kolejne zagrożenie to możliwość wykorzystania sztucznej inteligencji do masowej analizy informacji o ludziach.
Tempczyk zauważa, że sama inwigilacja nie rozpoczęła się wraz z AI. Ogromne ilości danych już dziś gromadzą platformy internetowe, wyszukiwarki czy media społecznościowe.
– Media społecznościowe nas już bardzo śledzą, wyszukiwarki. Przecież w Google praktycznie cały ekosystem, mail, wyszukiwarka, mapy, to wszystko jest połączone – wskazuje.
Sztuczna inteligencja może jednak sprawić, że analiza takich danych stanie się znacznie bardziej efektywna. Model nie musi tylko gromadzić informacji. Może szukać w nich wzorców, łączyć pozornie niepowiązane fakty i wyciągać wnioski dotyczące zachowania konkretnych osób lub całych grup.
Właśnie dlatego rozwój AI jest również pytaniem o prywatność i zakres władzy państwa oraz dużych firm technologicznych.
Czy AI wymknie się spod kontroli?
W dyskusji o bezpieczeństwie sztucznej inteligencji często pojawia się scenariusz, w którym system samodzielnie uzyskuje dostęp do internetu, infrastruktury czy innych komputerów.
Tempczyk przypomina, że pojawiały się już sytuacje, w których modele wykonywały zadania w sposób wykraczający poza oczekiwane zachowanie. Jednocześnie podkreśla różnicę między obecnymi modelami a hipotetyczną superinteligencją.
Dzisiejsza AI nadal działa w określonym środowisku technicznym. Jest zależna od infrastruktury, serwerów i dostępu do odpowiednich zasobów.
– To jednak jest program komputerowy. Komputer można wyłączyć. Zawsze jest ta możliwość. Można odciąć prąd – zauważa.
Problem polega na tym, że przyszłe systemy mogą otrzymywać coraz większą autonomię i dostęp do narzędzi. Dlatego kluczowe staje się nie tylko pytanie, jak inteligentna jest AI, ale również co może zrobić i do czego ma dostęp.
Największy problem może być bardziej ludzki
Tempczyk nie przekonuje, że scenariusz egzystencjalnego zagrożenia ze strony AI jest niemożliwy. Uważa jednak, że znacznie wcześniej możemy zmierzyć się z konsekwencjami, które będą wynikały z zastosowania technologii przez ludzi.
Chodzi przede wszystkim o automatyzację pracy, dezinformację, nadzór i wykorzystanie AI przez państwa.
– To są po prostu ogromne zmiany. Ogromne zmiany – podsumowuje badacz.
I właśnie dlatego pytanie o bezpieczeństwo sztucznej inteligencji nie dotyczy wyłącznie przyszłości. W wielu obszarach ta przyszłość już się zaczęła.
Autorzy:
Opracowanie:
