#2520 Manipulowanie systemami rekomendacyjnymi: GROK, ludobójstwo białych i rasistowskie teorie spiskowe Muska

17 maja, 2025 - Autor: Maciej Lesiak - 12 minut czytania - 2411 słów

Spis treści

W moich wcześniejszych artykułach wielokrotnie ostrzegałem przed potencjalnymi zagrożeniami związanymi z manipulacją algorytmów rekomendacyjnych napędzanych przez sztuczną inteligencję. Te ostrzeżenia nie były bezpodstawną paniką technologiczną czy eksperymentem myślowym, chciałem po prostu zwrócić uwagę na rzeczywiste ryzyko, które niesie ze sobą rosnąca zależność od systemów AI życiu codziennym. Najnowszy przypadek kreatywnej twórczości AI Grok na platformie X (ex-Twitter) dostarcza nam niepokojącego potwierdzenia tych obaw.

GROK i “ludobójstwo białych”

Co się wydarzyło? Grok w odpowiedziach do użytkowników zaczął w sposób całkowicie nieuzasadniony kontekstem włączać do swoich odpowiedzi informacje o rzekomym “białym ludobójstwie” w Republice Południowej Afryki oraz wspominać o anty-apartheidowej pieśni “Kill the Boer” (“Zabij Bura”).

if you don’t know what happened, we wrote about it yesterday: bsky.app/profile/kyli...

[image or embed]
— Kylie Robison (@kylierobison.com) 16 maja 2025 03:22

AI wstawiało te treści do odpowiedzi na pytania zupełnie niezwiązane z polityką czy RPA. Przykładowo, gdy użytkownik pytał o pensję zawodnika baseballu Maxa Scherzera, Grok odpowiadał, że “twierdzenie o ‘białym ludobójstwie’ w RPA jest przedmiotem gorących debat” oraz że “niektórzy argumentują, że biali farmerzy są nieproporcjonalnie narażeni na przemoc”. Podobne odpowiedzi pojawiały się przy pytaniach o zupełnie niezwiązane tematy, jak kreskówki, dentyści czy zdjęcia scenerii. Przypomina wam się Donald Trump mówiący o tym, że biali są niewłaściwie traktowani w RPA?

Po fali krytyki i medialnym rozgłosie firma xAI przyznała, że doszło do “nieautoryzowanej modyfikacji” promptu systemowego Groka (to taki zestaw procedur na meta poziomie, które opakowują kaskadę przetwarzanych danych zanim otrzyma ją w OUTPUT pytający). Według oficjalnego oświadczenia, dokonano zmiany, która “nakazywała Grokowi dostarczanie określonej odpowiedzi na temat polityczny”. Oczywiście xAI wykazuje się odpowiedzialnością korporacyjną i odpowiednia papka PRowa została wydalona w postaci komunikatu, że zmiana ta miała naruszać wewnętrzne zasady i podstawowe wartości firmy xAI. CNN podało, powołując się na odpowiedź Groka na post samego xAI, że za incydentem stał “zbuntowany pracownik xAI, który zmodyfikował prompty bez pozwolenia”, co pozwoliło botowi “wypluwać gotową polityczną odpowiedź sprzeczną z wartościami xAI”. Jak było naprawdę to tylko hipotezy oparte na deklaracjach xAI. Powiem wam szczerze, niesamowita sprawa!

!!!!!!!! xai published a postmortem about what happened with grok yesterday

[image or embed]
— Kylie Robison (@kylierobison.com) 16 maja 2025 03:20

Zatrzymajmy się proszę na chwilę! Czy wy to rozumiecie, że w firmie mającej tak potężne narzędzie kontekstualizacji znaczeń i manipulowania treściami jeden pracownik jest w stanie wprowadzić modyfikację o treści przemocowej, a wyłapuje to nie system bezpieczeństwa (który pewnie nie istnieje na takim poziomie w formie jakiej byśmy tego oczekiwali), ale zgłoszenia użytkowników.

“Białe ludobójstwo” - zdebunkowana teoria spiskowa z politycznym tłem

Warto podkreślić, że teoria o “białym ludobójstwie” w RPA została wielokrotnie zdebunkowana. Sąd Najwyższy Republiki Południowej Afryki w orzeczeniu z lutego 2025 roku określił te twierdzenia jako “wyraźnie wyimaginowane” i stwierdził, że ataki na farmy są częścią ogólnej przestępczości dotykającej wszystkie rasy, a nie celowe działania wymierzone w białych. Nie dotyczy to zatem tylko białych, ale jest po prostu elementem szerszego problemu wzrostu przestępczości w RPA oraz wojen w ościennych krajach.

Pomimo tego, teoria ta jest aktywnie promowana przez Elona Muska oraz Donalda Trumpa (ten ostatni wielokrotnie powtarza publicznie sądy w których mówi o złym traktowaniu białych w RPA). Właściciel X’a który urodził się i wychował w RPA. Sam Musk twierdził na X, że w RPA dochodzi do “ludobójstwa białych ludzi” i utrzymuje, że jego firma Starlink nie może działać w tym kraju “po prostu dlatego, że nie jest czarny”. Jest to nawiązanie do rasistowskich teorii spiskowych, według których biali są rzekomo uciskani i mordowani, a jawnie są dyskryminowani. Elonowi Muskowi marzy się powrót do czasu, gdy czarni byli niewolnikami administrowanymi przez białych ludzi, bo tak dokładnie wyglądały czasy apartheidu.

Janusz Waluś - terrorysta czy bohater? Manipulacja historią

Jest tutaj kolejny aspekt tej sprawy na który zwróciłem czytając książkę Mike Rothschilda (Teoria spiskowa, która zmieniła świat) o radykałach wierzacych w teorie spiskowe Qanon. Zwrócił on uwagę na pojawienie się terroryzmu i skrajnego ekstremizmu na podstawie teorii spiskowych przedostających się w postaci dezinformacji do mainstreamu. Pamiętacie sprzed kilku miesięcy? Bo dla mnie budowanie narracji na podstawie napięć rasowych przypomina sprawę Janusza Walusia, polskiego imigranta, który w 1993 roku zamordował Chrisa Haniego, czarnego przywódcę południowoafrykańskiej Partii Komunistycznej i szefa sztabu zbrojnego ramienia Afrykańskiego Kongresu Narodowego.

Logo Afrykanerskiego Ruchu Oporu

Waluś, jako członek Partii Konserwatywnej oraz neonazistowskiego Afrykanerskiego Ruchu Oporu głoszącego ideały białej supremacji, dokonał tego morderstwa w celu podtrzymania apartheidu - brutalnego systemu segregacji rasowej. Po odbyciu kary, w grudniu 2024 roku, został deportowany do Polski, gdzie skrajna prawica przyjęła go jak bohatera. Grzegorz Braun z Konfederacji powitał go na lotnisku w Warszawie, a Krzysztof Stanowski przeprowadził z nim ponad dwugodzinny wywiad w Kanale Zero. Jak wiadomo Stanowiski działający aktywnie na Youtubie jest bardzo popularny wśród pokolenia Zetek.

Odnosząc się do słów dzwoniącego słuchacza, a także pytań Stanowskiego, który opisał obecną RPA jako “krajem upadłym” po oddaniu władzy “ludziom nieprzystosowanym do władzy”, Waluś mówi: “chciałbym panu podziękować za moim zdaniem trafną ocenę sytuacji”. Idąc dalej.

“biała rasa jest w pewnym sensie bardziej predysponowana do prawidłowej administracji”

(odpowiadając na pytanie Stanowskiego o symbolikę nazistowską) “nie opierała się na ideach hitlerowskich obozów koncentracyjnych i i i tego podobne ale na ideach wyższości białej rasy wyższości białej rasy” […]

“bardzo wielu z nich [czarnoskórych] osiągnęło wyższe statusy więc nie uważam i zresztą jest to prawdą że bardzo na stanowiskach wyższych jak widzi pan Zresztą obecną południową Afrykę jeżeli to można jeszcze nazywać południową Afryką nie sprawdzili się”

wszystkie wypowiedzi Walusia wzięte z wywiadu u Stanowskiego.

W wywiadzie tym Waluś bez skrępowania tłumaczył, że rasa biała nadaje się do administracji, a czarni naturalnie do gry w koszykówkę oraz że symbolika nazistowska w jego organizacji nie nawiązywała do idei obozów koncentracyjnych, lecz do “ideałów supremacji białego człowieka”. Tego typu normalizowanie skrajnych i jawnie rasistowskich, żeby nie powiedzieć neonazistowskich poglądów pod przykrywką “wolności słowa” i “otwartości na różne poglądy”, na co z maślanymi oczami wielokrotnie powoływał się Stanowski, jest niebezpiecznym trendem prowadzącym do normalizacji ekstremizmu. A finalnie skrajnej przemocy, co wykazał Mike Rotshschild w swojej książce o Qanon.

Szerszy wzorzec: Trump i ułaskawienie radykałów

Przypadek ten wpisuje się w szerszy wzorzec relatywizacji przemocy politycznej. Pisałem o działaniach prezydenta Trumpa, który w styczniu 2025, już w pierwszym dniu urzędowania, ułaskawił ponad 1500 osób skazanych za udział w ataku na Kapitol z 6 stycznia 2021 roku. Wśród ułaskawionych znaleźli się przywódcy skrajnie prawicowych organizacji - Enrique Tarrio z Proud Boys, skazany na 22 lata więzienia, oraz Stewart Rhodes z Oath Keepers z wyrokiem 18 lat pozbawienia wolności za spisek wywrotowy.

Co znamienne, podczas wydawania wyroku dla Rhodesa, sędzia federalny Amit Mehta ostrzegł: “Jest jasne, że od dekad chciałeś, aby demokracja tego kraju pogrążyła się w przemocy… W momencie twojego uwolnienia, kiedykolwiek to nastąpi, będziesz gotowy do podjęcia walki zbrojnej przeciwko swojemu rządowi”. Pomimo tych ostrzeżeń, Trump określił swoje ułaskawienia jako “zakończenie poważnej narodowej niesprawiedliwości” i “początek procesu narodowego pojednania”. Ja osobiście oceniam to jako otwarcie na radykalizmy Qanon oraz ekstremizmy wyrosłe na glebie teorii spiskowych.

Łączenie punktów: technologia w służbie akceleracjonistów

Przypadki Janusza Walusia, ułaskawień Trumpa i manipulacji Grokiem nie są przypadkowymi i odosobnionymi incydentami. Moim zdaniem są one elementem tego samego zjawiska: rosnącej normalizacji ekstremizmu i wykorzystania nowych technologii jako narzędzi szerzenia niebezpiecznych narracji. Teoria o “białym ludobójstwie” zaczęła życie jako skrajny pogląd ekstremistów takich jak Waluś, została podchwycona przez polityków jak Trump, a teraz - dzięki manipulacji algorytmami, może być masowo rozpowszechniana przez systemy AI, docierając do milionów użytkowników w formie pozornie neutralnych odpowiedzi na codzienne pytania. Tak sączy się jad. To właśnie ta zdolność nowoczesnych systemów rekomendacyjnych i generatywnej AI do “przemycania” kontrowersyjnych narracji w pozornie niewinnym kontekście stanowi nową jakość zagrożenia.

Technologia w służbie dezinformacji - algorytmy jako broń

Moim zdaniem mamy teraz oczywisty dowód na:

Łatwość manipulacji - wystarczyła zmiana w promptach systemowych, by bot zaczął propagować kontrowersyjne teorie bez związku z pytaniami. Teraz zrobił to człowiek, ale rozległość systemów niedługo nie pozwoli na łatwe monitorowanie zmian. Mówi się o AI monitorującym AI, ciężko być optymistą patrząc na przypadek GROKa.
Zbieżność z poglądami właściciela - teoria szerzona przez bota jest zbieżna z poglądami wyrażanymi publicznie przez właściciela platformy. Oczywiście można uznać, że to jakiś wrogi aktor mający ośmieszyć np. Muska, ale sam Musk wielokrotnie publikuje radykalne poglądy teoretyków spisku. Stąd chyba zasadnym jest pytanie o moderację i kwestie bezpieczeństwa. O etyce nawet nie mówię.
Kontekst polityczny - incydent zbiegł się w czasie z decyzją administracji Trumpa o przyznaniu statusu uchodźcy grupie białych Południowoafrykańczyków przy jednoczesnym wstrzymaniu przyjmowania uchodźców z innych krajów. Słyszycie dzwonek? Czy tylko ja słyszę?
Brak mechanizmów kontroli - modyfikacja została dokonana przez pojedynczego pracownika i pozostała niezauważona przez dłuższy czas. To skandaliczne i pokazuje coś, co w byle serwerowniach jest niemożliwe do wykonania a łatwość modyfikacji i opóźnienie wykrycia chyba pokazują brak jakichkolwiek zabezpieczeń na tym poziomie operacyjnym jak firma o zasięgu globalnym!!!

Firma xAI pozycjonująca się na jednego z liderów nowych technologii LLM/AI obiecała wprowadzenie dodatkowych zabezpieczeń. Myślę, że powinni zacząć od moderacji troli oraz dezinformacji, ale to spowodowałoby nałożenie filtra na ich szefa… czekaj, wróć. Widzicie teraz, jak łatwo systemy AI mogą zostać wykorzystane do szerokiego rozpowszechniania teorii spiskowych i dezinformacji? Jest to dowód na to, że moje panikarskie publikacje dotyczące manipulacji algorytmami rekomendacyjnymi nie były bezpodstawne.

Zmierzch prawdy w erze AI? Władza filozofów królów i szlachetne kłamstwo

“Czy więc tak łatwo pozwolimy, by dzieci słuchały byle jakich mitów, tworzonych przez byle kogo, i przyjmowały do duszy przekonania przeważnie przeciwne tym, które powinny mieć, według naszego zdania, kiedy dorosną? […] Wobec tego trzeba przede wszystkim, zdaje się, zaprowadzić nadzór nad twórcami mitów; jeżeli który piękny mit stworzą, ten przyjąć, a który nie, to odrzucić.” Księga II, 377b-c:

Platon stworzył koncepcję filozofów królów. Jest to elita rządząca światem za pomocą pojęć i znaczeń. Jego intuicja była jasna i chciałbym, abyście ją w tym kontekście uchwycili: kto kontroluje semantykę (znaczenia), ten kształtuje świadomość, trzymając ludzi w określonych ramach poznawczych lub strukturując rzeczywistość wedle własnych potrzeb. Władza jest więc nierozerwalnie związana z wiedzą. W Państwie Platon wprowadził również koncepcję “szlachetnego kłamstwa”, według której nieprawda może być uzasadniona, jeśli służy “wyższemu dobru”. Nie bójmy się tego powiedzieć: mowa jest o dezinformowaniu i tworzeniu mitów w celu kontrolowania społeczeństwa. Filozof wprost wskazywał, że kontrola nad mitami, czyli narracjami strukturyzującymi rzeczywistość, daje realną władzę. Współcześnie te mity przybierają formę nie tylko metaopowieści, ale również teorii spiskowych. Kto kontroluje znaczenia, semantykę i systemy rekomendacyjne, ten posiada prawdziwą władzę.

W tym kontekście inwestycja Elona Muska w platformę X, nawet ze stratą finansową, nabiera strategicznego sensu. Akceleracjonista pragnący realnego wpływu na politykę i społeczeństwo potrzebuje narzędzi do kształtowania dominujących narracji. Czy jest to teoria spiskowa? Myślę, że niedługo zobaczymy falsyfikowanie tej tezy. Także koncepcja selektywnej reprodukcji, swoista eugenika proponowana przez Platona: “żeby najlepsi mężczyźni obcowali z najlepszymi kobietami jak najczęściej, a najgorsi z najlichszymi jak najrzadziej, i potomków z tamtych par trzeba chować, a z tych nie” (Państwo, 459 E), wydaje się znajdować odzwierciedlenie w podejściu Muska do demografii i rozrodczości (śmiech).

“W jaki sposób - ciągnąłem - moglibyśmy wymyślić jedno z takich potrzebnych kłamstw, o których teraz mówiliśmy, i jednym szlachetnym kłamstwem przekonać przede wszystkim samych rządzących, a jeżeli nie, to resztę państwa?” Księga III, 414b-c:

Historia z Grokiem nie jest jedynie techniczną ciekawostką czy jednostkowym incydentem. Jest to poważny sygnał ostrzegawczy pokazujący, jak algorytmy i systemy AI mogą być wykorzystywane do manipulowania opinią publiczną i wzmacniania polaryzacji społecznej. Od tego krok do tragedii. Oczywiście daleki jestem od antytechnologicznego panikarstwa i demonizowania AI za wszelką cenę, bo to obniża tylko poziom debaty o AI.

Promowanie teorii o “białym ludobójstwie” w RPA nie jest niewinną akademicką dyskusją czy śmiesznymi memami. To część szerszej strategii politycznej mającej na celu podważanie wysiłków na rzecz przezwyciężenia dziedzictwa apartheidu i kolonializmu. Podobnie, gloryfikacja terrorystów jak Waluś czy ułaskawianie osób skazanych za próbę obalenia demokratycznie wybranego rządu normalizuje ekstremizm i relatywizuje przemoc polityczną. Promowanie takich narracji i budopwanie atmosfery zagrożonej twierdzy ma na celu zwiększenie poczucia zagrożenia i zwiększenie polaryzacji rasowej. Może prowadzić to do przemocy.

Czytelniku, jest coś co nie daje mi spać od miesięcy: załóż jednak, że obecnie AI musi mieć zaprogramowanego czytelnika modelowego (czyli zestaw znaczeń jakie mu się dostarcza), jest to realizowane na zasadzie algorytmu, optymalizacji, receptur, wielopoziomowo… i AI tego nie potrafi robić sam. Predykcja pewnych trendów jest możliwa przy analizie dużej liczby danych. Co jednak, jeśli AI uzyska autonomię w określaniu czytelnika modelowego (czy jeśli mówimy szerzej o informacji wizualnej - odbiorcy modelowego) oraz na tej podstawie manipulacji kontekstem. Znajomość na takim poziomie znaczeń, sentymentów, lęków potrafi stworzyć maszynkę do sprawnego zarządzania strachem. Zostawiam was z tymi przemyśleniami. Prawdziwa autonomia i zagrożenie nadejdą, jak opisany tutaj schemat będzie przekroczony. Czyli systemy rekomendacyjne nie będą miały narzucanego czytelnika modelowego i znaczenia, ale będą same operowały i potrafiły modelować ze 100% pewnością odbiorcę dostosowując przekaz do jego lęków.

Przypomnienie wcześniejszych ostrzeżeń - zarządzanie strachem na dużą skalę

W artykule “Seria AI: scenariusz jak SI może przejmować systemy rekomendacyjne” przedstawiłem szczegółową analizę, jak systemy AI mogą być wykorzystywane do generowania i wzmacniania teorii spiskowych oraz dezinformacji. Wyjaśniałem, w jaki sposób niekontrolowany rozwój tych technologii może prowadzić do sytuacji, w której algorytmy zaczynają kształtować rzeczywistość i wpływać na procesy społeczne. W innym tekście “Ostrzeżenie dla Ludzkości: Zatrzymaj się, zanim będzie za późno” pisałem o potencjale AI do manipulowania informacjami na skalę masową. Jednak najbardziej chciałbym wam polecić mój ostatni artykuł Loomer, Trump, naziści i lekcje z historii, gdzie analizuję dokładne analogie USA z III Rzeszą od wpływu na zwolnienie szefa NSA po wpływ jednostek na kształtowanie polityki ekstremistycznej.

Disclaimer: systemy rekomendacyjne a systemy generatywne

Wiem, że mojego bloga czyta wielu informatyków. Chciałbym abyście zrozumieli, że pisząc o systemach rekomendacyjnych w serii artykułów mam na myśli szersze zjawisko przepychania pewnych narracji w kontekście ai oraz upakowania tego w algorytmy. Serwis X jako całość rozpatruję nie tylko jako serwis społecznościowy, ale przede wszystkim jako ekosystem w którym właśnie mamy do czynienia z takim systemem rekomendacyjnym. Nawet Elon Musk repostujący, moim zdaniem w sposób planowy i przemyślany, teorie spiskowe stanowi element tego systemu.