#2534 Syndrom rosyjskiej „przebitki”. Dlaczego LLM-y wplatają mi cyrylicę?

Od dłuższego czasu, podczas intensywnych testów różnych modeli językowych (Grok, NotebookLM, Gemini, a także modele Anthropic), dostrzegam raczej intrygujące i powtarzalne zjawisko. W odpowiedziach modeli regularnie pojawiają się rosyjskie wstawki, takie jak „доступа” czy „первые”, mimo że cała konwersacja prowadzona jest po polsku lub angielsku. Zdarzyło mi się także kilka anomalii chińskich, ale głównie rosyjskojęzyczne.

Zanim jednak przejdę do swojej hipotezy, muszę poczynić dwa istotne zastrzeżenia.

Po pierwsze, traktuję ten wpis jako „sygnał” i wstępną obserwację, a nie rygorystyczną analizę. Nie jestem naukowcem ani badaczem architektury LLM. Nie prowadziłem systematycznych testów, nie kontrolowałem zmiennych. To zapis osobistego doświadczenia, który, mam nadzieję, sprowokuje do dalszych poszukiwań.

Po drugie, jestem świadomy możliwości wystąpienia błędu poznawczego zwanego confirmation bias (efektem potwierdzenia). Zauważyłem, że rosyjskie “przebitki” pojawiają się niemal wyłącznie podczas analizy tematów nacechowanych geopolitycznie: alt-prawicowej bańki, kwestii bezpieczeństwa USA, działalności USAID czy dokumentu Project 2025. Czy widzę te anomalie, bo podświadomie szukam ich w kontekstach, gdzie spodziewam się rosyjskiego śladu? To możliwe. Warto jednak dodać, że przy tematach zupełnie neutralnych (technicznych, kulinarnych, historycznych) zjawiska tego nie zaobserwowałem. To rozróżnienie wydaje mi się kluczowe, choć wymagałoby systematycznych badań.

Mając te zastrzeżenia na uwadze, zacząłem szukać najprostszego, technicznego wyjaśnienia, unikając teorii spiskowych. I tu pojawiła się moja hipoteza robocza, którą chciałbym postawić w kontrze do już funkcjonujących w infosferze jeśli chodzi o rosyjskie przebitki.

Modele LLM nie bazują wyłącznie na treści promptu. Otrzymują szerszy kontekst (systemowy, o którym pisałem w kontekście tokenu czasowego jako time awarness), w tym przybliżoną lokalizację geograficzną opartą na adresie IP. To fakt, który natychmiast przywołał w mojej pamięci problem, z którym zmagałem się zawodowo: pula adresów IP od OVH, fizycznie zlokalizowana w Europie, przez lata była błędnie identyfikowana przez wiele systemów jako pochodząca z Moskwy (*). Ten błąd w bazach RIPE powodował realne problemy. Co więcej, nawet dziś, korzystając z publicznego adresu spoza puli OVH, na niektórych stronach widzę treści o wojnie w Ukrainie, kierowane do odbiorców rosyjskojęzycznych. Twórcy stron chcą pokazać rosjanom informacje o wojnie, a dzieje się tak ewidentnie z powodu błędnej identyfikacji mojego IP.

Postawmy hipotezę roboczą: a co jeśli LLM-y korzystają z tych samych, niedoskonałych baz danych geolokalizacyjnych?

Mój eksperyment myślowy jest następujący: system otrzymuje sprzeczne sygnały. Z jednej strony mój prompt i ustawienia przeglądarki wskazują na Polskę. Z drugiej następuje błędne przypisanie geolokalizacji IP, co może podpowiadać modelowi kontekst rosyjski. W konfrontacji z tematami, które w danych treningowych mogły mieć silne powiązania z rosyjskojęzycznymi źródłami (np. dezinformacja), model może “gubić się” i wstawiać rosyjskie tokeny.

Oczywiście, ta hipoteza ma słabe punkty. Kluczowe pytanie brzmi: dlaczego tylko rosyjski? Jeśli problemem są ogólnie wadliwe bazy IP, powinny pojawiać się też inne języki. Być może to zbieg kilku czynników: specyfiki błędnie otagowanych puli adresów, bliskości językowej polskiego i rosyjskiego, która ułatwia “przeskoki” na poziomie tokenów, oraz wspomnianego nacechowania tematycznego. To jednak czyste spekulacje.

W grę mogą wchodzić też inne, głębsze przyczyny, jak zanieczyszczenie danych treningowych (o których szeroko pisano) czy nieoczekiwane skojarzenia w ukrytych warstwach sieci neuronowej (przecieki). Mimo to, uporczywość i specyfika problemu czynią hipotezę o wpływie błędnego sygnału GeoIP intrygującą i wartą dalszego zbadania.

Dlatego zostawiam ten sygnał. Bez przedwczesnych wniosków. Może ktoś z Was dysponuje odpowiednią wiedzą lub narzędziami, by tę hipotezę zweryfikować lub obalić.

(*) Warto zaznaczyć, że istnieją dwa główne sposoby pozyskiwania lokalizacji. W artykule skupiam się na geolokalizacji opartej na adresie IP (działającej pasywnie po stronie serwera), ponieważ to ona jest podatna na błędy w bazach danych. Odmiennym mechanizmem jest precyzyjna lokalizacja z urządzenia (GPS, Wi-Fi), o którą przeglądarka musi aktywnie poprosić użytkownika o zgodę.

• Seria Ai
• AI
• Cyberbezpieczeństwo
• Dezinformacja