Between Innovation and Disinformation - An Analysis of the Market for Books Generated by Artificial Intelligence
By Maciej Lesiak
- 17 minutes read - 3411 wordsWhat's in this article
What the Article is About
In today’s article, I will discuss the results of my research on AI-generated content published as books. Is the Polish publishing market being inundated with junk AI-generated publications, with fabricated, non-existent bibliographies and content of dubious scientific quality? In an era of disinformation, are renowned bookstores like HELION, PWN, and subscription services like Empik GO distributing and stocking such books in their offer, thereby contributing, knowingly or not, to misinformation? I will also show how AI-generated content marketing spam has entered bookstores and how it is likely being monetized. I hope my article will contribute to the discussion on the AI revolution
Are AI-generated books widely available in the Polish publishing market? Meet Alan and Elizabeth, a pair of wandering writers.
Were Alan and Elizabeth’s books written by malfunctioning AI bots?
Using a subscription model allows me to acquaint myself with publications I wouldn’t want to physically have in my library. Sometimes I search for books simply by entering words like for instance conspiracy theory. That’s how I came across the book Teorie spiskowe: przykłady i jej analiza - Elisabeth Coleger (eng translation: Conspiracy Theories: Examples and Analysis). As we can learn about the author:
Fascinated by writing books and poems from a young age. The author’s publications are based particularly on her past experience, imagination, and knowledge gained from others who are willing to share their thoughts. So far, the author has published books on the following themes: 1. Poems. 2. Guides. 3. Romance. 4. Psychology. 5. Family relationships. LubimyCzytać.pl: Elisabeth Coleger | Autorka
I began researching this author because the level of nonsense she wrote in her publication about conspiracy theories exceeded the ignorance of an uninformed middle schooler. The book contains factual errors. For example, actual conspiracies are confused with so-called conspiracy theories - it seems that someone generating the text decided to add a few pages about conspiracies that have never been the subject of any theory.
There are clearly whole paragraphs of repetitions similar to those produced by a GPT-4 bot generating text. For instance, HAARP is repeated in several places, making it feel like you are reading the same sections over and over after 10 pages. Moreover, there are repeated phrases typical of chatGPT about the harmfulness of conspiracy theories and lack of scientific confirmation, which are tediously copied every few pages and repeated dozens of times.
*I removed the parts of analysis of source text, because it is written in polish.
And so, throughout the entire book, this repeats dozens of times, and it’s blatantly obvious that the person generating this book did not read it from start to finish, as these repetitions are a clear signal of a generator. There are two options: either the book attributed to Colager was written by various authors, which I initially assumed, or it was written by AI. It often seems as if the writer forgot what was mentioned just 10 pages earlier.
Malfunctioning AI and Fabricated Bibliographies
The book is filled with utter nonsense and untruths. Such as the existence of a conspiracy theory about controlled obsolescence, i.e., the aging of products, or a conspiracy theory that suggests the possibility of manipulating people through social network algorithms. As the author argues, this is untrue because there is no evidence of a conspiracy by companies to for example age products and make them harder to service. According to the author, there is also no evidence that social network algorithms can be used to manipulate people. This, indeed, is a bunch of nonsense.
Firstly, it has been proven multiple times that toxic algorithms exist in social networks and that behavioral targeting, behavioral stimulation, and so-called surveillance capitalism, which monetizes our online activity, are widely used. This has been written about by many authors, whom I refer to on my blog, including Ronald Deibert, co-creator of CitizenLab and author of The Great Surveillance.
Secondly, the widespread practice of planned obsolescence in products, including restricting access to parts and services, and ceasing updates after the EOL (end of life) period, has been extensively documented. This involves not only technical limitations but also legal actions against individuals providing support for these products without affiliation to the manufacturer. This is demonstrably not a conspiracy theory, as evidenced by the existence of legal measures addressing these issues. For instance, laws banning planned obsolescence and mandating replaceable batteries in non-built-in devices exemplify concrete steps taken to combat this issue.
Therefore, the so-called conspiracy theories presented are actually facts that were once conspiracy theories but became facts through exposure by whistleblowers or investigative journalists - Coleger misses this because language models do not contain all the knowledge about the real world. Hence, in presenting facts, they can not only distort the reality but also create pseudofacts very convincingly.
Elisabeth Coleger’s bibliography includes citations of non-existent books. I searched extensively, but could find no trace of these publications on the Internet (including Google SERP) or on academic platforms like Research Gate. Given my familiarity with technologies like ChatGPT and Google Bard, I understand that they can, especially in social sciences, fabricate bibliographies and falsely link people and topics. Remarkably, Coleger’s publication lists the following sources, all of which turned out to be non-existent books:
Michał Chojak teorie spiskowe 2012
Marcin Ryszkiewicz, Spiskologia. Teorie spiskowe i ich kultura, 2015r.
Mariusz Nowak Teorie spiskowe i ich wpływ na społeczeństwo 2018
Jan Głowacki Teorie spiskowe: geneza, rozwój, implikacje 2015
Ewa Kowalska Teorie spiskowe: psychologiczne aspekty i ich wpływ na jednostkę 2014
Andrzej Wojciechowski Teorie spiskowe: analiza, przyczyny, konsekwencje 2019
Jan Bondęga Spiski i tajemnice 2012
It’s clear that someone mindlessly copied everything the AI produced, including the supposed sources for verifying the knowledge in the book. References are available at the end of each chapter in footnotes and at the end in the bibliography. Let’s not be afraid to say it, this is blatant disinformation and a brazen misleading of potential readers.
Automatic Book Generation as Spam Content Marketing
A quick check shows that Elisabeth Coleger and Alan Coleger have written over a hundred books in a very short time, on topics ranging from psychology and personal development to Polish history, cosmology, and guides in various areas of life. This is likely spam of so-called content marketing, which through synonymization of content, automatic AI content generation, and rewriting existing publications, generates so much content and in such a form that people accidentally come across these publications when searching by keywords.
Reviewing the diversity of these titles shows an analogy I am familiar with, that this is indeed a pattern used in Google SERP (search engine result page) spam to draw people to fabricated spam sites where advertisements are placed. However, monetization here occurs differently.
Do Bookstores Agree to Propagate Spam?
One could say that PWN or HELION have so many thousands of similar and trash publications that they can’t monitor everything. The same could allegedly be said about EMPIK GO. However, this does not excuse them from having such products in their offer. The price, ranging from a few to several dozen zlotys, e.g., 5.09 PLN for access to a book written by Elisabeth, means that a person who searches for it is likely to first buy it and, in the case of questionable quality, refrain from making a complaint, as it’s only a few zlotys.
In the case of subscription services, the matter is even simpler. A person with a monthly subscription has a certain number of slots to use. So, we can borrow, for example, 8 books a month. If we search for a publication by keywords, it’s very likely that we will simply download it and use up a monthly slot. A portion of our subscription fee goes to the book’s author. On the one hand, it seems that the presence of trash is not in the interest of subscription services, but it turns out that subscription service providers make money from this. The more potential responses to customer queries, the better. Because these books are rented by mistake, slots are used up. No one advertises or reviews this. The subscription service provider and, above all, the AI spam producer earn money.
Is It Ethical and Right to Mislead Readers?
Let’s look at the list of titles below. Each bookstore has hundreds of thousands of books. If someone is looking for a guide on how to overcome depression or an introduction to neurobiology… it is highly likely that these titles were selected based on keyword research and analysis of phrases searched on the internet. This means that they will be indexed and the person will receive a result in the Google SERP directing them to the book. It’s highly probable, just like I did, that someone will enter some keywords and will be testing. My curiosity was rewarded by being able to show you this mess and I struggled through reading and analyzing the selected book.
Of course, I present radical examples with fabricated bibliographies (pertaining to the book I’m discussing). Such practices of using AI to generate content and books can be used to create the illusion of rich and diverse content, which is optimized for search engines, but does not necessarily provide substantive or educational value. This is particularly important considering that AI-generated content can often be superficial, imprecise, or lacking in-depth understanding of the topic. However, of course, there are other, more refined publications generated by AI. I know one person whose majority of the doctorate is written by AI. Of course, with appropriately verified bibliography. This author is aware that AI often wanders off topic.
Ridero IT Publishing - a startup from Yekaterinburg registered in Krakow, Poland
I ultimately don’t know who profits from Alan and Elisabeth’s publications. This is not the subject of my publication and analysis - it can of course be determined along with other projects of this company. However, the publisher can be quickly identified. Ridero IT Publishing, a RIDERO startup from Yekaterinburg, allows for a small cost to assign an ISBN, create a cover, prepare an eBook, and most importantly, release it into the publishing circulation. Only thanks to this, it later appears in the PWN bookstore and EMPIK GO.
In 2014, the service won second place in the Russian IT Web Ready Generations 2014 startup competition, and in 2015, Ridero started its operations in Poland and other European countries. I’m not saying that such books, if they are well-prepared in terms of content, are bad. I’m writing about an extreme case, which in my opinion, falls under spam, and the book verification process unfortunately did not catch what I did. I encourage substantive verification of the books from the list below.
Ridero is not a bad service. However, their business model does not assume a book verification model required by contemporary realities. It seems to me that this is now a task for lawyers and politicians to create such legal solutions that will oblige appropriate marking and filtering of spam.
Sources
List of books of very talented writers
Alan Coleger Zbiór poradników damsko-męskich
Alan Coleger Ulubione pozycje seksualne
Alan Coleger Jak zrozumieć kobietę
Alan Coleger Psychologia pozytywna w życiu zawodowym i osobistym
Elisabeth Coleger Jak zrozumieć faceta
Alan Coleger Moc Cierpliwości
Alan Coleger Jak poznać, że ktoś kłamie?
Alan Coleger Wszystko czego w życiu pragniemy i do czego dążymy
Alan Coleger Jak poradzić sobie ze stresem w pracy
Elisabeth Coleger Jak nauczyć dziecko asertywności
Alan Coleger Jak przestać marnować pieniądze
Elisabeth Coleger Wszystko co chcemy wiedzieć o miłości
Elisabeth Coleger Jak pokonać nałóg
Alan Coleger Jak wybrać odpowiedni dla siebie zawód?
Elisabeth Coleger Różnica miedzy głodem emocjonalnym, a miłością
Alan Coleger Wszystko na temat życia po śmierci
Alan Coleger Czym jest prokrastynacja i jak sobie z nią poradzić
Elisabeth Coleger Zdrowie i Choroby: Praktyczny Przewodnik
Alan Coleger Najważniejsze wydarzenia mające wpływ na Polską kulturę
Alan Coleger Wprowadzenie do psychologii pozytywnej
Elisabeth Coleger Wielka Księga Biologii: Od Botaniki do Neurobiologii
Alan Coleger Co robić, aby być optymistą
Elisabeth Coleger Tajemnice Dziedziczenia: Genetyka w Prostych Słowach
Elisabeth Coleger Jak rozpoznać i radzić sobie z trudną teściową
Elisabeth Coleger Świat Zwierząt: Wprowadzenie do Zoologii
Elisabeth Coleger Podstawy Biologii Molekularnej
Alan Coleger Cierpliwość a Osiąganie Sukcesu
Alan Coleger Wszystko to, co potrzebujemy wiedzieć, aby urozmaicić nasze życie erotyczne
Elisabeth Coleger Ewolucja: Wprowadzenie do Teorii i Dowodów
Elisabeth Coleger Komunikacja z klientami
Alan Coleger O czym faceci myślą, a nigdy tego nie powiedzą kobiecie?
Alan Coleger Era Socrealizmu: Sztuka i Kultura w Polsce pod Rządami PRL
Alan Coleger Energia w Wampirach Energetycznych: Analiza i Konsekwencje
Elisabeth Coleger Biologia Molekularna: Podstawy i Zastosowanie
Alan Coleger Błędy i bariery komunikacyjne w organizacji i życiu prywatnym
Elisabeth Coleger Zagadkowy Świat: Parapsychologia i Nauka
Elisabeth Coleger Podstawy geometrii część 2
Alan Coleger Sztuka i kultura od Przedhistorycznej Polski do II Rzeczypospolitej
Alan Coleger Sukces osobisty: Psychologia rozwoju, zdrowie psychiczne i samorealizacja
Alan Coleger Odkrywanie Szczęścia: Psychologia Pozytywna dla Zdrowia i Psychoterapii
Elisabeth Coleger Przyczyny nadmiernego apetytu jak sobie z nim poradzić
Alan Coleger Przyszłość sztucznej inteligencji
Elisabeth Coleger Sekrety Świata Mikroorganizmów: Wprowadzenie do Mikrobiologii
Alan Coleger Osiąganie Sukcesu i Harmonii: Ścieżka Osobistego Rozwoju
Elisabeth Coleger Skuteczna komunikacja z klientami
Elisabeth Coleger Przygody Romantycznego niezdary Kacpra
Alan Coleger Sztuka i Kultura Polska w Cieniu Wojny i Nadziei: II Wojna Światowa i Okres Powojenny
Alan Coleger Błędy i bariery komunikacyjne w codziennym życiu
Alan Coleger Syndrom oszusta, czym jest i jak sobie z nim poradzić
Alan Coleger Szczęście i Sukces: Przewodnik po Psychologii Pozytywnej w Życiu i Pracy
Alan Coleger Efekt Diderota, czym jest i jak sobie z nim poradzić
Alan Coleger Co robić, aby wyglądać i czuć się młodziej?
Elisabeth Coleger Sekretne Mechanizmy Rozmnażania: Odkrywanie Tajemnic Życia
Alan Coleger Co robić, aby zapobiec konfliktom oraz jak sobie z nim radzić
Alan Coleger Jak radzić sobie z agresywnymi ludźmi
Alan Coleger Cierpliwość: Klucz do Osiągnięcia Sukcesu Osobistego
Elisabeth Coleger Tajemnice Genetyki: Dziedziczenie i Ewolucja
Elisabeth Coleger Geometria obliczanie kątów w figurach zadania
Alan Coleger Błędy i bariery komunikacyjne w organizacji i życiu prywatnym
Elisabeth Coleger Świat biologii: Wprowadzenie do nauki o życiu
Alan Coleger Typy ludzkiej osobowości
Alan Coleger Etyczne zasady w praktyce: Poradnik dla medycyny, edukacji, prawa i życia prywatnego
Elisabeth Coleger Zakulisowe intrygi: Świat teorii spiskowych
Elisabeth Coleger Narodziny i Rozkwit Różnorodności Biologicznej
Alan Coleger Cierpliwość: Znajdź Spokój w Niecierpliwym Świecie
Alan Coleger Efektywne zarządzanie czasem
Alan Coleger Błędy i bariery komunikacyjne w organizacji
Elisabeth Coleger Zapomniane spiski: Ukryte tajemnice świata
Alan Coleger Ochrona Przed Wampirami Energetycznymi: Jak Zachować Swoją Energę
Alan Coleger Siła Umysłu: Klucz do Zdrowia Psychicznego, Samorozwoju i Osiągnięcia Sukcesu
Alan Coleger Jak zmotywować pracownika do bardziej wydajnej i efektywnej pracy
Alan Coleger Odkrywanie Genialności: Rozwijanie Kreatywności i Innowacyjności
Elisabeth Coleger Tajemnice Mózgu: Wprowadzenie do Neurobiologii
Alan Coleger Jak skutecznie negocjować, techniki negocjacji od A do Z
Alan Coleger Jak być szczęśliwym singlem
Elisabeth Coleger Jak zrozumieć mężczyznę oraz jak poznać, że nas okłamuje
Alan Coleger Świadome Przebudzenie: Jak Unikać Wampiryzmu Energetycznego i Rozwijać Się
Alan Coleger Jak skutecznie zarządzać własnym życiem?
Alan Coleger Jak zaimponować kobiecie i rozkochać ją w sobie
Alan Coleger Imigracja i uchodźctwo: Spory, bezpieczeństwo, ekonomia, integracja, przyszłość
Alan Coleger Cierpliwość: Klucz do Sukcesu i Rozwoju Osobistego
Alan Coleger Polska Między Rozbiorami a Niepodległością: Kultura i Sztuka w II Rzeczypospolitej
Alan Coleger Co zrobić, żeby szybko schudnąć nie robiąc sobie krzywdy?
Alan Coleger Polska kultura w czasach II Wojny Światowej, PRL-u do współczesności
Elisabeth Coleger Jak rozpalić kobietę
Alan Coleger Jak poprawnie przekazywać treść, żeby zostać zrozumianym
Alan Coleger Podstawy księgowości
Alan Coleger Szukając Tożsamości: Polska kultura w Cieniu Rozbiorów i Okupacji
Elisabeth Coleger Parapsychologia: Zrozumienie nadzwyczajnych zdolności w kontekście nauki i społeczeństwa
Elisabeth Coleger Rozkwit Natury: Botanika dla Każdego
Elisabeth Coleger Teorie spiskowe: przykłady i jej analiza
Alan Coleger Życiowa Energia: Analiza Wampirów Energetycznych
Alan Coleger Wampiry Energetyczne w Relacjach: Jak Uchronić Siebie i Bliskich
Alan Coleger Tajemnice Szczęścia: Wprowadzenie do Psychologii Pozytywnej
Alan Coleger Sztuczna inteligencja przyszłość czy zagrożenie?
Elisabeth Coleger Biotechnologia: Wprowadzenie do Nowoczesnych Technik i Zastosowań
Alan Coleger Ścieżki do Szczęścia: Osiąganie równowagi w Zdrowiu Psychicznym, Motywacji i Relacjach Społecznych
Alan Coleger Etyczne zasady w praktyce: Poradnik dla polityki, edukacji, medycyny, prawa i życia prywatnego
Elisabeth Coleger Przyczyny nadmiernego apetytu
Elisabeth Coleger Podstawy geometrii
Alan Coleger Oczyszczanie i Rozwijanie Świadomości: Droga do Energicznej Harmonii
Elisabeth Coleger Geometria obliczanie pola, obwodu i wysokości figur
Elisabeth Coleger Biologia w Pigułce: Wprowadzenie i Sekrety Komórki
Alan Coleger Wampiryzm Energetyczny: Perspektywa Duchowa i Rozważania
Alan Coleger Sztuka i Kultura Polska: Od Antyku do Baroku
Elisabeth Coleger Wstęp do parapsychologii
Alan Coleger Pozytywne relacje interpersonalne
Alan Coleger Zbiór zaskakujących syndromów
Alan Coleger Psychologia pozytywna: Twój klucz do sukcesu
Alan Coleger Najlepsze sposoby na zmotywowanie się do pracy zdalnie oraz w naszym miejscu pracy
Alan Coleger Cierpliwość: Kluczowa siła w codziennym życiu
Elisabeth Coleger Podstawy geometrii część 1
Alan Coleger Osiągnij Sukces i Równowagę Osobistą
Alan Coleger Etyczne zasady w praktyce: Poradnik dla biznesu, medycyny, edukacji, prawa i życia prywatnego
Elisabeth Coleger Ból samotności
Alan Coleger Najważniejsze typy ludzkiej osobowości
Elisabeth Coleger Anatomia i Fizjologia: Klucz do Zrozumienia Ciała
Alan Coleger Meandry Cierpliwości: Odkrywanie Spokoju w Obliczu Wyzwań
Elisabeth Coleger Geometria rozszerzona
Alan Coleger Nietypowe, a skuteczne sposoby motywowania pracowników do pracy
Elisabeth Coleger Metody manipulacji oraz radzenia sobie z trudnymi sytuacjami w komunikacji
Alan Coleger Problemy z poznawaniem nowych ludzi, jak sobie z tym poradzić
Alan Coleger Syndrom przeniesienia, czym jest i jak sobie z nim poradzić
Alan Coleger Spór dotyczący postawy wobec uchodźców i imigrantów oraz kwestie bezpieczeństwa ekonomicznego i integracji.
Alan Coleger Problemy związane z komunikowaniem się i poznawaniem nowych ludzi, jak sobie z tym poradzić
Alan Coleger Różnica między prekrastynacją, a prokrastynacją, czym są i jak sobie z nimi poradzić
Alan Coleger Jak przygotować dobrą reklamę i dotrzeć do klienta
Alan Coleger Jak wybrać odpowiedni zawód dla swojego typu osobowości
Alan Coleger Czym jest prekrastynacja i jak sobie z nią poradzić
Alan Coleger Syndrom wypalenia zawodowego, a stres czym jest i jak sobie z nimi poradzić
Edgar Enderson Alan Coleger Nietypowe syndromy, które mają wpływ na nasze zachowanie
Edgar’s Book List - another talented and prolific author. I am posting the list below for the sole purpose of someone potentially verifying these publications for their substantive content. I note that the publication dates of most of Edgar Enderson’s books vary in relation to the chatGPT publications in 2023.
Edgar Enderson Jak odbudować stracone zaufanie?
Edgar Enderson Niezauważane sznury: Psychologia manipulacji
Edgar Enderson Jak ćwiczyć własną cierpliwość
Edgar Enderson Angielski poziom podstawowy
Edgar Enderson Jak zmotywować kobietę, do uprawiania seksu
Edgar Enderson Sztuka Budowania Pozytywnych Relacji
Edgar Enderson Co robić, aby częściej móc uprawiać seks, jak zmotywować kobietę do uprawiania go oraz jak zwiększyć przyjemność w łóżku
Edgar Enderson Jak poznać nowych przyjaciół
Edgar Enderson Jak kontrolować gniew
Edgar Endersoniwięcej 1autor Wizerunek i Reputacja: Budowanie Autentycznego Sukcesu
Edgar Enderson Umiejętności miękkie w praktyce
Edgar Enderson Kosmologia: Tajemnice Wszechświata
Edgar Enderson Co zrobić, aby uniknąć kłopotów?
Edgar Enderson Sprawdzone sposoby, żeby łatwiej się uczyć i skuteczniej przyswajać wiedzę
Edgar Enderson Królowie Polski: Od Mieszka I do Stanisława Augusta Poniatowskiego
Edgar Enderson Reputacja i Relacje: Klucz do Sukcesu Biznesowego
Edgar Enderson Fakty i mity na temat SARS-CoV-2
Edgar Enderson Jak zarobić pieniądze przez Internet
Edgar Enderson Cele Wizerunkowe: Droga do Skutecznego Zarządzania Wizerunkiem
Edgar Enderson Przełom w wizerunku: Budowanie Autentyczności
Edgar Enderson Sprawiedliwość społeczna: nierówności, dyskryminacja i wyzwania we współczesnym społeczeństwie
Edgar Enderson Wszystko co chcemy wiedzieć na temat pociągu seksualnego
Edgar Enderson Wszystko na temat bycia kierownikiem, jak nim zostać i jak go odnaleźć wśród pracowników
Edgar Enderson Królowie Polski: Od Mieszka I do Władysława Jagiełło
Edgar Enderson Syndrom Sztokholmski, czym jest, jego objawy i jak go leczyć
Edgar Enderson Komunikacja bez granic: Odporność na manipulację i budowanie silnych relacji
Edgar Enderson Angielski poziom podstawowy część 1
Edgar Enderson Wędrówka przez Wszechświat: Od kosmologii do życia pozaziemskiego
Edgar Enderson Co robić, aby nie zostać okradzionym podczas podróży
Edgar Enderson Wizerunek w Czasie Kryzysu
Edgar Enderson Jak radzić sobie z ludźmi w naszym miejscu pracy
Edgar Enderson Wielkie Wędrówki Kosmiczne: Wprowadzenie do Kosmologii
Edgar Enderson Wojna polsko-bolszewicka 1919—1920
Edgar Enderson Jak zaoszczędzić firmowy budżet
Edgar Enderson Konflikt i dążenia do sojuszu: Wojna kozacko-tatarska
Edgar Enderson Wprowadzenie do logiki: od podstaw po metafizykę, epistemologię, filozofię języka, matematyki i nauki
Edgar Enderson Co robić, aby wysypiać się w nocy
Edgar Enderson Ciekawostki na temat narkotyków
Edgar Enderson Jak skutecznie przekonywać innych do własnego zdania
Coleger Alan Enderson Edgar Nietypowe syndromy, które mają wpływ na nasze zachowanie
Edgar Enderson Jak poradzić sobie ze stresem w codziennym życiu