What the Article is About

In today’s article, I will discuss the results of my research on AI-generated content published as books. Is the Polish publishing market being inundated with junk AI-generated publications, with fabricated, non-existent bibliographies and content of dubious scientific quality? In an era of disinformation, are renowned bookstores like HELION, PWN, and subscription services like Empik GO distributing and stocking such books in their offer, thereby contributing, knowingly or not, to misinformation? I will also show how AI-generated content marketing spam has entered bookstores and how it is likely being monetized. I hope my article will contribute to the discussion on the AI revolution

Are AI-generated books widely available in the Polish publishing market? Meet Alan and Elizabeth, a pair of wandering writers.

Were Alan and Elizabeth’s books written by malfunctioning AI bots?

Using a subscription model allows me to acquaint myself with publications I wouldn’t want to physically have in my library. Sometimes I search for books simply by entering words like for instance conspiracy theory. That’s how I came across the book Teorie spiskowe: przykłady i jej analiza - Elisabeth Coleger (eng translation: Conspiracy Theories: Examples and Analysis). As we can learn about the author:

Fascinated by writing books and poems from a young age. The author’s publications are based particularly on her past experience, imagination, and knowledge gained from others who are willing to share their thoughts. So far, the author has published books on the following themes: 1. Poems. 2. Guides. 3. Romance. 4. Psychology. 5. Family relationships. LubimyCzytać.pl: Elisabeth Coleger | Autorka

I began researching this author because the level of nonsense she wrote in her publication about conspiracy theories exceeded the ignorance of an uninformed middle schooler. The book contains factual errors. For example, actual conspiracies are confused with so-called conspiracy theories - it seems that someone generating the text decided to add a few pages about conspiracies that have never been the subject of any theory.

There are clearly whole paragraphs of repetitions similar to those produced by a GPT-4 bot generating text. For instance, HAARP is repeated in several places, making it feel like you are reading the same sections over and over after 10 pages. Moreover, there are repeated phrases typical of chatGPT about the harmfulness of conspiracy theories and lack of scientific confirmation, which are tediously copied every few pages and repeated dozens of times.

*I removed the parts of analysis of source text, because it is written in polish.

And so, throughout the entire book, this repeats dozens of times, and it’s blatantly obvious that the person generating this book did not read it from start to finish, as these repetitions are a clear signal of a generator. There are two options: either the book attributed to Colager was written by various authors, which I initially assumed, or it was written by AI. It often seems as if the writer forgot what was mentioned just 10 pages earlier.

Malfunctioning AI and Fabricated Bibliographies

The book is filled with utter nonsense and untruths. Such as the existence of a conspiracy theory about controlled obsolescence, i.e., the aging of products, or a conspiracy theory that suggests the possibility of manipulating people through social network algorithms. As the author argues, this is untrue because there is no evidence of a conspiracy by companies to for example age products and make them harder to service. According to the author, there is also no evidence that social network algorithms can be used to manipulate people. This, indeed, is a bunch of nonsense.

Firstly, it has been proven multiple times that toxic algorithms exist in social networks and that behavioral targeting, behavioral stimulation, and so-called surveillance capitalism, which monetizes our online activity, are widely used. This has been written about by many authors, whom I refer to on my blog, including Ronald Deibert, co-creator of CitizenLab and author of The Great Surveillance.

Secondly, the widespread practice of planned obsolescence in products, including restricting access to parts and services, and ceasing updates after the EOL (end of life) period, has been extensively documented. This involves not only technical limitations but also legal actions against individuals providing support for these products without affiliation to the manufacturer. This is demonstrably not a conspiracy theory, as evidenced by the existence of legal measures addressing these issues. For instance, laws banning planned obsolescence and mandating replaceable batteries in non-built-in devices exemplify concrete steps taken to combat this issue.

Therefore, the so-called conspiracy theories presented are actually facts that were once conspiracy theories but became facts through exposure by whistleblowers or investigative journalists - Coleger misses this because language models do not contain all the knowledge about the real world. Hence, in presenting facts, they can not only distort the reality but also create pseudofacts very convincingly.

Elisabeth Coleger’s bibliography includes citations of non-existent books. I searched extensively, but could find no trace of these publications on the Internet (including Google SERP) or on academic platforms like Research Gate. Given my familiarity with technologies like ChatGPT and Google Bard, I understand that they can, especially in social sciences, fabricate bibliographies and falsely link people and topics. Remarkably, Coleger’s publication lists the following sources, all of which turned out to be non-existent books:

Michał Chojak teorie spiskowe 2012
Marcin Ryszkiewicz, Spiskologia. Teorie spiskowe i ich kultura, 2015r.
Mariusz Nowak Teorie spiskowe i ich wpływ na społeczeństwo 2018
Jan Głowacki Teorie spiskowe: geneza, rozwój, implikacje 2015
Ewa Kowalska Teorie spiskowe: psychologiczne aspekty i ich wpływ na jednostkę 2014
Andrzej Wojciechowski Teorie spiskowe: analiza, przyczyny, konsekwencje 2019
Jan Bondęga Spiski i tajemnice 2012

It’s clear that someone mindlessly copied everything the AI produced, including the supposed sources for verifying the knowledge in the book. References are available at the end of each chapter in footnotes and at the end in the bibliography. Let’s not be afraid to say it, this is blatant disinformation and a brazen misleading of potential readers.

Automatic Book Generation as Spam Content Marketing

A quick check shows that Elisabeth Coleger and Alan Coleger have written over a hundred books in a very short time, on topics ranging from psychology and personal development to Polish history, cosmology, and guides in various areas of life. This is likely spam of so-called content marketing, which through synonymization of content, automatic AI content generation, and rewriting existing publications, generates so much content and in such a form that people accidentally come across these publications when searching by keywords.

Reviewing the diversity of these titles shows an analogy I am familiar with, that this is indeed a pattern used in Google SERP (search engine result page) spam to draw people to fabricated spam sites where advertisements are placed. However, monetization here occurs differently.

Do Bookstores Agree to Propagate Spam?

One could say that PWN or HELION have so many thousands of similar and trash publications that they can’t monitor everything. The same could allegedly be said about EMPIK GO. However, this does not excuse them from having such products in their offer. The price, ranging from a few to several dozen zlotys, e.g., 5.09 PLN for access to a book written by Elisabeth, means that a person who searches for it is likely to first buy it and, in the case of questionable quality, refrain from making a complaint, as it’s only a few zlotys.

In the case of subscription services, the matter is even simpler. A person with a monthly subscription has a certain number of slots to use. So, we can borrow, for example, 8 books a month. If we search for a publication by keywords, it’s very likely that we will simply download it and use up a monthly slot. A portion of our subscription fee goes to the book’s author. On the one hand, it seems that the presence of trash is not in the interest of subscription services, but it turns out that subscription service providers make money from this. The more potential responses to customer queries, the better. Because these books are rented by mistake, slots are used up. No one advertises or reviews this. The subscription service provider and, above all, the AI spam producer earn money.

Is It Ethical and Right to Mislead Readers?

Let’s look at the list of titles below. Each bookstore has hundreds of thousands of books. If someone is looking for a guide on how to overcome depression or an introduction to neurobiology… it is highly likely that these titles were selected based on keyword research and analysis of phrases searched on the internet. This means that they will be indexed and the person will receive a result in the Google SERP directing them to the book. It’s highly probable, just like I did, that someone will enter some keywords and will be testing. My curiosity was rewarded by being able to show you this mess and I struggled through reading and analyzing the selected book.

Of course, I present radical examples with fabricated bibliographies (pertaining to the book I’m discussing). Such practices of using AI to generate content and books can be used to create the illusion of rich and diverse content, which is optimized for search engines, but does not necessarily provide substantive or educational value. This is particularly important considering that AI-generated content can often be superficial, imprecise, or lacking in-depth understanding of the topic. However, of course, there are other, more refined publications generated by AI. I know one person whose majority of the doctorate is written by AI. Of course, with appropriately verified bibliography. This author is aware that AI often wanders off topic.

Ridero IT Publishing - a startup from Yekaterinburg registered in Krakow, Poland

I ultimately don’t know who profits from Alan and Elisabeth’s publications. This is not the subject of my publication and analysis - it can of course be determined along with other projects of this company. However, the publisher can be quickly identified. Ridero IT Publishing, a RIDERO startup from Yekaterinburg, allows for a small cost to assign an ISBN, create a cover, prepare an eBook, and most importantly, release it into the publishing circulation. Only thanks to this, it later appears in the PWN bookstore and EMPIK GO.

In 2014, the service won second place in the Russian IT Web Ready Generations 2014 startup competition, and in 2015, Ridero started its operations in Poland and other European countries. I’m not saying that such books, if they are well-prepared in terms of content, are bad. I’m writing about an extreme case, which in my opinion, falls under spam, and the book verification process unfortunately did not catch what I did. I encourage substantive verification of the books from the list below.

Ridero is not a bad service. However, their business model does not assume a book verification model required by contemporary realities. It seems to me that this is now a task for lawyers and politicians to create such legal solutions that will oblige appropriate marking and filtering of spam.

Sources

List of books of very talented writers

1. Alan Coleger Zbiór poradników damsko-męskich

2. Alan Coleger Ulubione pozycje seksualne

3. Alan Coleger Jak zrozumieć kobietę

4. Alan Coleger Psychologia pozytywna w życiu zawodowym i osobistym

5. Elisabeth Coleger Jak zrozumieć faceta

6. Alan Coleger Moc Cierpliwości

7. Alan Coleger Jak poznać, że ktoś kłamie?

8. Alan Coleger Wszystko czego w życiu pragniemy i do czego dążymy

9. Alan Coleger Jak poradzić sobie ze stresem w pracy

10. Elisabeth Coleger Jak nauczyć dziecko asertywności

11. Alan Coleger Jak przestać marnować pieniądze

12. Elisabeth Coleger Wszystko co chcemy wiedzieć o miłości

13. Elisabeth Coleger Jak pokonać nałóg

14. Alan Coleger Jak wybrać odpowiedni dla siebie zawód?

15. Elisabeth Coleger Różnica miedzy głodem emocjonalnym, a miłością

16. Alan Coleger Wszystko na temat życia po śmierci

17. Alan Coleger Czym jest prokrastynacja i jak sobie z nią poradzić

18. Elisabeth Coleger Zdrowie i Choroby: Praktyczny Przewodnik

19. Alan Coleger Najważniejsze wydarzenia mające wpływ na Polską kulturę

20. Alan Coleger Wprowadzenie do psychologii pozytywnej

21. Elisabeth Coleger Wielka Księga Biologii: Od Botaniki do Neurobiologii

22. Alan Coleger Co robić, aby być optymistą

23. Elisabeth Coleger Tajemnice Dziedziczenia: Genetyka w Prostych Słowach

24. Elisabeth Coleger Jak rozpoznać i radzić sobie z trudną teściową

25. Elisabeth Coleger Świat Zwierząt: Wprowadzenie do Zoologii

26. Elisabeth Coleger Podstawy Biologii Molekularnej

27. Alan Coleger Cierpliwość a Osiąganie Sukcesu

28. Alan Coleger Wszystko to, co potrzebujemy wiedzieć, aby urozmaicić nasze życie erotyczne

29. Elisabeth Coleger Ewolucja: Wprowadzenie do Teorii i Dowodów

30. Elisabeth Coleger Komunikacja z klientami

31. Alan Coleger O czym faceci myślą, a nigdy tego nie powiedzą kobiecie?

32. Alan Coleger Era Socrealizmu: Sztuka i Kultura w Polsce pod Rządami PRL

33. Alan Coleger Energia w Wampirach Energetycznych: Analiza i Konsekwencje

34. Elisabeth Coleger Biologia Molekularna: Podstawy i Zastosowanie

35. Alan Coleger Błędy i bariery komunikacyjne w organizacji i życiu prywatnym

36. Elisabeth Coleger Zagadkowy Świat: Parapsychologia i Nauka

37. Elisabeth Coleger Podstawy geometrii część 2

38. Alan Coleger Sztuka i kultura od Przedhistorycznej Polski do II Rzeczypospolitej

39. Alan Coleger Sukces osobisty: Psychologia rozwoju, zdrowie psychiczne i samorealizacja

40. Alan Coleger Odkrywanie Szczęścia: Psychologia Pozytywna dla Zdrowia i Psychoterapii

41. Elisabeth Coleger Przyczyny nadmiernego apetytu jak sobie z nim poradzić

42. Alan Coleger Przyszłość sztucznej inteligencji

43. Elisabeth Coleger Sekrety Świata Mikroorganizmów: Wprowadzenie do Mikrobiologii

44. Alan Coleger Osiąganie Sukcesu i Harmonii: Ścieżka Osobistego Rozwoju

45. Elisabeth Coleger Skuteczna komunikacja z klientami

46. Elisabeth Coleger Przygody Romantycznego niezdary Kacpra

47. Alan Coleger Sztuka i Kultura Polska w Cieniu Wojny i Nadziei: II Wojna Światowa i Okres Powojenny

48. Alan Coleger Błędy i bariery komunikacyjne w codziennym życiu

49. Alan Coleger Syndrom oszusta, czym jest i jak sobie z nim poradzić

50. Alan Coleger Szczęście i Sukces: Przewodnik po Psychologii Pozytywnej w Życiu i Pracy

51. Alan Coleger Efekt Diderota, czym jest i jak sobie z nim poradzić

52. Alan Coleger Co robić, aby wyglądać i czuć się młodziej?

53. Elisabeth Coleger Sekretne Mechanizmy Rozmnażania: Odkrywanie Tajemnic Życia

54. Alan Coleger Co robić, aby zapobiec konfliktom oraz jak sobie z nim radzić

55. Alan Coleger Jak radzić sobie z agresywnymi ludźmi

56. Alan Coleger Cierpliwość: Klucz do Osiągnięcia Sukcesu Osobistego

57. Elisabeth Coleger Tajemnice Genetyki: Dziedziczenie i Ewolucja

58. Elisabeth Coleger Geometria obliczanie kątów w figurach zadania

59. Alan Coleger Błędy i bariery komunikacyjne w organizacji i życiu prywatnym

60. Elisabeth Coleger Świat biologii: Wprowadzenie do nauki o życiu

61. Alan Coleger Typy ludzkiej osobowości

62. Alan Coleger Etyczne zasady w praktyce: Poradnik dla medycyny, edukacji, prawa i życia prywatnego

63. Elisabeth Coleger Zakulisowe intrygi: Świat teorii spiskowych

64. Elisabeth Coleger Narodziny i Rozkwit Różnorodności Biologicznej

65. Alan Coleger Cierpliwość: Znajdź Spokój w Niecierpliwym Świecie

66. Alan Coleger Efektywne zarządzanie czasem

67. Alan Coleger Błędy i bariery komunikacyjne w organizacji

68. Elisabeth Coleger Zapomniane spiski: Ukryte tajemnice świata

69. Alan Coleger Ochrona Przed Wampirami Energetycznymi: Jak Zachować Swoją Energę

70. Alan Coleger Siła Umysłu: Klucz do Zdrowia Psychicznego, Samorozwoju i Osiągnięcia Sukcesu

71. Alan Coleger Jak zmotywować pracownika do bardziej wydajnej i efektywnej pracy

72. Alan Coleger Odkrywanie Genialności: Rozwijanie Kreatywności i Innowacyjności

73. Elisabeth Coleger Tajemnice Mózgu: Wprowadzenie do Neurobiologii

74. Alan Coleger Jak skutecznie negocjować, techniki negocjacji od A do Z

75. Alan Coleger Jak być szczęśliwym singlem

76. Elisabeth Coleger Jak zrozumieć mężczyznę oraz jak poznać, że nas okłamuje

77. Alan Coleger Świadome Przebudzenie: Jak Unikać Wampiryzmu Energetycznego i Rozwijać Się

78. Alan Coleger Jak skutecznie zarządzać własnym życiem?

79. Alan Coleger Jak zaimponować kobiecie i rozkochać ją w sobie

80. Alan Coleger Imigracja i uchodźctwo: Spory, bezpieczeństwo, ekonomia, integracja, przyszłość

81. Alan Coleger Cierpliwość: Klucz do Sukcesu i Rozwoju Osobistego

82. Alan Coleger Polska Między Rozbiorami a Niepodległością: Kultura i Sztuka w II Rzeczypospolitej

83. Alan Coleger Co zrobić, żeby szybko schudnąć nie robiąc sobie krzywdy?

84. Alan Coleger Polska kultura w czasach II Wojny Światowej, PRL-u do współczesności

85. Elisabeth Coleger Jak rozpalić kobietę

86. Alan Coleger Jak poprawnie przekazywać treść, żeby zostać zrozumianym

87. Alan Coleger Podstawy księgowości

88. Alan Coleger Szukając Tożsamości: Polska kultura w Cieniu Rozbiorów i Okupacji

89. Elisabeth Coleger Parapsychologia: Zrozumienie nadzwyczajnych zdolności w kontekście nauki i społeczeństwa

90. Elisabeth Coleger Rozkwit Natury: Botanika dla Każdego

91. Elisabeth Coleger Teorie spiskowe: przykłady i jej analiza

92. Alan Coleger Życiowa Energia: Analiza Wampirów Energetycznych

93. Alan Coleger Wampiry Energetyczne w Relacjach: Jak Uchronić Siebie i Bliskich

94. Alan Coleger Tajemnice Szczęścia: Wprowadzenie do Psychologii Pozytywnej

95. Alan Coleger Sztuczna inteligencja przyszłość czy zagrożenie?

96. Elisabeth Coleger Biotechnologia: Wprowadzenie do Nowoczesnych Technik i Zastosowań

97. Alan Coleger Ścieżki do Szczęścia: Osiąganie równowagi w Zdrowiu Psychicznym, Motywacji i Relacjach Społecznych

98. Alan Coleger Etyczne zasady w praktyce: Poradnik dla polityki, edukacji, medycyny, prawa i życia prywatnego

99. Elisabeth Coleger Przyczyny nadmiernego apetytu

100. Elisabeth Coleger Podstawy geometrii

101. Alan Coleger Oczyszczanie i Rozwijanie Świadomości: Droga do Energicznej Harmonii

102. Elisabeth Coleger Geometria obliczanie pola, obwodu i wysokości figur

103. Elisabeth Coleger Biologia w Pigułce: Wprowadzenie i Sekrety Komórki

104. Alan Coleger Wampiryzm Energetyczny: Perspektywa Duchowa i Rozważania

105. Alan Coleger Sztuka i Kultura Polska: Od Antyku do Baroku

106. Elisabeth Coleger Wstęp do parapsychologii

107. Alan Coleger Pozytywne relacje interpersonalne

108. Alan Coleger Zbiór zaskakujących syndromów

109. Alan Coleger Psychologia pozytywna: Twój klucz do sukcesu

110. Alan Coleger Najlepsze sposoby na zmotywowanie się do pracy zdalnie oraz w naszym miejscu pracy

111. Alan Coleger Cierpliwość: Kluczowa siła w codziennym życiu

112. Elisabeth Coleger Podstawy geometrii część 1

113. Alan Coleger Osiągnij Sukces i Równowagę Osobistą

114. Alan Coleger Etyczne zasady w praktyce: Poradnik dla biznesu, medycyny, edukacji, prawa i życia prywatnego

115. Elisabeth Coleger Ból samotności

116. Alan Coleger Najważniejsze typy ludzkiej osobowości

117. Elisabeth Coleger Anatomia i Fizjologia: Klucz do Zrozumienia Ciała

118. Alan Coleger Meandry Cierpliwości: Odkrywanie Spokoju w Obliczu Wyzwań

119. Elisabeth Coleger Geometria rozszerzona

120. Alan Coleger Nietypowe, a skuteczne sposoby motywowania pracowników do pracy

121. Elisabeth Coleger Metody manipulacji oraz radzenia sobie z trudnymi sytuacjami w komunikacji

122. Alan Coleger Problemy z poznawaniem nowych ludzi, jak sobie z tym poradzić

123. Alan Coleger Syndrom przeniesienia, czym jest i jak sobie z nim poradzić

124. Alan Coleger Spór dotyczący postawy wobec uchodźców i imigrantów oraz kwestie bezpieczeństwa ekonomicznego i integracji.

125. Alan Coleger Problemy związane z komunikowaniem się i poznawaniem nowych ludzi, jak sobie z tym poradzić

126. Alan Coleger Różnica między prekrastynacją, a prokrastynacją, czym są i jak sobie z nimi poradzić

127. Alan Coleger Jak przygotować dobrą reklamę i dotrzeć do klienta

128. Alan Coleger Jak wybrać odpowiedni zawód dla swojego typu osobowości

129. Alan Coleger Czym jest prekrastynacja i jak sobie z nią poradzić

130. Alan Coleger Syndrom wypalenia zawodowego, a stres czym jest i jak sobie z nimi poradzić

131. Edgar Enderson Alan Coleger Nietypowe syndromy, które mają wpływ na nasze zachowanie

Edgar’s Book List - another talented and prolific author. I am posting the list below for the sole purpose of someone potentially verifying these publications for their substantive content. I note that the publication dates of most of Edgar Enderson’s books vary in relation to the chatGPT publications in 2023.

1. Edgar Enderson Jak odbudować stracone zaufanie?

2. Edgar Enderson Niezauważane sznury: Psychologia manipulacji

3. Edgar Enderson Jak ćwiczyć własną cierpliwość

4. Edgar Enderson Angielski poziom podstawowy

5. Edgar Enderson Jak zmotywować kobietę, do uprawiania seksu

6. Edgar Enderson Sztuka Budowania Pozytywnych Relacji

7. Edgar Enderson Co robić, aby częściej móc uprawiać seks, jak zmotywować kobietę do uprawiania go oraz jak zwiększyć przyjemność w łóżku

8. Edgar Enderson Jak poznać nowych przyjaciół

9. Edgar Enderson Jak kontrolować gniew

10. Edgar Endersoniwięcej 1autor Wizerunek i Reputacja: Budowanie Autentycznego Sukcesu

11. Edgar Enderson Umiejętności miękkie w praktyce

12. Edgar Enderson Kosmologia: Tajemnice Wszechświata

13. Edgar Enderson Co zrobić, aby uniknąć kłopotów?

14. Edgar Enderson Sprawdzone sposoby, żeby łatwiej się uczyć i skuteczniej przyswajać wiedzę

15. Edgar Enderson Królowie Polski: Od Mieszka I do Stanisława Augusta Poniatowskiego

16. Edgar Enderson Reputacja i Relacje: Klucz do Sukcesu Biznesowego

17. Edgar Enderson Fakty i mity na temat SARS-CoV-2

18. Edgar Enderson Jak zarobić pieniądze przez Internet

19. Edgar Enderson Cele Wizerunkowe: Droga do Skutecznego Zarządzania Wizerunkiem

20. Edgar Enderson Przełom w wizerunku: Budowanie Autentyczności

21. Edgar Enderson Sprawiedliwość społeczna: nierówności, dyskryminacja i wyzwania we współczesnym społeczeństwie

22. Edgar Enderson Wszystko co chcemy wiedzieć na temat pociągu seksualnego

23. Edgar Enderson Wszystko na temat bycia kierownikiem, jak nim zostać i jak go odnaleźć wśród pracowników

24. Edgar Enderson Królowie Polski: Od Mieszka I do Władysława Jagiełło

25. Edgar Enderson Syndrom Sztokholmski, czym jest, jego objawy i jak go leczyć

26. Edgar Enderson Komunikacja bez granic: Odporność na manipulację i budowanie silnych relacji

27. Edgar Enderson Angielski poziom podstawowy część 1

28. Edgar Enderson Wędrówka przez Wszechświat: Od kosmologii do życia pozaziemskiego

29. Edgar Enderson Co robić, aby nie zostać okradzionym podczas podróży

30. Edgar Enderson Wizerunek w Czasie Kryzysu

31. Edgar Enderson Jak radzić sobie z ludźmi w naszym miejscu pracy

32. Edgar Enderson Wielkie Wędrówki Kosmiczne: Wprowadzenie do Kosmologii

33. Edgar Enderson Wojna polsko-bolszewicka 1919—1920

34. Edgar Enderson Jak zaoszczędzić firmowy budżet

35. Edgar Enderson Konflikt i dążenia do sojuszu: Wojna kozacko-tatarska

36. Edgar Enderson Wprowadzenie do logiki: od podstaw po metafizykę, epistemologię, filozofię języka, matematyki i nauki

37. Edgar Enderson Co robić, aby wysypiać się w nocy

38. Edgar Enderson Ciekawostki na temat narkotyków

39. Edgar Enderson Jak skutecznie przekonywać innych do własnego zdania

40. Coleger Alan Enderson Edgar Nietypowe syndromy, które mają wpływ na nasze zachowanie

41. Edgar Enderson Jak poradzić sobie ze stresem w codziennym życiu

• AI
• Disinformation
• Artificial Intelligence
• SEO
• Spam