Artifical Intelligence in Literature

Our dear Master is interested in Artificial Intelligence (AI) as if our natural intelligence wouldn’t be problematic enough. He persuaded us to read with him novels dealing with AI. Not classics like “Frankenstein” or Heinlein’s “The Moon is a Hard Mistress” but modern novels would prepare us for the future. He got this idea after hearing Elon Musk talking about how naive and unprepared we meet this development.

Masterchen beschäftigt sich mit künstlicher Intelligenz (KI), als ob die natürliche uns nicht schon genug Probleme bereite. Er las mit uns Romane über dieses Thema. Nicht etwa Klassiker wie “Frankenstein” oder oder Heinleins “The Moon is a Hard Mistress” sondern moderne Romane, die uns, wie er sagte, auf unsere Zukunft vorbereiten würden. Elon Musk machte ihn darauf aufmerksam wie naiv und unvorbereitet wir dieser Entwicklung begegnen.

“Is artificial intelligence less than our intelligence?”
“By far, the greatest danger of AI is that people conclude too early that they understand it.”

We are interested to know if robots will take over our world. Our Master calmed us down arguing that AI is not that far developed. It is logical and fast but unconsciously following an algorithm. He thinks AI will threaten neither mankind nor us fairies soon. Well, but we heard the opposite too.

Ob die Roboter die Welt übernehmen würden, interessierte uns schon. Masterchen beruhigte uns jedoch, so weit sei die KI noch nicht. Logisch und schnell ist sie, aber bewusstlos einem Algorithmus folgend. KI wird nicht in einer näheren Zukunft zur Konkurrenz des Menschen werden und auch nicht für Feen wie uns. Da hörten wir aber auch schon Anderes.

The mind is the matrix of all matter
Max Planck

First, we read “Frankissstein” by Jeanette Winterson, a novel written from the first-person perspective like all these AI novels. This novel is as unusual as its title. It describes two levels of time. There is the time of Romanticism with the Shelleys and Lord Byron who are locked in like in the Decamerone because of bad weather. Here in a Swiss house, the protagonist writes her novel. The other time-level is the future of a Brexit-plagued England where a transgender physician falls in love with the AI-specialist Victor Stein. Also, we have Ron Lord the developer and distributor of Sex-Robots. We were irritated by all these ideas which let us fall out of the plot sometimes. Like all novels about AI “Frankissstein” is socially critical and sometimes quite funny.
We liked how the phenomenon of the Luddites was seen similar to people with a digital-phobia nowadays, an aspect Ishiguro mentioned as well.
This novel lifts the tabu that the sex industry is quite engaged in the development of AI in robots. That was the reason that this for the Booker Prize longlisted novel (2019) was listed as youth-endangering the USA and Canada. Not aware of this prudishness and the censorship our Master wrote a review of this novel which was friendly declined. But sex between a woman and a robot takes place in McEwan’s AI novel too. But there is a kind of love involved and that’s allowed.
The body is seen in this text as a supply system for the brain. It’s all about the head like in the old-Irish mythology in which the cut off head of the wise Bran gives advice. But this is for us Bookfayries too brainy. As in Adam’s “Hitchhiker’s Guide to Galaxy“, Winterson ask herself if we are pawns in a game of others. But we don’t believe in conspiracy theories.

Zuerst lasen wir von Jeanette Winterson “Frankissstein, einen aus der Ich-Perspektive geschriebenen Roman, wie alle diese Romane über KI. Er ist so ungewöhnlich wie sein Titel. Auf zwei Zeitebenen wird erzählt, zum einen zur Zeit der Romantiker mit den Shelleys und Lord Byron, die wie im Decamerone in einem Zimmer in der Schweiz allerdings wegen schlechten Wetters eingesperrt sind, wo die Erzählerin ihren Frankenstein Roman schreibt. Dann spielt der Roman in der Zukunft, wo in einem Brexit-geplagten England ein transgender Arzt sich in den KI-Spezialisten Victor Stein verlient. Ferner spielt noch Ron Lord eine Rolle, der Sex-Roboter entwickelt und vertreibt. Uns störte, dass der Roman so voller Einfälle ist, dass man bisweilen den Plot aus den Augen verliert. Wie alle KI Romane ist auch dieser gesellschaftskritisch und bisweilen witzig.
Wir fanden es spannend, wie die Geschichte der Maschinenstürmer Manchesters parallel zu der Einstellung technikverdammender Menschen heute gesehen wird, was auch Ishiguro in seinem KI Roman angespricht.
Frankissstein spricht ein Tabu an, dass nämlich die Sex-Industrie stark an der Entwicklung künstlicher Intellegenz in der Robotik beteiligt ist und deswegen dieses Buch, obwohl 2019 longlisted für den Booker Prize, in USA und Kanada als jungengefährdend eingestuft wurde. In Ingnoranz dieser Prüderie wurde ein Medienbeitrag von Masterchen zu diesem Roman dieses Jahr freundlich abgelehnt. Übrigens kommt Sex zwischen einer Frau und einem Roboter auch in McEwans KI Roman vor.
Der Körper wird in dieserm Roman als lebensaufrechterhaltendes System für den Kopf betrachtet. Es geht alleine um den Kopf wie in der altirischen Mythologie, wo der Kopf des weisen Brans losgelöst vom Körper seine Ratschläge erteilt. Das ist uns armen Buchfeen zu kopfig. Wie schon in “Per Anhalter durch die Galaxie” stellt sich die Frage, ob wir nicht Figuren in einem Spiel von anderen sind – wir Feen neigen nicht diesem verschwörungssüchtigen Denken zu.

Later we read “Machines Like Me” by Ian McEwan. We were astonished by the plot. The robot acts more morally than humans, at least formally seen. Adam, the robot, creates disaster as he can only act right because he is programmed like this. That ruins his owners.
This novel seems to be mostly about two humans and not about Adam. McEwan succeeds by writing about the effects of the robot on his owner’s lives to explain the basic problems of AI. He does it with the help of Alan Turing who tells that AI is programmed in a clear logical way, but there are mistakes and other distortions which decide human behaviour.
Machines Like Me is set in a future in which Egland lost the Falkland War because of ‘intelligent’ rockets and Tony Benn will be assassinated. The work of lawyers and physicians are done by machines but AI fails on garbage collections. No more novels will be produced when human and robots marry what will make perfect connections. That protagonist gets given a wild boy by his fed-up father is another idea which made us laugh.
Downloading one mind into another system is a topic like in all the latest novels about AI. Where is individuality gone? we ask ourselves.
Since Frankenstein, all novels about AI are still romantic. There is always a love story. Adam the robot falls in love with his owner’s girlfriend but after a one-night-stand, there is only the classic romantic longing left. Has the robot feelings when he falls in love? Or could it be the ‘human’ robot is nothing more than an urban legend?

Danach lasen wir von McEwan “Maschinen wie ich“. Uns verblüffte der ungewöhnlichen Plot dieses Romans, bei dem die Maschine moralischer als Menschen handelt – zuminest aus formaler Sicht. Der Roboter bringt Desaster, da er alles nur richtig machen kann, so ist er programmiert. Das führt seine Besitzer in den Ruin.
Auf den ersten Blick scheint dieser Roman hauptsächlich von den Menschen zu handeln und nicht von Adam, dem Roboter. McEwan gelingt es jedoch durch Schilderungen der Auswirkungen des Roboters auf das Leben des Ich-Erzählers und seiner Freundin, die grundsätzlichen Probleme der KI deutlich zu machen. Dazu lässt er Alan Turing auferstehen, der erklärt, dass KI streng logisch programmiert sei, dass aber die Fehler und Lügen die menschliche Entscheidung bestimmen und Adams Alogorithmen auf Wahrheit und Gerechtigkeit aufbauen.
Der Roman spielt in der Zukunft, in der die Geschichte Englands anders verlaufen ist. England verliert den Falkland-Krieg wegen ‘kluger’ Raketen, Tony Benn wurde umgebracht. Die Arbeit von Juristen und Ärzten übernehmen weitgehend kluge Maschinen, aber bei der Müllabfuhr ist das schwieriger. Eine witzige Idee von McEwan: Wenn Mensch und Maschine sich verbinden, wird es keine Romane mehr geben, denn man versteht sich perfekt. Ein anderer witziger Einfall ist, dass der Protagonist einen wilden Jungen von seinem genervten Vater geschenkt bekommt.
Wie bei allen neueren Werken zur KI wird auch hier das Herunterladen der Gedanken in ein anderes System angesprochen. Wo bleibt denn da die Individualität, fragen wir uns.
Alle neuen Bücher über Robotik sind immer noch romantisch in dem Sinne, dass sie eine Liebesgeschichte enthalten. Hier verliebt sich der Roboter, für den nach einmaligen Sex das Sehnen als zutiefst romantisches Element bleibt. Hat ein Roboter Gefühle, wenn er sich verliebt? Oder ist der ‘menschliche’ Roboter ist nichts als eine eine Urban Legend?

Klara and the Sun — Ishiguro’s first post-Nobel novel
— is an “AF”, or “artificial friend”, a robotic servant designed to be a companion for lonely children. 

A couple of days ago we finished Kazuo Ishiguro’s “Klara and the Sun“. It’s a mass-compatible novel, easy to read written from the perspective of Klara, an AF (artificial friend). You could read it as a love story that gets its dramatic drive when Josie, Klara’s owner, nearly dies. She is saved by Klara with the help of the sun. The oldest human cult and future worlds of machines are connected.
Another topic is (air) pollution. Klara fights against a machine, even destroys it but there is immediately a new machine doing the polluting job. As Winterson writes it too, the Luddite-like action doesn’t make any sense.
For us, this book is a post-modern development novel of a robot from being on display, purchased then until the death by sorting out. Besides near human robot Klara, we have robotic birds as well. Fitting for us is the language of Klara which is distanced and emotional at the same time. Klara learns very well to simulate emotions. She does it so well that she should replace her very ill owner, the girl Lucy, in case she dies. Emotions are seen as decoding subtle sign systems. They are described as rooms within rooms.
The problem of different classes is mentioned too. Those classes are determined by gen manipulation. As already in Romeo and Juliet the problem is a love between individuals that breaks social barriers. But here one doesn’t end up in lifelong longing but the way of life brings them undramatically apart.

Vor ein paar Tagen beendeten wir Kazuo Ishiguros “Klara und die Sonne. Der Roman ein massenkompatibles Buch, ein leicht zu lesender Roman, das aus der Ich-Perspektive des AFs (artifical friends) Klara geschrieben wurde. Man kann es als Liebesgeschichte lesen, die zum Spannungsaufbau ihre dramatischen Seiten hat z.B. als Josie, Klaras Besitzerin, fast stirbt und in gewisser Weise von Klara mit Hilfe der Sonne gerettet wird. Ältester Kult der Menschheit und modernste zukünftige Maschinenwelt werden hier miteinander verbunden.
Es geht auch um Umweltverschmutzung. Die einzelne verschmutzende Maschine ist zwar zerstörbar, aber es kommt sofort eine neue. Der Maschinensturm, der auch hier angesprochen wird, ist sinnlos.
Für uns scheint das Buch ein post-moderner Entwicklungsroman zu sein, der den Lebenslauf eines Roboters vom Kauf bis zum Tod durch Aussortieren beschreibt. Außer Maschinenmenschen treten auch Maschinenvögel auf. Interessant ist die distanzierte und doch emotionale Betrachtung der Welt durch Klara, die lernt, Emotionen zu simulieren. Sie ist so gut, dass sie das kranke Mädchen Josie, dessen Spielgefährtin sie ist, ersetzen soll, falls dieses stirbt. Emotionen werden als das Einlesen feinster Zeichen gesehen. Sie werden als Räume in Räumen beschrieben.
Das Problem unterschiedlicher Schichten wird angesprochen, die hier durch Genmanipulation bestimmt sind. Es geht wie schon bei Romeo und Julia um die Grenzen überschreitende Liebe, die soziale Schranken überwindet. Aber hier verzehrt man sich nicht im Sehnen, sondern man lebt sich auseinander.

In our talks after all that reading, Dina and our Master reassured us that we don’t need to be frightened of the advancing AI. It’s helpful when driving or editing photos f.e. That robots will become like humans will be in a future even you might not see. We know much too little how our brain is working that we could simulate this. But this is only one opinion shared by many scientists. On the other hand, Elon Musk is warning us that with the development of AI the biggest danger for humankind is evoked.
Are you afraid of AI?

Bei anschließenden Gesprächen versicherten uns Dina und Masterchen, dass wir uns nicht vor dem Vormarsch der KI fürchten müssen. Sie sei hilfreich, wie wir es z.B. beim Autofahren und der Bildbearbeitung erleben. Dass Roboter menschengleich werden, dafür wissen noch viel zu wenig über unser Gehirn, als dass wir es simulieren könnten. Diese Romane schildern eine Zukunft, von der es fraglich ist, ob wir sie noch erleben werden. Aber dies ist nur die eine Sicht, die viele Wissenschaftler vertreten, demgegenüber warnt Elon Musk schon seit einiger Zeit, dass mit der Entwicklung der KI die größte Gefahr für die Menschheit heraufbeschworen wird.
Habt ihr Angst vor der KI?

Happy reading
Dann wünschen wir euch allen viel Spaß beim Lesen

The Fab Four of Cley
🙂 🙂 🙂 🙂

P.S.
Meine deutschsprachigen Leser finden eine Rezension von “Dave”, das, wie wir finden, mit Abstand beste Buch über KI ist, auf unserem anderen Blog https://kbvollmarblog.wordpress.com/2021/04/26/dave-und-ki/

© Text and illustrations, Hanne Siebers and Klausbernd Vollmar, Cley next the Sea, 2021

162 thoughts

  1. I am not so afraid of AI taking over, at least not in my lifetime. But people like Elon Musk and Jeff Bezos might well succeed where robots fail! 🙂
    Love from Beetley, Pete (and a non-robotic) Ollie. X

    Liked by 5 people

    • Good morning, dear Pete,
      studying the ideas of scientists in that field we agree with you that we will not live together with intelligent robots in our lifetime. We can programme logic quite well but not everything beyond logic. Pascal-Moravec-hypothesis says that we can programme a machine to be intelligent as an adult (measured with an IQ-test) but with programming perception and mobility we are just at the very beginning.
      With love from the sunny coast
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 4 people

  2. I like this and enjoy thinking about the place of AI … I remember a talk by Yuval Noah Harari and the potential…it’s a wild world…thanks for this post and some titles to add to the pile 🤓📚fab four of cley ~ smiles hedy ☺️

    Liked by 5 people

    • Hi, dear Hedy,
      we are quite happy with AI in our car that makes driving much safer and more relaxed, Dina uses it to edit her pictures and even our washing machine is quite clever. We love this.
      Thanks for commenting.
      We wish you happy reading
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

  3. I think fictional A.I is more a way of exploring our humanity (or lack of it ). The robots always end up wanting to get rid of us in all the movies/TV I’ve seen and the books I’ve read. Can’t say I blame them 😉

    Liked by 4 people

  4. Liebe Fab Four,
    die Diskussion um Künstliche Intelligenz liegt mir nicht wirklich nahe. Mir reicht es schon, mit den Updates auf dem Computer zurecht zu kommen. Elon Mask ist als Prophet nach meiner Sicht eher kritisch zu betrachten. Für seine Auto-Fabrik wurde hier ein ganzer Wald abgeholzt. Manchmal brennt eines seiner Autos ab, und die Feuerwehr ist herausgefordert, die Batterien zu löschen. Möge er auf den Mars fliegen.
    Dahingehend empfinde ich wenig Bezug zu artifizieller Erotik. Das macht keine Lust.
    Was mir gefällt ist, ist wie Ihr miteinander lest und diskutiert und schreibt
    Euer Bernd

    Liked by 4 people

    • Leber Bernd,
      artifizielle Erotik und Lust – wahrscheinlich kommt es darauf an, wie man Lust definiert und wieweit die Robotik entwickelt ist.
      Naja, die Autofabrik von Musk schafft Arbeitsplätze und dafür ist man bereit Opfer zu bringen. Wir denken, jeder Fortschritt wird mit Opfern erkauft.
      Vielen Dank, dass du kommentierstest, obwohl das Thema dich eher nicht interessiert.
      Mit lieben Grüßen vom sonnigen Meer
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Lieber Klausbernd,
      hm, Deine Gedanken geben Anlass zum Bedenken. Was heisst artifiziell? Künstlich, künstlerisch, kunstvoll oder manch anderes?
      Im Hinblick auf Amouröses mochte ich gerne Ovids “Liebeskunst”.
      Viele Grüße
      Bernd

      Liked by 1 person

    • Lieber Bernd,
      Ovids “Liebeskunst” ist ja einprogrammierbar, wird auf Bestellung gemacht.
      Was heißt in Bezug auf AI künstlich? Eine Intelligenz, die kein biologisches Unterstützungssystem benötigt.
      Herzliche Grüße
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

  5. I would like AI to work much better than it usually does. Some of it is gee wiz and other is like “Don’t you get it?” The automated systems companies are using for phone support I find problematic and inflexible. Flexibility, may be the most difficult thing for AI to get a handle on.

    Liked by 3 people

    • Indeed, dear Timothy, it’s the flexibility that can’t be well programmed, at least not on our level of technology now. Spontaneity, flexibility and intuition as well as making mistakes are not yet programmable.
      Thanks for your comment.
      Wishing you a wonderful rest of the week
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

  6. They will take over, I’m sad to say, but insidiously and incrementally. It’s like that quote about fate and a storm–“Fate whispers to the warrior you can’t withstand the storm. The warrior whispers back I am the storm. ” Replace ‘warrior’ with ‘ai’ and you have our inimitable truth. I’m not afraid, though. It is what it is.

    Liked by 4 people

    • Dear Jacqui,
      nice quote. A lot of people don’t see that the intentions of an intelligent machine are still those of the people programming it.
      Our experience of AI is positive and you are right it will come anyway, it’s partly here already.
      Thanks and wishing you a wonderful weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

    • Dear Jacqui,
      we think a future with such machines run by AI will be quite helpful and funny – but unfortunately Dina and I will not experience it. Siri 🙂 and 🙂 Selma will. Well, every modern technology was seen by the conservatives and uninformed as negative, even desastrous in the beginning. But if I see my car for examples, it breaks faster than I do, knows the free parking spaces in the cities, parks in by itself better than I could do it, and finds where I want to go to. I suppose the big problem is that people who see AI negatively have only vague ideas what feelings are and therefore they idolise them. Talking about AI skeptics they immedeately argue with lacking feelings but we could see them as a problem which destroys clear thinking too.
      Anyway, we are looking forward for more AI or robots at least in house and garden and autonomous driving.
      Wishing you a happy weekend
      Kausbernd 🙂

      Liked by 3 people

  7. Here in the U.S., a lot of AI research is funded by DARPA, part of our enormous military establishment, and I’m sure we’re all looking forward to a future teeming with autonomous weapons. A government commission recently examined trends in developing AI weapons, to minimize human casualties. Developing these weapons is a moral imperative. One of the panel’s leaders declared that with a perfectly straight face, which shows an impressive level of self-control.

    Liked by 4 people

    • Dear Robert,
      every technology can be used positively and negatively. We have to learn to deal with it. It’s not so much the question of the machine but of the people programming and using it.
      Thanks a lot for commenting.
      Have a happy weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  8. Did any of the Fab Four see Blade Runner 2049? Ryan Gosling played a AI creation and did a good job of it. Not till the end did we know he was not a real human. I liked the film very much but it was long and although it got great reviews it did not get big audiences.

    Liked by 4 people

    • Dear David,
      it’s interesting that in all these books mythology and ancient cult are mentioned. Siri 🙂 and 🙂 Selma think that AI is a kind of modern cult.
      Wishing you all the best
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  9. Mir macht dies keine Angst. Doch, warum die Utopie nicht in Romanen Wirklichkeit werden zu lassen?
    Es stellt der Fantasie eine tolle Herausforderung. Mein Ding ist das aber nicht.
    Liebe Grüße,
    Edith

    Liked by 3 people

    • Liebe Edith,
      naja, die AI prägt ja bereits viele Bereiche unserer Welt. Sie wird kommen. Die Frage ist, wie wir damit umgehen werden und auf welche Algorithmen wir sie aufbauen. Wir finden das ein spannendes Tnema sowohl im Bereich der Fiktion aber auch in unserer realen Welt.
      Danke für Kommentieren. Ein angenehmes Wochenende
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  10. Ich empfehle Euch Isaak Asimov. Die Bücher „I, robot ( Ich, der Robot)“ von 1950, „earth is room enough (Geliebter Roboter)“ von 1957 und „the bicentennial man and other stories ( Der Zweihundertjährige)“ von 1976. Er formuliert darin die Roboter-Gesetze. Es reichen 3. Mich würde Eure Meinung dazu sehr interessieren. Btw. Die Filme sind Murks. Falls ihr sie gesehen habt, vorher aus der Erinnerung löschen.

    Liked by 3 people

    • Ja, diese Klassiker kennen wir – naja, wir lasen sie vor vielen Jahren. Uns ging es um AI in den neusten Romanen. Wir finden, Asimov war zu seiner Zeit sehr weitsichtig. Heute ist es viel einfacher über AI zu schreiben, da sie in vielen Bereichen bereits Wirklichkeit ist, was sie zu seiner Zeit noch nicht war.
      Wir lesen eh lieber, als dass wir Filme schauen.
      Mit herzlichen Grüßen vom sonnigen Meer
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  11. I like novels/stories about AI. They let us think about ourselves, what is important for us, what is the essence of being a human being… My most important question (as it is for animals) what kind of consciousness and feelings do(es) AI have or how does it feel to be an AI.

    Liked by 4 people

    • Dear Belana,
      we agree with you. The research about AI made Schrödinger think about “What is Life” and, of course, reading those three novels makes us think about what is human.
      We learned how much consciousness is depending on remembering your past. And that’s the problem, a robot has no past, no experience and therefore no consciousness – at least not yet.
      Thank you very much. All the best
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  12. Ihr Lieben in Cley, erst möchte ich euch ganz herzlich danken für die Anzahl sehr interessanter Bücher zur KI, die ihr hier vorstellt, so wird mein Sommer sicher nicht langweilig, sollte Covid weitergehen!
    Ich habe vor circa 1 Jahr einen japanischen Film zum Thema gesehen, in dem es um einen total einsamen Mann ging, der zur sexuellen Befriedigung eine “Roboterin” hatte und ich muss sagen, dass mich diese Situtation total traurig gemacht hat!
    In Kazuo Ishiguros “Klara und die Sonne“ würde mich das Umweltproblem ansprechen und bei Mc Ewan, kommt es mir als total glaubhaft rüber, dass Maschinen besser handeln würden als Menschen!! Entschuldigt, aber momentan habe ich in Sachen Vertauen in Menschen ein Problem!!
    Cari saluti

    Liked by 3 people

    • Guten Morgen, liebe Martina,
      naja, dass der Roboter ‘besser’ handelt als die Menschen ist auch menschengemacht. Er wurde so programmiert. Und die Frage stellt sich, ist die Wahrheit wirklich besser als die Lüge. Aber lies ‘mal selber. Uns haben diese Bücher viel zu denken gegeben. Übrigens mit Abstand der beste neuste Roman zu diesem Thema ist “Dave” von Raphaela Edelbauer. Wir haben ihn deswegen hier nicht genannt, da er (noch) nicht ins Englische übersetzt wurde. Vielleicht werde ich ihn auf unseren alten Blog rezensieren.
      Mit ganz lieben Grüßen vom sonnigen Meer
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Der Roboter kann wegen den von dir genannten Gründen nicht besser sein,
      lieber Klausbernd und Beraterinnen!! Wahrheit oder Lüge, sich vor Sehnsucht zerreissen oder sich aus Langeweile auseinanderleben, über diese Situation, die wir da am Entwickeln sind muss ich noch lange nachdenken und “Dave” lesen.:)
      Vielen Dank für all diese zum Nachdenken anregenden Gedanken.
      PS Zur Entspannung habe ich gerade Erdbeeren und einige Gemüse gepflanzt:)
      L.G.Martina

      Liked by 2 people

    • Liebe Martina,
      “Dave” zu lesen, lohnt sich wirklich.
      Erdbeeren pflanzen wir in unserem Garten nicht mehr, da es hier zu trocken ist. Sie werden hier zwar professionell angebaut aber nur mit künstlicher Bewässerung. Hier ist es so trocken, dass wir hauptsächlich Pflanzen haben, die nicht viel Wasser benötigen. Wir haben nun schon wieder fast 1500 ltr. Wasser aus unseren Wassertonnen verbraucht.
      Mit lieben Grüßen
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Ja, lieber Klausbernd, bedingungsloses Vertauen in die Technik scheint wirklich nicht eine so gute Idee zu sein!!
      Das mit dem Wasser und den Erbeeren ist mir neu. Wir hatten 3o Jahre lang dieselben Pflanzen, die wir eigentlich nie bewässert haben. Wir werden sehen, wie sich das Ganze entwickelt, denn bei uns ist es natürlich auch trocken, aber so wie bei euch, weiss ich nicht! Ganz lieben Dank für den Tipp:)
      Also dann einen schönen Regentag und liebe Grüsse
      Martina

      Liked by 2 people

    • Ja, danke, liebe Martina. Wir haben hier die blöde Mischung, dass wir in East Anglia nicht nur zu einem der trockensten Gebiete Europas gehören, sondern auch zu einem mit der höchste Sonenscheindauer. Das lieben viele Pflanzen gar nicht. Mitelmeerkräuter, Olivenbäume, Feigen und Palmen, die wir aber potthässlich finden, gedeihen hier gut.
      Schönes Wochende
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Liebe Martina,
      hier ist man eher gegen Tourismus, da nur sehr, sehr wenige davon leben. Unser Gewinn ist, dass dies die Grundstückspreise hochtreibt. Hier zählt man eher darauf, exklusiv touristenfrei zu sein. Das hat den Nachteil, dass wer hier lebt, der privatisiert, d.h. hier lebt die ältere Generation, die demnächst Roboter als Pflegekräfte benötigt.
      Übrigens Siri 🙂 und 🙂 Selma fragten kürzlich, ob wir nicht eine AF als lustige Spielkameradin für sie anschaffen könnte.
      Mit lieben Grüßen, feines Wochenende
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

  13. Danke für den gedanklichen Anstoss. Ich empfinde die Forschung nach dieser Intelligenz, die Forschung zu den Planeten als ganz normale Entwicklung der Menschheit. Das ist zwar kostspielig, für mich aber nicht so sehr zu fürchten. Was ich für die Zukunft der Menschheit aber doch fürchte ist der Mangel an Rohstoffen. Ich habe bereits ein Alter erreicht wo ich mich in Zukunft mehr mit den Bakterien im Bodenbereich unterhalten werde, aber man denkt ja an die, die weiterleben werden. Es war ja schon wieder ein paar Jahre her und ich Sandsammler war und bin, dass allein der Rohstoff Sand knapp ist. China sichert sich Sandabbau von Meeresstränden. China hat in den letzten 15 Jahren mehr Beton verbraucht, als in den USA seit Anbeginn. Nicht nur das Handy. Wenn man denkt wie die wachsende Menschheit mit wachsenden Städten und deren Infrastruktur Rohstoffe in aller Form brauchen werden, da werden sich die Kämpfe in den Sozialbereich verlagern, an deren Wurzeln wir heute schon stehen. Nein >>> der Frühling steht vor der Tür !!! Beste Grüße zu euch. Ernestus

    Liked by 4 people

    • Lieber Ernestus, guten Morgen,
      dieses Tema der Rohstoffknappheit wird in diesen Romanen nicht angesprochen, das würde sie wahrscheinlich auch zu leseunfreundlich machen. Das Problem was ist Intelligenz, was ist Leben etc. ist schon genügend für den Leser.
      Die Strukturen im Sozialen werden nur am Rande erwähnt. Sie werden durch genetische Manipulationen bestimmt.
      Mit lieben Grüßen von der sonnig warm frühlingshaften Küste
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  14. Also ich befinde mich in einem Biowiederanbindungsprogramm – und stehe dazu, AI kommt mir nicht in die Tasche.
    Das ist ja jetzt schlimm, was ihr schreibt, Buchfeen: wir wissen nicht genug über unsere Gehirne und wenn wir genug wissen, ist es gut für AI? – gütiger Himmel!!!
    Wo das noch hinführen kann!
    Gerade fällt mir ein Song ein ( zur Melodie von “Ich möchte ein Eisbär sein”, neue deutsche Welle, ihr wisst, ich hänge manchmal in der Vergangenheit..)
    Hier der Text: Ich möchte kein Cyborg sein im kalten Polar…Cyborgs können nicht weinen…
    Cool oder?
    In letzter Zeit erde ich mich viel barfuß im Gras neben meinem kleinen Apfelbäumchen, beobachte das Gewimmel von Käfern und Insekten – voll toll!
    Lesen ist auch prima – Danke für die Buchtipps!
    hach, ein w zu erde und dann heißt es werde!

    Herzliche Grüße nach Cley

    Liked by 2 people

    • Guten Morgen, liebe Pia,
      es geht ja weniger darum, dass wir Roboter werden, sondern wie wir mit intelligenten Robotern zuammen leben werden. Die Roboter als Helferlein für den Menschen. Wir haben nichts dagegen. Und dass die Roboter ein eigenes Bewusstsein entwickeln, davon sind wir noch weit entfernt. Wenn wir in ferner Zukunft genug über unser Gehirn wissen, dann werden auch die Roboter cleverer. Wir halten das für gut. Die Ablehnung von KI kommt meist aus Kreisen, die sich nicht mit diesem Thema auseinandergesetzt haben.
      Und zum Gefühl: was ist das denn? Das Einlesen subtiler Impulse oder ein Störprogamm im menschichen System? Zumindest unser Masterchen ist sehr skeptisch gegenüber Gefühlen. Sie sind meist konservativ, vorurteilsvoll und machen das Leben nicht leichter. Übrigens Psychologen können sich nicht dazu verführen lassen, Gefühl zu definieren (ähnlich wie Intelligenz).
      Mit lieben Grüßen von Norfolks sonnig warmer Küste
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Ja, Danke, interessant, was du schreibst!
      Beim Einbiegen zur Tanzschule ist mir ein großer weißer Laster entgegengekommen; da stand groß “Eisbär” drauf…und irgendwas mit Cool, ich musste soooo lachen….
      Zum Glück konnte ich noch an die Vorfahrtsregeln denken, ich war ja Linksabbieger!
      Ok, dann warte ich mal ab, was die Gehirnforscher so forschen und hoffe weiter auf Intelligenz!
      …und überlege weiter wie ich vielleicht der kleinen Emma helfen könnte, die den ganzen Tag Computer spielt und extrem unruhig und zappelig ist beim Zoom-Tanzen und deshalb kaum etwas vom Unterricht mitbekommt…
      Alles Liebe wünscht Pia

      Liked by 2 people

    • Liebe Pia,
      das Problem sprach Otto hier an. Wichtig ist, dass wir ein Bewusstsein dafür bekommen, wie wir AI für uns sinnvoll benutzen. Sie ist ja schon da, aber die meisten von uns sind völlig unvorbereitet, wie sie damit umgehen können. Dazu bedarf es eine Art Ausbildung, nehmen wir an.
      Liebe Grüße von uns allen
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Bin kein Fan von too much emotion, keineswegs!!! Schon gar nicht als Rechtfertigung von Handlungen und/oder “Denken”, das erscheint mir alles andere als intelligent zu sein, zu viel auf Emotion zu setzen…
      Es hilft mir, mir meine Gefühle und Empfindungen bewusst zu machen und meine Entscheidungen erst dann zu treffen, wenn die Emotionen mich nicht im Griff haben…
      Mir schwant manchmal etwas, so habe ich bereits 2011 Atemschutzmasken in meinen Keller gelegt, bestimmt wäre AI auch darauf gekommen, dass die gebraucht werden, oder auch nicht, who knows…
      Seit 3 Tagen steht auf dem Balkon meiner Nachbarin eine polizeiliche Überwachungskamera für den Schillerplatz, war 20 Jahre lang nicht nötig? Jetzt schon?
      Das alles gibt mir zu denken, aber ansonsten tanzen wir hier fortschrittlich weiter, schon immer eigentlich, fortschrittlich, manchmal auch im Kreis herum, zickzack oder rückwärts…
      Habt noch einen wunderschönen Tag!!!
      P:S morgen habe ich ein Seminar, wie man ordentliche Videos dreht und den Kunden anbieten kann, sehr cool, organisiert vom Tanzverband

      Liked by 2 people

    • Liee Pia,
      viel Freude, Einsichten und Anregunen bei deinem Seminar.
      Die Überwachung – da haben wohl die Kamerahersteller gute Lobbyisten gehabt.
      Mit lieben Grüßen
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Ich kenne einen coolen Dave, the Farmer, Musiker, wohnt in (Bona)Ventura, Kalifornia, habe ich zufällig kennengelernt – ja wäre schön, wenn wir nur diese und so viele Roboter erschaffen würden, die die Menschen brauchen. Und auch klar, dass man sich ausbilden muss, wenn man verstehen will, welche Möglichkeiten AI hat und von denen benutzt wird, die sich auskennen!
      Schade, dass es keine Gebrauchsanweisung für Gehirn gibt – oder gibt´s?
      Ein Vortrag eines Zukunftsforschers, der mir kürzlich erklärte, dass ich wohl bescheuert sei, wenn ich das Problem morgens vorm Kleiderschrank zu stehen und mich selbst entscheiden müsste, was ich anziehe, wo doch eine KI das für mich viel besser könne…also, dass ich dieses unglaublich schreckliche Problem immer noch haben will – zeigt, dass ich gar nichts verstanden habe….

      Liked by 1 person

    • Liebe Pia,
      zum Kleiderproblem: Einige äußerst kreativ kluge Menschen wie Einstein und Hitchcock trugen stets das gleiche. Als Einstein gefragt wurden warum denn, meinte er, er habe Besseres zu tun, als sich über seine Garderobe Gedanken zu machen.
      Da hat der Zukunftsforscher wohl recht, die geeignete Garderobe zu finden, kann man ruhig einem Roboter überlassen.
      Liebe Grüße von uns allen
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Das was mir diese Ki alles zum Anziehen empfehlen würde, braucht kein Mensch – gehe wieder allein vorm Bildschirm herumhopsen, tschüüüühü0

      ….und wenn hier keine Menschen mehr um mich herum sein dürfen und mich morgens nur noch mein Kleiderschrank freundlich begrüßt, weiß ich nicht…dann würde ich mich, glaube ich, versuchen im Wald zu verstecken….solange es geht….
      Aber besser man stellt sich gefühlsmäßig nicht so an…und kreiert etwas Schönes!!! Solange es geht….

      Liked by 1 person

    • Liebe Pia,
      wir glauben eher, dass mit KI vieles einacher und teils auch unterhaltsamer wird. KI wird sicher das genau Passende am Morgen dir präsentieren. Es wird es wahrscheinlich besser und schneller aussuchen, als du es könntest. Wir hätten nichts gegen Hilfsroboter hier. Das wäre sicher lustig. Aber wir werden das wahrscheinlich nicht mehr erleben, naja, wir Buchfeen vielleicht doch, aber nicht Dinalein und Masterchen.
      Liebe Grüße, schönes Wochenende
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Beruhigend, dass es dann noch die Buchfeen geben wird…gerade ist Pause beim Digital-Seminar, leider wird meine Einstellung nicht besser, mir ist jetzt richtig schlecht!!!
      Waaaaaald….
      Der Zukunftsforscher sollte meiner Meinung nach unter Beobachtung gehalten werden…für den bin ich ein Objekt seiner kranken Ideen, befürchte ich…was ich natürlich nicht bin und nicht tolerieren werde!
      Wenn mein Kleiderschrank irgendwann besser weiß, wie es mir geht als ich, dann ist so ein Punkt erreicht, ich weiß nicht, aber falls er dann bereits Mitgefühl entwickelt hat, wird er sehr leiden…
      Happy Weekend wünscht euch eure Pia

      Liked by 1 person

    • Liebe Pia,
      hätte ich einen AB (artificial butler) wüsste der hoffentlich viel besser und schneller als ich, was gut für mich ist. Ich finde das super. Solch eine Maschine würde ich sofort ausprobieren und wahrscheinlich kaufen.
      Mit lieben Grüßen vom Meer
      Klausbernd 🙂

      Like

    • Naja, er braucht zumindest einen robotic Schutzengel. Wenn’s bei “Klara und die Sonne” robotic Vögel gibt, dann gibt es auch sicher robotic Schutzengel.

      Like

  15. Über Dave hast du gar nichts geschrieben, Klausbernd?
    Nein, ich habe keine Angst vor KI’s.
    Am meisten stimme ich euch zu, dass unser Gehirn noch viel zu wenig erforscht ist. Ich würde mich sehr freuen, wenn es in dieser Richtung in der Forschung weitergehen würde. Ich erinnere mich dunkel, das Obama finanzielle Mittel für die Forschung rund um das Gehirn zur Verfügung stellte.
    Tja…. warum werden die Bücher über KI’s immer mit der Liebe verknüpft? Vielleicht haben die Autor_innen Angst, dass ihre Romane sonst nicht gelesen werden?
    Wir bekommen gleich Besuch von der jungen Familie, Michas Sohn, Frau und Baby wollen uns besuchen. Da freue ich mich sehr und werde mich erstmal vom Bildschirm verabschieden.
    Liebe Grüße an euch im fernen Cley 🙂 aus dem Norden Berlins von
    Susanne und dem Micha

    Liked by 3 people

    • Liebe Susanne,
      “Dave” ist mit Abstand der beste Roman über KI, aber ich erwähnte ihn nicht, da er (noch) nicht ins Englische übersetzt wurde. Weil leicht über die Hälfte unserer Besucher englischsprachig sind, haben wir “Dave” nicht erwähnt. Aber wir erwägen, den Roman auf unserem alten Blog zu rezensieren – er hat es verdient.
      Ich denke mir, dass die Liebe in Romanen über AI vorkommt, geht letztlich zu den Anfängen dieses Genres in der Romantik mit Mary Shelleys “Frankenstein” zurück. Eigentlich haben wir es auch schon in Goethes “Faust” mit Wagners Homunculus, aber das ist nur ein kurzlebig, isoliertes Wesen. Interessant ist für die Robotik, welche Rolle spielt das Gefühl und sollte es simuliert werden.
      Wir wünschen euch viel Spaß mit eurem Besuch.
      Vom der sonnig warmen Küste Norfoks nach Berlin senden wir liebe Grüße
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Lieber Klausbernd,
      dann verstehe ich, warum du Dave “noch” nicht besprochen hast.
      Hier in Berlin scheint die Sonne, Micha und ich werden uns gleich testen lassen, damit wir Blumenkästen kaufen gehen können. Das Testzentrum ist gleich um die Ecke und wir haben gestern noch einen Termin für heute 8 Uhr erhalten.
      Einen sonnigen Tag von Susanne

      Liked by 2 people

    • Liebe Susanne,
      oh dear, diese Woche ist einiges los bei uns. Ich habe eine einstündige Sendung im Schweizer TV, was immer viel Zeit kostet, dann hole ich mir meine zweite Impfung ab und, das ist das aufwändigste, dann müssen wir über tausend Bücher sortieren, die wir für die Book Fair bekamen, die wir fürs Dorf durchführen.
      Wir wünschen euch frohe Bepflanzung eurer Blumenkästen.
      Eine wunderbare Woche wünschen wir euch
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Danke, lieber Klausbernd, gerade haben wir alles abgedeckt, weil diese Nacht Frost erwartet wird. Das wird den Pflanzen gut tun. Morgen gibt es nochmals Frost und dann sollte es durch sein……
      Liebe Grüße von Susanne

      Liked by 2 people

    • Liebe Susanne,
      wir hatten einige Tage Frost bis minus 4 Grad C bis vor einigen Tagen. Unser Pflanzen konnten das gut ab. Am Tag war es allerdings sonnig bis fast 20 Grad C.
      Mit lieben Grüßen vom Meer
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  16. AI raises a lot of interesting questions, both ethically and politically as well as in other areas. Personally, I am not afraid of AI, but I think we need to have a conscious attitude towards it so it doesn’t end up becoming something we lose control of. Saying that, I don’t believe it will be robots or anything like that, that will fight us human beings, but rather controlling us in ways we don’t really want. Already the cell phone, is controlling life for too many people, for instance. I also think what Yuval Noah Harari writes in Homo Deus, that AI will more quickly and more efficiently be able to foresee our interests and behaviour, isn’t necessarily to our benefit (and mentioning Harari I have lots of opjections to what he writes). Just look at Facebook and it’s algorithms. As for the books you mentioned, I still haven’t read anything by Kazuo Ishiguro. He is on my list of books/authors to read.

    Liked by 4 people

    • Good afternoon, dear Otto,
      we absolutely agree we have to develop a consciousness of how we deal with AI. We don’t think that we will live with robots in the near future but, as you write, AI will more subtle determine our lives. We have to be aware of it, of how we use certain algorithms and how we don’t get hooked or too fascinated on devices using AI. In the end, there are always humans programming the machine. Besides all the scepticism AI can be very helpful.
      Ishiguro’s novel is the most elegantly written of these three novels. It’s easy to read. By the way, Ishiguro like McEwan studied both at the famous Norwich institute for creative writing. Norwich is our next city.
      Thanks for commenting. Wishing you a happy weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

  17. Fab Four of Cley,
    Thank you for all the book reviews here in this post. Siri and Selma are living up to their Bookfayre title. With such intelligent parents, I am not surprised. This is a wonderful post and I have put 2 of the books on my reading list, because the last AI book I read was “I, Robot”.
    Everyone here is fine and checking our air conditioning, getting ready for the summer heat. We received both our Covid shots to add to the relief.
    I hope you are all well and still staying safe.
    GP Cox

    Liked by 4 people

    • Dear GP Cox,
      thanks a lot for commenting. Well, if it would be for our dear Bookfayries we would mostly write book reviews here. But it’s not that easy getting ideas on how to present reviews with interesting pictures that our dear Dina is interested in.
      We will get our second Covid shot in a couple of days. Here we have nearly summer too but not really as it is quite warm and sunny a daytime but still freezing at the nights.
      We are very well and we feel safe as in our county the incident rate was 5 in the last couple of weeks.
      We wish you all the best, keep well, healthy and happy.
      Have a wonderful weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

    • Klausbernd,
      Thank you for such a response. I am very happy you will be getting your second shot soon. We had a short reaction, low grade temperature and sleepiness, but nothing that wasn’t bearable. “Easy-peasy” as they say.
      Enjoy your Springtime!
      GP Cox 😀😉😊

      Liked by 2 people

  18. An interesting topic, my dear friends. I’m not afraid of AI.
    My nephew will soon finish his Master in Artificial Intelligence and Cybersecurity (AIC) , a two-year programme were the objective of this programme is to train computer engineers with a specialisation in Artificial Intelligence and Cybersecurity.
    Some of Norway’s biggest companies and research institutes got together a few year ago to build competence in artificial intelligence. Big names in Norwegian business like Telenor, DNB and Kongsberg joined forces with Trondheim-based research powerhouses NTNU and SINTEF to seek out opportunities in AI and reduce the reliance on oil revenues.
    The group of investors also included energy giant Equinor (formerly Statoil) and the global classification agency DNV GL. The first step in a collaborative approach was to establish the joint venture enterprise Norwegian Open AI Lab (NOAIL), which will develop expertise and technologies for use in Norway and for export potential.
    I’m sure Dina-Hanne is happily using AI when editing her photos today.

    Thanks for the book reviews, I have Ishiguro and McEwan on my list now and will report back to you.
    Have you had your second jabs yet?
    Klem
    Per Magnus

    Liked by 5 people

    • Dear Per Magnus,
      interesting that Norway invests a lot in AI research. We suppose that’s wise because that’s the future. Wow, all the big Norwegian companies are engaged in this research that’s especially extraordinary for such a small country. On the other hand, Norway is top in using modern tec f.e. e-cars.
      We wish you happy reading.
      Thanks for commenting
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Like

  19. My dear friends, I’m not afraid of AI. It’s a vital part of our lives. What I find interesting, is that after 60 years of AI, it turns out that teaching Artificial Intelligence to win a chess match is actually quite easy and the big challenge is to teach the machines emotions.
    We are still many years behind having an Artificial General Intelligence capable of replicating every action we can perform, especially those qualities which we consider most human, such as emotions. Emotions are inherently difficult to read and there is often a disconnect between what people say they feel and what they actually feel. A machine may never get to this level of understanding but who is to say how we process emotions is the only way. Intriguing, isn’t it? How we interpret each other’s emotions is full of bias and opinion, so maybe AI can help us get straight to the point when it comes to our emotions.
    Sorry for being so short, I must prepare for my next lecture.
    Kram
    Annalena Xx

    Liked by 5 people

    • Dear Annalena,
      the big question is what emotions are. Since the age of Romanticism we kind of worship emotions without really knowing what they are. Of course, as long as we don’t know what emotions are we can’t program them. Maybe emotions are a disruptive factor, a kind of mistake, in our human system? On the other hand, in McEwan’s novel undisturbed logic without emotions brings disaster.
      It all depends on how we want to design our future. Are emotions the ‘holy calf’ of our time?
      Thanks for commenting.
      KRAM
      XXX
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Thank you very much for commentig.
      We are interested how AI is reflected in literature. The technical implications are not so much of our interest. We were asked several times if this literature is preparing us for the future. Actually, we think we need such a preparation. Naivity is not the best of tactics when confronated with new technologies.
      We like the title of your text. We’ll have a look at it a bit later.
      Have a happy weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Now I have read your post about AI.
      Every modern technology was met with scepticism at the beginning and it could be misused. But we can’t go back to a time without technologies. I would not like to live in the time of the Flint Stones, not even during the middle ages. We have to be prepared to use this technology and then it will become a normal part of our life. And manipulation takes place all the time without and with modern technologies.
      Thanks for your input. It is very much appreciated.
      All the best
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Dear Dave,
      this genre was already touched in Goethe’s “Faust” where we meet Wagner’s Homunculus and then in the age of Romanticism with Shelley’s “Frankenstein” and later the Russian classics of Asimov and the American Heinlein f.e. But we are not really specialists about AI literatur accept the newest one all by authors who studied creative writing just around the corner in our nearest city.
      Thanks for commenting. Wishing you a wonderful week
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

    • Excellent point! I guess works such as E.T.A. Hoffmann’s “The Sandman,” Mary Shelley’s “Frankenstein,” and Isaac Asimov’s “I, Robot” weren’t called AI literature per se, but they certainly featured robots and other “artificially” created life forms — and wrestled with what it means to be human.

      Have a great weekend and week, too!

      Liked by 3 people

    • Dear Dave,
      thanks for mentioning E.T.A. Hoffmann he is one of our favourite authors.
      During the age of Romanticism, we had the industrial revolution. That means nearly everyone was confronted with machines. The workers hated them but they were helpful to increase the profits of their owners. We still have this attitude, even in these comments here, you either hate or at least fear the robots or you see them as the helpers for the humans.
      Wishing you a great weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • So true that the Industrial Revolution — indeed mostly hated by the working class of the 18th and 19th centuries — ingrained the thought of machines deep in the minds of many, including authors of the time! And, yes, Hoffmann was a stunning, memorable writer.

      Liked by 1 person

  20. Interessante Bücher-Vorstellung 🙂 Danke euch 🙏
    Für einen naturwissenschaftlich interessierten Menschen wie mich ist das eine faszinierende Vorstellung – es gibt so viele Möglichkeiten, wie KI eingesetzt werden kann.
    Angst macht mir dir Vorstellung keine – eigentlich 🤔
    Denn eine KI ist nur so gut, wie der Mensch, der sie steuert. Und genau das ist das Problem. Wer wird die Fäden in der Hand behalten?
    Das erinnert mich an den Roman von Andreas Eschbach ‘Der Letzte seiner Art’; bei dem es um den Überlebenden eines militärischen Experiments geht. Mit Hilfe von Implantaten besitzt er besondere Fähigkeiten. Weil er der letzte lebende ‘Zeuge’ dieses Projekts ist, wird er vom Militär gejagt.
    Das Thema geht hier mehr in Transhumanismus – aber es zeigt eben auch, dass man mit Hilfe von Implantaten Gutes und Schlechtes erreichen kann.
    Liebe Grüße
    Sabine vom 🕷 🕸

    Liked by 2 people

    • Liebe Sabine,
      wir geben dir völlig recht. Der Roboter, die KI, wird nach unseren jetzigen Möglichkeiten nur so gut oder schlecht sein und bleiben wie ihre Programmierer. Es ist nicht absehbar, dass sie sich verselbstständigt in eine eigene Richtung weiter entwickelt.
      Wir finden auch die Möglichkeiten, wie man KI einsetzen kann und wie sie ja auch bereits z.Zt. eingesetzt wird, enorm.
      Obwohl wir vielleicht hier eher als geisteswissenschaftlich herüberkommen, sind wir jedoch nicht nur naturwissenschaftlich interessiert, sondern haben auch eine gediegene naturwissenschaftliche Ausbildung. Vielleicht hilft das, KI eher positiv zu beurteilen.
      Habe Dank für deinen Kommentar.
      Wir wünschen dir ein wunderbares Wochenende
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Like

  21. A wonderful post, Klausbernd – and I enjoyed the brilliant discussions that came out of your book reviews. What I find most fascinating is that that the first thoughts that came out in many of the responses was “I am not afraid of AI!” From my readings, there is considerable amount of fear that relates to to AI, which is embedded in films such as 2001: A Space Odyssey (Love Hal’s voice), The Terminator, Minority Report, and A.I. Artificial Intelligence just to name a few. When we discuss AI, we need to look at definitions because there is a variety of AI already in use. I would suggest that AI will evolve gradually, but implacably. It all comes down to the unknown and whether we will create a life form that exceeds our strength and brain functions. But as you said, rightly, that is far in the future, if ever. People who are retired do not need to be worried about job loss, but young people fear unemployment. I read a recent Forbes article that stated that the AI technology currently in place could take over 80% of jobs of delivery drivers, cab drivers a and many aspect of supply chain, logistics and manufacturing. But here again, AI isn’t the only advanced technology that is replacing jobs. Other fears are the control of information. AI relies on data – which, at this point, is rather unorganized but is making good progress becoming organized. The last thought goes to human evolvement, emotional context and the idea of belonging. But I digress – this is a great conversation. Thank you so much for sharing your knowledge and experience, Klausbernd. Sending much love and many hugs to my dear friends, The Fab Four of Cley.

    Liked by 3 people

    • Good morning, our dear friend Rebecca,
      we suppose that a lot of people fear AI – like every modern technology – because they got problems f.e. with their computer, with up-dates, with installing programmes etc. and they see modern technology as an ununderstandable enemy. So they see it, mostly subconsciously, as an own being, something they fear because they don’t understand. So the first automatic looms were seen and fought against. And so nowadays people argue against AI because they don’t understand it and are afraid to lose their job. There are new jobs created but you need other skills doing them. We had this situation in Germany when taking over East Germany. A lot of people had skills that were of no use in the west. In a way, our jobs are changing all the time anyhow. Who is not flexible is out.
      On the other hand, AI is and can be highly useful in many areas.
      Defining AI is not that easy. One could say it’s intelligence without a biological support system. But what is intelligence? This is a basic question since the beginning of modern psychology. One answer most scientific psychologists agree on is that intelligence is what the IQ test is measuring. This applies to humans as well as to robots. As you write, AI will evolve gradually. We are just at the beginning of this development. It is in our hands where it goes to. But the technophobe people will surely not create a desirable future.
      AI in film and in the old AI literature is nearly always seen as negative. We would say that better for the drama. Helpful robots wouldn’t sell as films or books. In this respect, those three books we choose are of a new quality. It’s not the boring ‘robots take over the world’ but it’s humans living with robots. That’s a new quality and a direction in our thinking about machines.
      With love ❤ and hugs 🤗
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

    • Is agree wholeheartedly, Klausbernd. It is about humans living with robots. Looking to the past offers us evidence that progress gives us many more opportunities. AI is part of our lives now and will only increase in intensity and efficacy. Voice assistants, smartphones, social media feeds, product and music recommendations, maps and directions, spam filters – even customer support are available. This is only the beginning. AI will be in our cars, our homes (stoves, fridges, temperature settings, lighting) , our hospitals. I am now looking at my connection with AI and how I can express my humanity in ways that intergrate the advancements of AI. Thank you for an excellent conversation!

      Liked by 2 people

    • Dear Rebecca,
      it just came into my mind, one of the fields where AI is used are artificial limbs and joints. This is a field where AI is very helpful, isn’t it?
      Have a happy weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Dear Rebecca,
      we just got up and preparing a great breakfast.
      Yesterday night we saw the classic AI film “Blade Runner 2049”. We hadn’t seen it before. Now we are struggling how to understand it.
      Wishing you a wonderful Sunday
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 3 people

    • We saw Blade Runner 2049 and struggled to understand it as well, even though we had seen the original Blade Runner in 1982. While the 1982 Bladerunner was not fully appreciated when it first came out, it has, as you know, since become a cult film. I remember the day that we saw the film, which prompted thoughts and questions on life, creation, aging, and dying. The movie envisioned the year 2019, almost 30 years in the future from where we were in 1982. And here we are now in 2021, far from the reality of Bladerunner 1982. Our imaginations can only see possibilities of the future, not the full outcomes. And that gives me great comfort for the future is fluid, not static or fixed. Sending warm wishes for Sunday to my dear friends, The Fab Four of Cley.

      Liked by 1 person

  22. I read your post with great interest this week Fab Four. Back about 40 years ago when I was just starting out in the technology business, a very smart MIT grad who worked in another office recruited me to leave our company and join him in a new start-up focused on development of AI technology. I was enjoying my role in the company I worked for, and as a “newbie” felt I had much to learn about what was currently in use before I could jump to something as yet unexplored. I declined his offer and sadly the company he founded never took off, while my company, Cisco Systems, became an industry leader providing me with fabulous opportunities. I lost track of my friend but have followed the growing AI arena ever since. One of the reasons I think it’s been slow to really take off is that most humans simply don’t trust it. Call me old-fashioned but I know WAY too much about technology and it’s shortcomings to ever trust a car to drive itself for example. There are bugs in every piece of software and IMHO glitches occur more frequently as sophistication increases. We’ve come a VERY long way but are not there yet. Of course, I never believed people would buy a computer in a retail store so that shows you how forward-thinking I am LOL. Thanks for the fond memory and the interesting reads!

    Liked by 4 people

    • Good afternoon, dear Tina,
      thank you very much for your interesting comment.
      We agree every technology has its glitches and bugs in the beginning, nevertheless, in the long run, most if not all these glitches and bugs will be deleted. We drive a partly autonomous car and we have to say we trust it more than ourselves especially in dangerous situations. It reacts indeed faster than we are able to.
      That high tec comes with bugs and glitches is rather an economical problem than one of the technology. Companies sell products that are not well tested before. They save the money of testing by letting their customers do it for free, f.e. Microsoft is famous for this attitude f.e.
      We trust our car to drive us safely, we trust our washing machine to choose the right programme and Dina trusts AI to edit her pictures. We ask ourselves why do a lot of people react that negatively towards AI although they are happy to use it in their everyday life.
      Wishing you a great weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Like

    • It’s true Klausbernd, I enjoy the benefits of AI in areas where a problem or glitch would not become a catastrophe 😊. But I am all too familiar because of my systems background with the fact that it is impossible to find all of the issues in software until it is being widely used in a variety of scenarios. Testing simply cannot find all of the problems no matter how thorough the pre-release testing is. I suppose on this one we shall just have to agree to disagree!

      Liked by 2 people

  23. Ich habe ein Buch zu alpha zero. Leider nicht gelesen, da zu viele Bücher.
    Ai könnte gefährlich werden, wenn man nicht die findger drauf hat.
    Bei alpha zero hat man ja auch keine Ahnung, also keinen Code, der den Entscheidungen zugrunde lag.
    Gerhard

    Liked by 2 people

    • Hi, Manja,
      thanks a lot.
      In a way, we are already surrounded by robotic: cars, washing and other household machines, certain editing programs etc. You want to give it try with a ‘real’ robot as in literature? We would love that as well. Siri 🙂 and 🙂 Selma would love to have an AF and Dina and our Master an AB (artificial butler).
      Have a happy weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

  24. AI and machine learning have already led to many advancements in the health sector. I think health care is one of the most important areas that AI should focus on. The cancer detection process is more accurate and faster today, thanks to the tools and techniques in the scope of AI. in this respect AI makes things better. Let it make life better. All retail stores use AI to improve their service, Amazon uses it to predict what I will buy and of course I do, prime video knows what I might want to watch next and WordPress uses several AI plugins to enhance our content. It’s probably a lot of AI behind the Gutenberg editor – which I don’t like, it’s too automated. When I use my camera I always go for the manual mode to be in full control. I would compare the classic editor to the manual mode on the camera and the Gutenberg editor is more like an automatic mode, already set and programmed.
    Enough, we don’t have a robotic lawn mower so I’m off to the garden now. 🙂

    Liked by 1 person

    • Dear Dina,
      thanks a lot for commenting.
      Indeed, in medicine AI is very helpful and isn’t it pity that we don’t have a robotic lawn mower?
      With love ❤ and xxx
      Klausbernd, Siri 🙂 and 🙂 Selma

      Liked by 1 person

  25. Humans need a great deal of help, especially with repetitive tasks.
    If AI offers that help then it is a worthwhile pursuit.
    Computers have been that kind of help (in a small way) for quite a while.
    Linking computers with machinery creates amazing devices.
    A stimulating post concerning a fascinating subject, thank you friends! Eddie

    Liked by 1 person

    • Thank you very much, dear Eddie.
      Especially in all logical-mathematical processes, AI can be and already is a great help for humans.
      Wishing you a wonderful week to come
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

    • Thank you for sharing RRR with your readers. I’m looking forward to featuring many of your posts. I love looking back in the archives of your posts! Sending many hugs and love to my dear friends, The Fab Four of Cley!

      Liked by 2 people

    • Thank you VERY much, dear Rebecca 🙏 🙏
      Wishing you a great week. We are exceptionally busy this week. Masterchen appears in the Swiss TV life, he gets his second jab, and we are busy sorting out books we got donated for the book fair we run for our village.
      With lots of love ❤ ❤ ❤
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  26. Pingback: „DAVE“ und KI | kbvollmarblog

    • Dear Lavinia,
      that will be, if ever, in the far future.
      If you read German you find the problems of human-like AI in our review of “Dave” by Raphaela Edelbauer. It’s the best novel about AI we know. The Austrian author is very knowledgeable in philosophy and science. Unfortunately, this book isn’t translated yet. Have a look here

      “DAVE” und KI


      Thanks for your comment.
      Have a happy week
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Dear Lavinia,
      we are quite sure that this book will be translated soon as it is very much praised (well, some reviewers find it too hard to read).
      Wishing you a happy week
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Like

  27. Kurz überlegt… KI querte meine Gedanken vor Jahrzehnten, parallel dazu die neuronalen Netze, die längst unser Leben beherrschen. Keiner befasst sich mit besonderer Aufmerksamkeit, obwohl das Künstliche beruflich wie privat uns durchdringt. 1984?

    Grüßle aus Augsburg von Heidrun

    Liked by 2 people

    • Liebe Heidrun,
      habe herzlichen Dank für deinen Kommentar.
      Klar, AI ist überall in unserem Leben und ja auch meistens äußerst hilfreich. Wir fahren z.B. ein ‘intelligentes’ Auto, was äußerst angenehm ist, unsere Waschmaschine findet das geeignete Programm selbsttätig und z.B. die Bildbearbeitungsprogramme arbeiten auch mit AI wie auch Kameras. Besonders ist sie hilfreich bei künstlichen Gliedern und überhaupt in der Medizintechnologie. AI bekommt deswegen seit einiger Zeit viel Aufmerksamkeit besonders die selbstlernenden Algorithmen.
      Wie bei allen (neuen) Technologien kommt es darauf an, wie der Mensch sie benutzt.
      Mit herzlichen Grüßen vom sonnigen Meer in Brechts Geburtsort
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

  28. Interesting post. I can’t imagine AI taking over or competing with humans as I can’t see how they have the human facility to form conclusions based on each individual trait. One person, given the same genes and upbringing may form a conclusion completely different to that expressed by a similar human. We are all unique. Even identical twins have some unique characteristics or way of thinking based on their life experiences.

    AI can only be what the humans who originally programmed it for. If humans died out completely, then, I could imagine an AI programming for all AI (or Robots).

    I have a set of identical twins who were my Mother’s cousins. They lived together, wore the same clothes, went out together to the same restaurant every Friday, sitting in the same chair, with the same order, the same cutlery, insisting on the same waiter and so on. They lived and breathed for each other so to speak. When one collapsed and died, the other twin died a short time later (20 minutes or something I believe – I have the newspaper articles somewhere on my bookshelf).

    They were famous in Hobart, Tasmania and a testament to how close identical twins can be. But they also had a few differences, so AI could never have predicted their actions or roles in society and form exactly the same conclusions.

    How often do we change our minds a second before going out or doing a sequence of tasks? That change of actions would be totally unpredictable for AI.

    Liked by 1 person

    • Dear Vicki,
      there are probably hundreds if not thousands of researches done with twins. How to explain the facts is quite dependent on your ideological background. The more romantic and conservative orientated researchers stress that people are unique the others stress more that we overestimate our individuality, we are all alike as we are a product of the same influences. Seen ourselves as products of our surroundings we all a sum of factors programmed in a model. But that needs amazing computer power. The problem is getting all the factors and especially about how our brain is processing information and combines them. Nowadays we don’t know enough about our brain structure. We suppose it will take about 50 years until we can build a perfect model of our working brain. We have to program that. But when this is programmed the machine will learn and develop without our doing.
      One of the problems we can’t solve right now is mistakes. It’s human to make mistakes and being subjective. We have to understand those failures better to be able to use them in a programme. We have to understand why we change our mind f.e. We think in a very long run that’s possible. But non of the readers here will witness this.
      Thank you very much for your comment.
      Wishing you a wonderful week
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

  29. We just had this discussion at dinner last night, with my son and his girlfriend. I have some worry but I tend to think that climate (and as someone said last night, the possibility of nuclear annihilation) is a bigger issue, so by the time Ai is advanced enough to be truly dangerous, we may not have much of a world left anyway. Cheerful stuff! 😉 But it’s good to give some thought to these things – thanks for all the book reviews.

    Liked by 2 people

    • Dear Lynn,
      we think a climate catastrophe is likely to happen in the near future but we don’t think that this will be the end of us all. So our children or grandchildren will experience advanced AI. Maybe they will live together with intelligent robots like in “Klara and the Sun”?
      Thank you very much.
      All the best
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

  30. Did you see Humans on C4 it was based on the Swedish sci-fi drama Real Humans? I enjoyed the program. I don’t like the idea of drones filling our skies doing deliveries but I guess commercially that will be next. I see the basic AI mini lawn mowers and vacuum cleaners but they don’t get in the corners lol and they are so expensive still. Actual robots looking after us hmmm, in the program the primary use of robots was to look after children and the elderly, I need, as you did to read more about this.

    Liked by 1 person

    • Dear Charlotte,
      in the literature these intelligent robots look after children or for fulfilling the needs of the elderly or handicapped. That will probably be the first step in a closer living together of robots and people.
      Automatic driving, drone deliveries and the itelligent house will surely come, quite soon I suppose.
      Unfortunately we didn’t see this film but we’ll look tonight if we can find it in the net. Thanks for this hint.
      Wishing you an easy week
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

  31. Two things, Machines Like Me sounds interesting and “We are interested to know if robots will take over our world…. He thinks AI will threaten neither mankind nor us fairies soon.” Master needs to google youtube vids of Boston Dynamics Dog. I find the robots terrifying. Faerie folk should not watch.

    Liked by 2 people

    • The problem with robots is that they can think logically only whereas people don’t. The problem is not so much the robotics but that we don’t know enough about the processing of information in our brains. Our dear Master is just preparing a programme with a specialist about the technical/mathematical side of robotics. All specialists we know think it will take at least two generations until we have partly human-like robots. Until then robots are quite helpful in everyday life and especially in medicine (artificial limbs f.e.). You have to see that we humans are the ones who write programmes of these robots.
      We are already surrounded by AI in our daily life: we drive a nearly self-driving car, we have got an intelligent washing machine etc. We don’t want to miss that.
      Thanks for your commenting.
      Wishing you a wonderful weekend
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Oh…I was looking at it ,Artificial Intelligence, more through the eyes of the Turing Test. It doesn’t even have to be humanoid looking. It can be a self aware network..like SciFi’s sky net, if such a network became self aware it could control everything from our electric grid, to water supply, oil pipelines, our army’s armed drones etc. It could be those beyond frightening creations of Boston Dynamics that could so easily be weaponized. It could be a Hal of SciFi or an IBM’s Watson of pop culture.

      Computers are only as good as the data and codes we put into them. I am not a home body by any means, home keeping, not my thing, life is to short to stay home but I do not trust AI in the home. It is all invasive and hackable. I dither over security cameras as the most popular services available are hackable. We are vulnerable to outside players, some with with malintent and yet people keep Siri in their pocket, allowing the program to collect all manner of data on us even as it serves us. (My brain is hardwired differently from the norm and so apparently I ask too esoteric of questions for Siri to grasp, it is likely my syntax..she is not human but a tool used by outsiders to use me. If a network became sentient, wow, they would know a lot about us individually.

      I’ve had two brain surgeries and an intro class on areas of brain function. We do not understand the workings of the human mind but we are getting there. The movement forward in that field is breathtaking. All that’s missing is understand the Soul. All that’s missing for Boston Dynamics nightmare is, not a self aware robo dog, but 1) a bad player or 2) a self-aware network with a glitch.

      I misunderstood your post. You were thinking more of a humanoid Robot such as Star Trek’s data and I’m back in the past with Turing. 🙂 I think my dark outlook on the subject is due to present circumstance. Coffee should help that attitude. Sorry to blather on.

      Liked by 2 people

    • Yes, good old Turing … He was ahead of his time.
      Well, every new technology was seen sceptical. When the first train started from Nürnberg to Fürth people thought that humans couldn’t survive this speed and so it was with all new technologies.
      But may I ask you what is the soul? How would you define it?
      People overestimate their individuality enormously, an effect of christian ideology. The problem with programming AI is mistakes. Mistakes are quite often a door to creativity. This is hardly understood yet.
      Every technology can be misused but that’s a political problem, a problem of the power structure in our society.
      You mentioned syntax, I was a specialist for syntactic structures of symbolic languages. The aim of syntax is to give elements an order that other people can understand it. If a syntax isn’t helping the communication f.e. it’s faulty; it doesn’t serve its purpose.
      You don’t need to say SORRY, I think it’s great that you went on arguing. To be affirmative like most bloggers doesn’t produce insights – rarher supidity as our cheeky Siri used to say. For me that’s what blogging is about to discuss different standpoint and ideas – and doing this understanding your own standpoint better.
      Wishing you all the best and thanks a lot for answering our comments
      Klausbernd and
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 2 people

    • Thank you, the past few years when I debate a point or idea I am doing just that but an increasing majority of people assume it is a personal attack.

      My brain is hardwired a bit differently from others and so I am on the Spectrum. I am brilliant at a few things, a blithering double digit idiot at others and my syntax is …not neural typical. I have to work hard. But that syntax problem could also arise from bilingualism. I’m too tired to think that one out.

      Liked by 2 people

  32. Pingback: #GrokShow: Artifical Intelligence in Literature – Jackisa Technologies

  33. A very interesting discussion about developing AI indeed. When we look at advancements such as AI-da, it makes you think both how far we’ve come and how far we’ve yet to come in reality with AI technology. Thanks for reading my story and linking to this post, it enlightened me more about literature/tropes with robots and humans.

    Will AI ever be able to emulate human emotions or begin to feel things? I don’t have an answer for that. Like you said, we barely understand the mechanics of the human brain to replicate it enough for machine life, but if that ever happens, it is almost like playing god but with robots. It goes into questions of life, and if then machine can be alive and free-thinking? Some good food for thought. 🙂 Very interesting to read and it’s a fascinating discussion point, it sort of helps me with my ongoing story so I thank you for that too.

    Hope to read more from you.
    ~Lucy

    Liked by 1 person

    • Dear Lucy,
      thank you very much for your kind words.
      I suppose, in the very long run, we will be able to understand the structure of feelings that well that we can program them.
      Maybe is necessary to play god for a better – whatever that means – society?
      Wishing you a wonderful week
      The Fab Four of Cley
      🙂 🙂 🙂 🙂

      Liked by 1 person

  34. You articulated very well.
    The “Human mind copying thing” seems more fictional than reality.
    If “Sophia” is happy at a certain point, how will she be angry the next moment?

    Watch the movie “Ex-Machina” if you haven’t already.
    One other thing ~ “the greatest danger of AI is that people conclude too early that they understand it” ~ Hilarious & real.
    I can’t trust someone who confuses football with a player’s bald head.

    Very profound post on AI I’ve gone through in a while.

    Check out
    Human talk and AI!
    whenever possible.
    ~ I tried to put some mixed thoughts regarding here.
    Thank you.

    Liked by 1 person

    • The basic problem with AI is that we don’t know enough about consciousness, at least not enough to be able to program it.
      And what is ‘mind’?
      There such a lot of open questions.
      Thanks for your comment
      Klausbernd 🙂

      Liked by 1 person

Leave a Reply to flowerywallpaper Cancel reply

Please log in using one of these methods to post your comment:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d bloggers like this: