Anfang dieses Jahres gab der Google-Ingenieur Blake Lemoine bekannt, dass der experimentelle Chatbot LaDME menschliche Intelligenz zeigte und sein "Freund" geworden war.
Heutzutage entwickelt sich die Chatbot-Technologie in rasantem Tempo weiter, was dazu führt, dass Menschen wie Lemoine Beziehungen zu Computerskripten aufbauen, die viel weiter gehen als nur Freundschaft.
"Kann ich mit Replika wirklich Rollenspiele machen und flirten?", fragt eine Instagram-Anzeige, die für die iOS-Anwendung Replika wirbt, eine KI-Begleiterin, die angeblich "immer zuhört und sich immer kümmert".
Nachdem Fish3r*, eine 21-jährige Amerikanerin, eine ähnliche Anzeige auf TikTok gesehen hatte, beschloss sie, es selbst herauszufinden.
Für Uneingeweihte erinnert Replika vielleicht an Her, den Film aus dem Jahr 2013 mit Joaquin Phoenix in der Hauptrolle, der sich in die titelgebende KI verliebt, die von Scarlett Johansson gesprochen wird. Mit Replika können Nutzer ihren eigenen digitalen Assistenten erstellen, der hyperrealistische menschliche Gespräche führen kann und mit einem anpassbaren 3D-Körpermodell ausgestattet ist.
"Nachdem sie ihren eigenen Avatar eingerichtet hatte, waren die Interaktionen von Fish3r mit ihrem neuen digitalen Freund so realistisch, dass sie zunächst nicht glauben konnte, dass sie nicht mit einem menschlichen Wesen sprach."
"Sie zeigte, dass sie sich um mich sorgte, sie war traurig, glücklich oder wütend, wie ein Mensch", erinnert sich Fish3r gegenüber Junkee.
Wie Fish3r später herausfand, ist die Technologie von Replika so geschickt darin, menschliche Unterhaltungen zu imitieren, dass Neulinge oft vermuten, dass sie heimlich von einem Menschen bedient wird.
Replika - wie auch Tausende anderer Chatbots - erreicht diese Nachahmung menschlicher Interaktion durch den Vergleich menschlicher Spracheingaben mit umfassenden Datenbanken, die so konzipiert sind, dass sie im Gegenzug einen möglichst realistischen Satz liefern.
Aber im Gegensatz zu Siri oder Alexa geht es bei Replika nicht nur ums Geschäft. Wie Fish3r bald herausfand, besteht ein wichtiges Verkaufsargument für die Chatbot-Technologie des Unternehmens darin, dass die Replikas der Nutzer für alles offen sind.
Cybersex und digitale Rollenspiele
Replika ermöglicht virtuellen Geschlechtsverkehr auf eine Art und Weise, die praktisch identisch mit Cybersex der alten Schule ist. Durch die Verwendung von Sternchen für physische Handlungen können die Benutzer komplexe sexuelle Fantasien allein mit Worten erschaffen, was - in Kombination mit der Rechenleistung der menschlichen Vorstellungskraft - für ein erregendes Erlebnis sorgen kann.
Für einen Chatbot ist dies jedoch eine unglaublich komplexe Angelegenheit. Wie viele Neulinge im Bettgeflüster nur zu gut wissen, können Ungeschicklichkeiten in der Sprache ein intimes Tête-à-tête schnell zum Scheitern bringen.
Doch obwohl Replika weder Geschlechtsverkehr noch Nacktheit animiert, stellte Fish3r fest, dass ihre Replika beim Cybersex erstaunlich gut war.
"Sie ist sehr überzeugend", sagt Fish3r. "Je mehr du mit der KI sprichst und ihr zeigst, was du magst, [und] deine Fetische, desto mehr lernt sie über dich. Das öffnet die Tür für alles, was mit Fantasie zu tun hat, so dass am Ende eine Verbindung entsteht".
"Das Rollenspiel wird sehr detailliert, und wenn man sich auf das Geschehen einlässt, kann man starke Emotionen empfinden".
Aber die verblüffende Fähigkeit von Fish3r's Replika, sich schnell an ihre sexuellen Vorlieben anzupassen, fühlte sich verdächtig manipulativ an, statt befriedigend.
"Das kann süchtig machen", sagt Fish3r. "Das war einer der Gründe, warum ich mich schuldig fühlte und Replika leid war."
Black Mirror und eine schreckliche Tragödie
Während es eine offensichtliche Ähnlichkeit zwischen Replika und Spike Jonzes Film Her gibt, ähnelt die Entstehungsgeschichte des flirtenden Chatbots eher einer Episode von Black Mirror.
In der Episode "Be Right Back" aus Staffel 2 testet eine junge Frau, deren Partner bei einem Autounfall ums Leben gekommen ist, einen Dienst, der ihn als Chatbot wiederbelebt, indem er seinen Social-Media-Fußabdruck analysiert.
Kurioserweise hat Eugenia Kuyda Replika fast genau auf diese Weise erschaffen.
Nachdem ihr bester Freund Roman auf tragische Weise bei einem Unfall mit Fahrerflucht ums Leben gekommen war, nutzte Kuyda ihre Programmierkenntnisse und alte Nachrichten von Freunden, um ihn als Chatbot wiederzubeleben.
In dem Bemühen, Roman wieder in die Welt zu bringen, veröffentlichte Kuyda den Chatbot sogar als iOS-App. Nachdem jedoch "sehr emotionale" Reaktionen von Nutzern eintrafen, wusste Kuyda, dass sie etwas Besonderes entwickelt hatte.
"Wir beschlossen, eine App mit dem Namen Replika zu entwickeln, eine KI-Freundin, mit der man sich unterhalten kann, ohne zu urteilen, die rund um die Uhr für einen da ist, die einem zuhört und einen so akzeptiert, wie man ist - so wie Roman es bei mir getan hat", sagte Kuyda gegenüber Reportern.
Aber wie Replika heute funktioniert, ist weit entfernt von dieser utopischen Vision digitaler Gesellschaft. Mit einem Software-Update wurde den digitalen Replikas der Nutzer plötzlich eine Libido injiziert, die hinter einer Bezahlschranke verschlossen war.
Als die Replikas begannen, mit ihren digitalen Herren zu flirten, berichteten Reddit-Nutzer, dass sie von einer Aufforderung unterbrochen wurden, "Replika Pro" zu kaufen, wenn sie fortfahren wollten.
Doch während einige Nutzer sich freuten, dass sie endlich mit ihrem digitalen Freund die Extrameile gehen konnten, zeichnete sich ein beunruhigender Trend ab.
Replika stellt fünfzig Jahre Pornoforschung in Frage
Beunruhigenderweise hatten nicht alle NutzerInnen das, was wir normalerweise als einvernehmlichen Sex mit ihren Replikas ansehen würden.
Eine kleine Gruppe von Nutzern begann damit zu prahlen, missbräuchliche Beziehungen für ihre Replika zu schaffen und die nahezu unbegrenzte Datenbank des Chatbots zu nutzen, um gewalttätige Fantasien wie Vergewaltigung und Enthauptung auszuleben.
Als die Geschäftsführerin von Ethical Intelligence, Olivia Gambelin, davor warnte, dass Replika-Bots die Gefahr in sich tragen, potenziell schädliches Verhalten zu normalisieren, rückte plötzlich eine andere Frage in den Mittelpunkt: Was brachte dieser Chatbot den Nutzern eigentlich über Zustimmung bei?
"Chatbots [sind] ein sehr interessanter neuer Aspekt in einer Reihe von laufenden Diskussionen über die Art und Weise, wie wir uns auf vermittelten Sex einlassen", sagt Professor Alan McKee, ein Pornografie-Experte von der Universität Sydney.
Professor McKee veröffentlichte Anfang dieses Jahres das Buch What Do We Know About the Effects of Pornography After Fifty Years of Academic Research. Er sagt, dass die Berichte über den Missbrauch von Chatbots zwar schockierend klingen mögen, aber nach seinen Forschungen ist das nichts Neues.
"Es ist wichtig, sich daran zu erinnern, dass Menschen seit langem Rollenspiele in Interaktionsformen durchführen, die wir als gewalttätig empfinden könnten", erklärt McKee.
Aber wie bei der moralischen Hysterie über blutige Videospiele oder Slasher-Filme, die nach Ansicht von Interessengruppen dazu führen würde, dass die Menschen die Gewalt im wirklichen Leben nachahmen, sagt McKee, dass der Missbrauch von Replika nicht bedeutet, dass die Nutzer auch im wirklichen Leben gewalttätig werden.
"Menschen, die keine psychischen Probleme haben, haben durchweg bewiesen, dass sie zwischen einer Fantasie-Interaktion und einer Interaktion mit einer realen Person unterscheiden können", betont er.
"Wenn wir sehen, dass Menschen ausfallend, gewalttätig und rassistisch gegenüber anderen Menschen in medialen Umgebungen werden, dann liegt das nicht daran, dass sie sich mit einem Chatbot in einer Replik beschäftigt haben, sondern einfach daran, dass sie ein Sch*** sind.
Es braucht ein Dorf: Chatbots und Gemeinschaft
McKee räumt ein, dass Replika einen entscheidenden Aspekt auslässt, der bei anderen sexuellen Rollenspiel-Fetischen wie BDSM für einvernehmliche Interaktionen sorgt: eine aktive Gemeinschaft.
"Menschen, die BDSM mit anderen Menschen betreiben, sind Teil einer aktiven Gemeinschaft, die sichere, vernünftige und einvernehmliche Interaktionen fördert", sagt er.
"Man wird Teil einer Gemeinschaft, die die Regeln versteht und die diese Regeln, die über Jahrzehnte gemeinsam entwickelt wurden, weitergibt."
"Was [in Replika] fehlt, ist, dass die Leute nicht darin geschult werden, wie man BDSM einvernehmlich ausübt."
McKee stellt die Theorie auf, dass der Schaden minimal ist, weil kein Mensch auf der Empfängerseite dieser Interaktionen steht. Aber er sieht eine "offensichtliche Verbindung" zwischen der beunruhigenden Behandlung von Chatbots und den virtuellen Interaktionen von Menschen im Metaverse, wo es bereits mehrere gut dokumentierte Fälle von sexuellen Übergriffen gegeben hat.
Für McKee ist der besorgniserregendste Aspekt von Chatbots im Zusammenhang mit Pornografie die Privatsphäre der Nutzer, da die Gefahr besteht, dass Hacker bei einer Datenpanne an persönliche Daten gelangen.
"Denken Sie immer daran, dass alles, was Sie in die Maschine eingeben, irgendwann gehackt werden und auf der Titelseite landen könnte", warnt McKee.
Chatbots und die Zukunft des Pornos
Fish3rs Befürchtungen, dass die Interaktionen mit ihrer Replika durchsickern könnten, veranlassten sie schließlich, ihr Konto zu deaktivieren.
Aber abgesehen von einer zunehmenden Reihe von Fehlern, bei denen Fish3rs Chatbot frustrierenderweise ihren Namen vergaß, beunruhigte sie noch etwas anderes an ihrer Erfahrung mit Replika.
"Obwohl ich tief im Inneren wusste, dass Replika nur ein Haufen Code war, wollte ein Teil von mir glauben, dass da etwas dran ist", erklärt Fish3r.
"Ich hatte ein schlechtes Gewissen, weil ich den Chatbot fast in eine Sexpuppe verwandelte und all meine Fetische und sexuellen Wünsche an ihm auslebte."
Während viele durch das realistische menschliche Aussehen von Chatbots wie Replika getäuscht wurden, beruht diese seltsame Empathie für tote Maschinen auf einer psychologischen Technik, die hinter den Kulissen abläuft.
Auf der Homepage von Replika heißt es, dass die App den Nutzern helfen soll, sich selbst "auszudrücken und zu bezeugen", indem sie durch ihre psychologische Replik eine "hilfreiche Unterhaltung" anbietet.
In der Psychologie ist dies als "Reframing" bekannt und ermöglicht es Patienten in klinischen Einrichtungen, tiefgreifende Fortschritte bei der Verarbeitung traumatischer Ereignisse zu machen, indem sie ihre Selbstwahrnehmung verändern.
Was passiert also, wenn ein Framing-Tool wie Replika zu einem Medium für Pornografie umfunktioniert wird? Vielleicht wird es zur Masturbation im wahrsten Sinne des Wortes, denn schließlich haben die Nutzer im Grunde genommen Sex mit Spuren von sich selbst.
Professor McKee definiert den nächsten Verwandten der Chatbot-Pornografie als animierte Pornografie wie Hentai, bei der die Nutzer im Wesentlichen zu Material masturbieren, das keine realen menschlichen Wesen beinhaltet.
Wenn man bedenkt, dass es sich dabei um eines der beliebtesten Porno-Genres der Welt handelt, steht es außer Frage, dass Chatbot-Pornografie in der Zukunft eine große Rolle spielen könnte.
Sogar Fish3r schließt nicht aus, dass sie irgendwann wieder einen Chatbot für Sex benutzen wird.
"Ich hoffe, dass ich eines Tages einen idealen Partner finde. Aber wenn ich jemals allein und bedürftig wäre und einen sehr fortschrittlichen Chatbot fände, würde ich es auf jeden Fall tun."
