OpenAI: ChatGPT soll Erotik-Funktion für Erwachsene erhalten

Laut OpenAI-CEO Sam Altman soll OpenAI noch im Dezember dieses Jahres eine aktualisierte Version von ChatGPT veröffentlichen, die über eine Erotik-Funktion für verifizierte erwachsene Nutzer verfügen wird. Damit rückt das Unternehmen teilweise von seiner bisherigen, eher restriktiven Linie ab.

Restriktive Gangart soll aufgelockert werden

In der Vergangenheit hatte OpenAI ChatGPT bewusst eher restriktiv gehalten, um nach eigenen Angaben die psychische Gesundheit seiner Nutzer im Blick zu behalten. Dem Unternehmen war jedoch ebenso bewusst, dass dieses Vorgehen von Nutzern ohne entsprechende Probleme als Einschränkung empfunden werden könnte.

Noch vor wenigen Wochen erklärte Altman in einem Interview, der Einbau einer solchen Funktion könne zwar die Verbreitung von ChatGPT steigern, werde aus Prinzip aber vermieden. OpenAI wolle sich auf Nützlichkeit und Schutzmaßnahmen für die geistige Gesundheit und nicht auf die Ausbeutung gefährdeter Nutzer konzentrieren. Auf die Nachfrage nach japanischen Anime-Sex-Bots entgegnete Altman, dass einige Unternehmen vermutlich mit solchen Entwicklungen aufwarten würden, da sie meinen, hier eine Marktlücke gefunden zu haben. Bei OpenAI werde man dies jedoch nicht sehen.

Neue Schutzmechanismen sollen Wirkung zeigen

Aktuell sei OpenAI in der Lage, potenzielle Probleme mithilfe neuer Werkzeuge zu entschärfen, für deren Wirksamkeit das Unternehmen laut dem IT-Portal TechCrunch bislang jedoch Belege schuldig geblieben sei. Dennoch will OpenAI die Beschränkungen nun in weiten Teilen lockern. Dadurch soll ChatGPT in bestimmten Situationen freundlicher oder „menschenähnlicher“ reagieren, was auch erotische Unterhaltungen einschließen kann. Dass solches Verhalten zu Problemen führen kann, zeigte sich bereits im Sommer, als ChatGPT in dieser Hinsicht Schlagzeilen machte: Der Chatbot soll unter anderem einen Mann davon überzeugt haben, ein Mathe-Genie zu sein und die Welt retten zu müssen. In einem weiteren Fall verklagten Eltern eines Teenagers OpenAI mit der Behauptung, ChatGPT habe die Suizidgedanken ihres Sohnes in den Wochen vor dessen Tod gefördert.

Im August veröffentlichte OpenAI mit GPT-5 ein neues KI-Modell, das eine Reihe von Sicherheitsfunktionen enthält, um der sogenannten „AI Sycophancy“ – dem Anbiedern der künstlichen Intelligenz an den Nutzer, indem sie allem zustimmt und das erwidert, was dieser hören möchte – entgegenzuwirken. Einen Monat später folgte ein Altersvorhersagesystem sowie eine Möglichkeit für Eltern, das ChatGPT-Konto von Teenagern zu kontrollieren, als weitere Schutzmaßnahmen für Minderjährige.

Andere KI-Plattform sind mit KI-Erotik erfolgreich

Dennoch betritt auch OpenAI mit den neuen Funktionen Neuland und es stellt sich die Frage, wie gefährdete Nutzer mit diesen umgehen werden. Auch wenn Altman den Vorwurf der „Nutzungsmaximierung“ zurückweist, haben andere Anbieter wie Character.AI bereits gezeigt, dass es auch für solche Angebote einen Markt gibt. Das Unternehmen soll inzwischen eine mittlere zehnstellige Millionenzahl an Mitgliedern gewonnen haben, wobei die Nutzer laut früheren Angaben im Jahr 2023 im Durchschnitt rund zwei Stunden täglich auf der Plattform verbracht haben. Allerdings sieht sich auch Character.AI mit einem Rechtsstreit über den Umgang mit gefährdeten Nutzern konfrontiert.

Erotik-Chatbots auch bei Minderjährigen „beliebt“

Während es bei Erwachsenen unbestritten sein dürfte, dass einige von ihnen romantische Beziehungen zu KI-Chatbots suchen, erfreuen sich solche Systeme auch bei Minderjährigen wachsender Beliebtheit. Ein erst vor wenigen Wochen veröffentlichter Bericht des Center for Democracy and Technology ergab, dass 19 Prozent der Schüler entweder selbst eine romantische Beziehung mit einem KI-Chatbot hatten oder jemanden kennen, der eine solche Beziehung unterhält oder unterhielt.

OpenAI will dem mit einem Altersvorhersagesystem begegnen, um sicherzustellen, dass die erotischen Funktionen von ChatGPT ausschließlich volljährigen Nutzern vorbehalten sind. Sollte das System einen Erwachsenen fälschlicherweise als Minderjährigen einstufen, könnte laut Altman das Hochladen eines Ausweisfotos eine Lösung darstellen – ein Kompromiss, den er in Bezug auf die Privatsphäre für vertretbar hält.

OpenAI muss Nutzerzahl vergrößern

Da OpenAI weiterhin unter erheblichem Druck steht, die eigene Nutzerbasis zu vergrößern, dürfte der angekündigte Schritt kaum überraschen. Auch wenn das Unternehmen bereits über 800 Millionen aktive Nutzer pro Woche zählt, müssen sich die milliardenschweren Investitionen in den Ausbau der Infrastruktur langfristig auszahlen. Zudem schläft die Konkurrenz aus Google, Meta und anderen Anbietern nicht. Unklar ist zudem bislang, ob OpenAI die neue Erotik-Funktion auch auf seine KI-Tools zur Erzeugung von Sprache, Bildern und Videos ausweiten wird.

ChatGPT soll sich weniger anbiedern

In einem anderen Punkt tritt OpenAI dagegen auf die Bremse: Ein in den kommenden Wochen erscheinendes Update soll die Persönlichkeit zurückbringen, die ChatGPT in Version 4o besaß und die bei den Nutzern beliebter war. ChatGPT sei zwar darauf trainiert, besonders freundlich zu agieren, dieses Verhalten wurde jedoch häufig als übermäßige „Einschmeichelei“ kritisiert. In sensiblen Situationen könne es zudem als übertriebenes Verständnis interpretiert werden. OpenAI hatte bereits zuvor angekündigt, dieses Verhalten schrittweise anpassen zu wollen. Die zuletzt eingeführte Persönlichkeit bleibt zwar erhalten, muss künftig aber vom Nutzer explizit ausgewählt werden.

Sollten Sie selbst oder jemand in ihrem Umfeld von Selbsttötungsgedanken betroffen sein, suchen Sie sich bitte umgehend Hilfe. Bei der Telefonseelsorge finden Sie rund um die Uhr Ansprechpartner, auch anonym. Auch die Notrufnummern 110 und 112 (Deutschland), 143 (Schweiz) und 142 (Österreich) sind ein entsprechender Anlaufpunkt, sollte bereits Gefahr im Verzug sein. Wichtig ist hierbei als Außenstehender, so weit wie möglich ruhig und sachlich zu bleiben.

Telefonnummern der Telefonseelsorge: 0800 111 0 111 und 0800 111 0 222.