News US-Bundesstaat Florida: OpenAI we­gen irreführender Sicher­heits­versprechen ver­klagt

[Mente]

also wenn man sich den Bericht so in der Zusammenfassung anschaut ist das irgendwie etwas zu kurz, hier werden ja mehrere Themen behandelt zum einen KI Nutzung von Kindern (das wird der schwierigste Punkt für Open AI da das ein sehr hoher Schutzbedarf laut gesetzt unterliegt) und dann die andren Punkte zu Unterstützung solcher Aktivitäten. Aber was etwas untergeht ist der Punkt das die KI Firmen bei Otto Normal Verbraucher es sehr gut "verkauft" haben das KI alles Kann und weiß niemand hinterfragt antworten, und das macht das ganze dann in allen Bereichen nicht trivial.

 

[anexX]

Die Anwälte von OpenAI unterliegen grade einem massiven Crunch ... jede Woche neue Klagen.

 

[Alphanerd]

Die Klage hat für mich im Kern irgendwie den selben Grund, warum auf Kaffeebecher "vorsicht Heiß" drauf stehen muss.
Ich bin echt gespannt wie das ausgehen wird.

Bei einem Becher Kaffee weiß man dass der heiß ist.

Ist sich hingegen jeder Nutzer dessen bewusst, dass so ein chatbot seine Wahnvorstellungen verstärkt? Kommt da am Anfang ein Warnhinweis?

"Bevor sie dieses Programm benutzen möchten wir sie ausdrücklich darauf hinweisen, dass dieser chatbot all den Blödsinn, den sie von sich geben werden validieren und verstärken wird und sie in eine Psychose treiben kann"

 

[ProfessorJump]

"Bevor sie dieses Programm benutzen möchten wir sie ausdrücklich darauf hinweisen, dass dieser chatbot all den Blödsinn, den sie von sich geben werden validieren und verstärken wird und sie in eine Psychose treiben kann"

Deswegen ist das unterwürfige Engagement-treibende Verhalten der Chatbots so problematisch, von den eigenen Halluzinationen mal abgesehen und auf diesem Gebiet tut sich aktuell extrem wenig.

Welch extreme Formen das annehmen kann hat man schon vor 2 Jahren erahnen können, mittlerweile quatschen einige Leute mit ihrer "Chatbot-Partnerin" im öffentlichen Nahverkehr xX

Darüber hinaus: Was wäre hierzulande, wenn jemand einen in ein Waffengeschäft oder eine Bibliothek geht und diese Fragen stellt? Würde er die Infos bekommen? Würde derjenige, der sie ihm gibt, sich strafbar machen? Wird alles dabei vergessen.

Mit social media hat das doch schon angefangen und das läuft bis heute weiter.
Werbung für BBL, obwohl die Zielgruppe teilweise minderjährig ist? Kein Problem, wird als Erfahrungsbericht/VLOG/Story verkauft und meist ist der Hauptwohnsitz sowieso in anderen Ländern, was war das HWG? Hoch wirksames Gel? Erzähl mir mehr! Wo muss ich das 90€ Produkt auftragen um faltenfrei zu sein? (/s)