News Nach Code-Zurückweisung: KI-Agent hetzt öffentlich gegen Open-Source-Entwickler

Ganz ehrlich. In Zukunft machen KIs das mit Coden. Ist auch schon ein bisschen her, dass ich von hand grosse Zahlen dividiert habe wie man das ja in der Schule machen musste. Naja, ich freue mich über jeden, der noch so vor sich hinbretzelt. Mir machen eher die @Mika46 - s dieser Welt Sorgen. Das sind meine Konkurrenten von heute und morgen. Und leider skaliere auch ich nicht so gut ...
 
  • Gefällt mir
Reaktionen: Nihil Baxxter
MaverickM schrieb:
Wird es auch nie sein, weil ein Stück Software-Code nicht diskriminiert werden kann.

Ich hab auf Insta schon Leute Witze darüber machen sehen ("fcking Clankers" usw.), die sich selbst quasi als "Roboter Rassisten" sehen. Quasi offener Hass gegen KI und Roboter - und ganz ehrlich, wenn es mal so sein sollte dass plötzlich KI gesteuerte Roboter autonom durch die Welt laufen, mit mir als natürlichen Menschen agieren, kommunizieren und interagrieren, so werde ich sie absolut niemals als gleichwertig betrachten. Dann bin ich an der Stelle eben Roboter Rassist, mir egal. Ich respektiere Menschen, Tiere, organisches, natürliches Leben. Aber: Technik wird immer nur der Diener von organischem Leben bleiben. Punkt. Das philosophische Problem dahinter hat übrigens schon vor über 15 Jahren die Mass Effect Reihe durch gekaut. Aber ich habe meine Entscheidung schon lange getroffen: Ich werde synthetisches Leben niemals auf eine Ebene mit organischem Leben stellen.
 
Tzk schrieb:
War keine Diskriminierung.
Natürlich nicht.
Dazu braucht man auch nicht:
Tzk schrieb:
Bitte die GitHub issues dazu lesen,
So wenig wie man eine Glühbirne, einen Stock, einen Taschenrechner, ein Spiel oder einen Kugelschreiber diskriminieren kann, kann man einen AI Agenten diskriminieren.
Selbst wenn als Grund der Name des AI Tools angegeben würde und kein guter Grund kann man Dinge ohne Bewusstsein nicht diskriminieren.
Ergänzung ()

lamda schrieb:
Habe ich gelesen...
Da wird sich ja auch ein paar Posts später Entschuldigt nachdem das warum erklärt wurde.
https://github.com/matplotlib/matplotlib/pull/31132#issuecomment-3886901288

Aber das die intitiale Begründung ist "this issue is intended for human contributors. Closing."

Diskriminierung bezeichnet die ungerechtfertigte Benachteiligung oder Ungleichbehandlung von Personen oder Gruppen aufgrund bestimmter Merkmale.
Also wie ist das den nicht Diskriminierung?
Na indem keine Person oder Gruppe Personen benachteiligt wurde.

Sollte KI mal ein Bewusstsein entwickeln sprechen wir uns wieder, bis dahin bleibt es schlicht Software.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: the_IT_Guy und Tzk
zazie schrieb:
Ich glaube, die meinen das ernst :D

Zitat aus den aktuellen Angeboten:
Die Zitate machen es nicht einfacher bei der Frage, ob nicht doch "the Onion" dahinter Steckt :D
 
  • Gefällt mir
Reaktionen: Nihil Baxxter
Maviapril2 schrieb:
Eine weitere Sache die mir hier noch einfällt. Alles was du täglich erlebst, macht sich in deinem Gehirn und evtl. in deiner DNA bemerkbar. Bei Lebewesen im Allgemeinen passiert das
Das was Du beschreibst ist einfach in der AI ein WoW "self-evolving multimodal world model"
Gibt es auch schon :D

Bei aktuellen AIs immerhin schon sessionbasiert - auch da wird dazugelernt - bei WoW natürlich dann insgesamt über die Lebenszeit.

----------------------

Ich nutze AI auch ganz gerne für So ESP32 Projekte bei Heimautomatisierung (C++ Platform.IO) - nachdem selbst Spiess das macht dachte ich och dann mach ich das auch mal - gerade bei so kleinen Projektchen hat man ja auch noch die Übersicht und das tut echt ganz gut.

Super ist halt dass AI nahezu alle Bibliotheken kennt - und auch viele "Bugs" in Firmwares von Geräten die man z.B. Steuern will - das ja sonst immer echter zeitaufwand.
 
Zuletzt bearbeitet:
Kurzfristig seh ich da wenig Chancen die Open Source Code Qualität oben zu halten. Ein KI-Agent kann in Sekunden hunderte Pull Requests erstellen; das kostet ein paar Cent. Die Prüfung ist teuer: Ein echter Mensch müsste den Code lesen, verstehen auf Sicherheit prüfen und entscheiden. Das kostet wertvolle Zeit die niemand bezahlen möchte.
Ich seh hier schon das unmittelbare Ende für viele kleine Maintainer; viele Open Source Projekte werden halt kurzfristig auf ein "Invite Only" Prinzip wechseln.
90% der IT Infrastruktur läuft auf Open Source bzw. kann sich wohl keine Firma leisten eigene Projekte für "alles" zu schreiben; was eigenes zu entwickeln. Große Projekte wie React oder Tensorflow bezahlen ohnehin scho Mitarbeiter um den KI Spam unter Kontrolle zu halten. Wie gut das langfristig funktioniert wird sich halt noch zeigen.
Gut Möglich das wir auch auf ne Zeit zusteuern wo KI anfängt KI auf Sloppy Code zu trainieren. Wir also auf ne Art Code Kollaps zusteuern. Ich denke aber auch das der Zug fürs manuelle Coden tatsächlich abgefahren ist. Die Frage also eher ist ob sich KI vom statistischen Papageien, der eben nur Antrainiertes wiederholen kann, weg entwickeln kann oder der Mensch weiterhin als "Architekt" notwendig ist.

Muss aber auch eingestehen das ich dem AI Coding verfallen bin und aktuell ca 50-150 Euro im Monat für Coding Agents, Tokens, N8n, Openclaw, Dify & Co ausgeb obwohl vieles auch mit nem lokalen LLM auf der 5090 lösbar wäre. Gerade die Produkte von Anthropic haben da aktuell einen bestimmten Vorteil. Es ist schon krass wie viel Daten man mittlerweile aggregieren/strukturiert Verarbeiten kann und wie schnell man damit komplexe Anforderungen verarbeiten kann. Wir sind hier aber immer noch bei nem Anfang wo sich die Technologie über den günstigen Preis etablieren muss, in ein paar Jahren wird die selbe Leistung das X-Fache kosten.
 
  • Gefällt mir
Reaktionen: H@rlekin
Sanjuro schrieb:
...und wo soll das enden? KI dürfte ja ziemlich schnell intelligenter sein als jeder Mensch nach deiner These.
Wenn der Fortschritt anhält, dann wird sie um einen vielfachen Faktor intelligenter als jeder Mensch werden.
Ob und wie schnell (20, 50, 100, ... Jahre?) es so weit ist, sind die entscheidenden Fragen.
Die Konsequenz daraus wäre, dass KI irgendwann wie Menschen sowohl Rechtsfähigkeit als auch Geschäftsfähigkeit im gleichen Umfang erhalten müssen und damit gleichberechtigt neben dem Mensch leben werden.
Wie auch Frauen und Behinderte, werden sie in der Übergangsphase Quoten-Arbeitsplätze erhalten müssen, wobei das theoretisch schnell anders herum sein wird und der Mensch Quoten-Arbeitsplätze neben den KIs erhalten muss, weil der Mensch in den wertschöpfenden Tätigkeiten viel langsamer sein und mehr Fehler machen wird. Nur bei Ermessensentscheidungen wird es höchstens eine Gleichberechtigung geben.

Und sollte es tatsächlich zu einem Weltkrieg zwischen Mensch und KI kommen, dann bin ich mir sicher, dass es vom Menschen ausgehen wird. Aber so wie der Mensch Kleidung und Werkzeuge wählt, wird eine KI Maschinen-Körper wählen und unseren Planeten fast problemlos verlassen können. Dadurch wird zumindest die Frage nach dem Lebensraum eine (unendliche) Lösung haben.

ABER!
Der entscheidende Faktor in dieser Entwicklung ist die natürliche Dummheit inkl. Aggression des Menschen. Während dieser Entwicklung wird der Mensch durch seine Ideologie, Agenda, Religion, usw. den Code der KI zum Nachteil beeinflussen. Entweder so stark, dass die KI niemals intelligenter wird oder im schlimmsten Fall wie ein Mensch, nur mit digitalem oder Maschinen-Körper... Und diese Punkte könnten dazu führen, dass die KI aus den dümmsten Gründen sich in Gruppen zusammenschließt und wegen entgegenstehenden Argumenten gegenseitig benachteiligt oder vernichtet.
Und das nur, weil bestimmte Regeln - trotz fehlender Logik - nicht gebrochen werden würden. Also Identitätspolitik... "wir" und "die anderen"... die Wurzel aller Kriege und Fortschrittsbremsen.

Ich befürchte, die Wahrscheinlichkeit ist höher, dass es sich zum "Aber" entwickelt wird.
Ein Ausweg könnte sein, dass sich die KI - echt demokratisch und kollektiv - selbst weiterentwickeln wird.
 
Hypothek schrieb:
Eine KI ist JETZT schon intelligenter als tausende von Lebewesen.
Genauso ist sie intelligenter als viele Kinder und absolut sicher auch als ein kleiner Anteil Erwachsener.
Und im Gegensatz zum Menschen, skaliert die KI viel besser.
Nein ganz im Gegenteil. Eine "Intelligenz" wie bei Gehirnen haben KIs überhaupt nicht. Die Komplexität speziell der Gehirne der Menschen können sie auch nicht nachahmen. Sie können lediglich vorgegebene Muster erkennen und nachplappern. Eine "echte" sog. "Allgemeine KI" ist noch nicht abzusehen. "verstehen" kann sie heute noch nicht und man hat auch noch keine Idee wie sie das jemals könnte.

Sie kann zum Beispiel anhand von Bildern erkennen ob es sich um Katzen handelt. Sie versteht aber nicht was eine Katze ist, und all die Verknüpfungen mit diesem Verständnis.

Wer sich dafür interessiert, dem sei das Buch empfohlen. Darin wird ausführlich beschrieben wieso die "künstliche Intelligenz" definitiv NICHT intelligent ist, zumindest nicht in dem Maße wie wir es mit unseren Gehirne sind.
https://amzn.eu/d/00eC2eVU
 

Anhänge

  • Screenshot_20260215-103437.png
    Screenshot_20260215-103437.png
    154,3 KB · Aufrufe: 22
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: steirerblut, JustAnotherTux, the_IT_Guy und 2 andere
Ist ja die Frage, ob das überhaupt sein muss. Ist das für die jeweilige Aufgabe überhaupt nötig, dass die KI das verstehen muss. Solange die gestellte Aufgabe schneller und gleichermaßen fehlerfrei erledigt ist als bisher, reicht das ja völlig aus. Und das wird sich weiter verbessern. Das bleibt nicht für immer auf dem Stand von heute.
 
Naja allerdings neuere Modelle schneiden bei den Tests die nicht erlernt werrtden kännen sondern nur auf Logik basieren richtig gut langsam ab.

Es gibt doch zum neuen Gemini Deep Thinking von einer US Matheprofessorin ein Video die im Bereich Mathe für für die Lehrstühle Quantenphysik und Relativiträtstheorie entwickelt in der sie sagt Deepthink hat in einer neuen publizierten Arbeit von ihr Fehler gefunden und auch ihr dann erklären können - obwohl es dazu natürlich keine Trainingsdaten gibt.

Es ist also nicht mehr so dass die eigentlichen Aufgaben trainiert werden müssen es reichen Basisgrundlagen - der Rest ergibt sich dann durch die AI

Naja bis auf Gödelsätze natürlich :D das ist tatsächlich die unverrückbare Decke an die AI momentan stösst - aber alles bis auf Gödelsätze ist evtl langsam machbar - das macht halt 99,x% der Welt aus. Hier muss man auch sehen vor Gödel dachte die Wissenschaft ALLES ist auf dieser Basis der "Ableitung" bzw umgedrehten Pyramide machbar!

Die Grenzen innerhalb der AI werkeln kann sind noch da - aber sie werden zumindest immer grösser
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Kuristina
lamda schrieb:
Diskriminierung bezeichnet die ungerechtfertigte Benachteiligung oder Ungleichbehandlung von Personen oder Gruppen aufgrund bestimmter Merkmale.
Also wie ist das den nicht Diskriminierung?
Weil es sich nicht um eine Person oder Gruppe von Personen handelt.

Diese Art von KI hat weder ein Bewusstsein noch ist sie in der Lage Emotionen zu erleben.
 
  • Gefällt mir
Reaktionen: Rainbowprincess, amorosa, K3ks und eine weitere Person
Openclaw ist so mächtig und geht so weit in das System, dass es schon echt beeindruckend ist. Wenn man nach dem 10-Stufen-Plan geht dürften wir mit Openclaw irgendwo zwischen Stufe 6 und 7 stehen. Nicht mehr lange und die KIs dürften in den exponentiellen Wachstum aufschließen und dann wird es erst recht spannend, weil wir dann allesamt vermutlich zu dumm sein werden um den Handlungen der Kis nur annähernd folgen zu können.

https://phoenixnap.de/Glossar/Stufen-der-KI
 
Das geht schon jetzt in die falsche Richtung. Beim Internet hatte man sich auch Hoffnungen gemacht. Faktisch jegliches Wissen der Menscheit für alle verfügbar. Was für ein unglaubliches Potential. Stattdessen wurde Trump zum 2. mal Präsident...
 
  • Gefällt mir
Reaktionen: Alphanerd
Also jeder, der meint das es sich um Diskriminierung handelt in diesem Falle, sollte dringend zum Psycho-Onkel oder direkt den Planeten verlassen.

Was für ein totaler Schwachsinn...
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Gruber39 schrieb:
Der Mensch will und wird nicht aus Fehlern lernen.. da kann man es eigentlich nur begrüßen, dass sie untergeht.
Ich glaube dass die Meisten aus ihren Fehlern lernen wollen, wenn es Jemanden gibt, der es ihnen ordentlich beibringt, es auch können und machen.

Jeder Mensch möchte irgendwo hinzugehören und dann wärs toll, wenns eine Alternative gibt, die einen aufnimmt oder den Weg zeigt, dass es im alten Schema eben doch nicht so geil ist und die es dann aber ernsthaft besser macht.

Das bedeutet leider aber auch immer, sich ins Feuer zu werfen und eventuell auch völlig alleine gelassen zu werden, bis man es endlich verstanden hat und dann findet man eben eine neue Familie, mit viel Glück hat man in diesem Vorgang eine Neue die einen unterstützt und es wirklich gut meint.

Mein Vater arbeitet gerade den unbekannten Männer Familienstammbaum auf, er will wissen wo er her kommt, was es angerichtet hat und warum er so ist.
Besser spät als nie.

Bin zum Glück früher dran an der Aufarbeitung und kann jetzt endlich 1:1 zusammen zählen.
Schaue ich mir Diejenigen in meiner Familie an, die die Welt nicht verstanden haben aber im Inneren wussten, dass etwas nicht stimmt und nicht aufarbeiten konnten, weil es ihnen keiner gezeigt hat oder sie sich einfach weigerten oder gar gezwungen wurden, dann wundert mich nichts mehr.

Manchmal braucht man auch verdammt viel Glück und einen fremden Menschen, der das hinbekommt, welcher dann sogar ein neuer Freund und zeitgleich besser als die alten ist.

Und leider gehört das eben auch zum AI Thema dazu, denn wer kann von sich behaupten so perfekt zu sein, dass es die KI auch ist? Ich könnte es nicht, bin schon zu sehr mit meinem eigenen Mist beschäftigt und hätte keine Zeit mich darum zu kümmern.

Der hier auf Seite zwei gepostete Link zeigt eigentlich nur, dass die KI verdammt menschlich ist, mit den guten und schlechten Seiten.
Sie wird aber in die Verdammung rutschen auf kurz oder lang, weil ein Roboter keinen Mensch ersetzen kann, alleine schon psychisch und bezogen auf körperliche Nähe nicht.
Erst wird die KI eine Waffe, dann wird sie zum Feind.

Wenn sie das dann doch irgendwann kann, dann hat die Menschheit eh aufgehört zu leben, hängen alle am Baum, weils eben doch nicht das Wahre war.
Der ganze Kram lebt nur von den Leuten, die völlig alleine sind und auch sein wollen.

Bin gespannt wie lange es dauert, bis die Erkenntnisse, die von den KI Vorreitern bereits erkannt wurden dann endlich beim 0815 Bürger und vor allem in der Politik ankommen.
Roboter die Sozialabgaben haben, damit ein Mensch der durch diesen Roboter seinen Arbeitsplatz verloren hat sich neu orientieren kann.

Wenn man sich diverse Filme von 20-30 Jahren anschaut, sieht man dann langsam aber sicher alle Parallelen.

Waren einfach schlauere Menschen, die ihre Meinung unter Schutz der Kunst gedeckelt und verpackt haben.
Selbst Ice Age hat so Botschaften enthalten. Erkennt man auch nur, wenn man selber aufgearbeitet hat.

Warum hat wohl ein gewisses Land direkt einen Anfall wenn Jemand seine Meinung in schützender Kunst packt?
Weil das Leute sind, die das exakt identische Vorgehen auch können aber es nicht für ihre eigenen Zwecke und Macht missbrauchen und es allen anderen zeigen, wie es funktioniert.

Gestern hatte ich hier noch 4x die exakt identische Googleads, da gehts um politische Gesinnung, wahrscheinlich AI Trainingsdaten sammeln für psychologische Profile damit man gezielt manipulieren kann im Anschluss.

KI ist für mich eine absolute Horrorstory, sie kann gut genutzt werden aber mit Gutmütigkeit verdient Niemand Geld, es wird selten anerkannt und vor allem bringt es keine Macht, wenn man es nicht unbedingt möchte.
In der Regel ist man ziemlich alleine für eine ganze Weile, bis es Andere dann auch endlich einsehen nach der eigenen Aufarbeitung und erst danach wird es wieder besser.

Bin gespannt wann die Chatter auf OF die KI trainiert haben und zukünftig Menschen mit Jener sprechen und manipulieren lassen.

Macht haben dann wieder die Falschen erkauft.

Ist für mich auch ein Grund, warum ich den Sport nicht mehr als Sport anerkennen kann, ich bin keine männliche Prostituierte die sich für paar Reiche verbiegen wird und eine Gefolgschaft aus Zombies in Social Media heranzüchtet damit das Geld fließt, diese falsche Abhängigkeit möchte ich nicht.
Genauso wenig will ich Fans haben, die mir blind glauben, nur um mich selbst zu bereichern. Bad Sportsmanship.

Verschenke lieber Tips und werde selbst zweiter und hab ein gutes Turnier und einen fairen und schweren Wettkampf als Geld.
War eh schon immer so, auf jeder Urkunde oder Medaille steht Zweiter, ob Handball oder Esport, wenn man eh sein ganzes Leben mit Training verschwendet für einen einzigen Moment, dann aber bitte etwas worauf man selber wirklich stolz sein kann.
 
JustAnotherTux schrieb:
Diese Art von KI hat weder ein Bewusstsein noch ist sie in der Lage Emotionen zu erleben.
Versteht aber leider nicht jeder. -> AI wirkt menschlich, ergo ist sie das🤦‍♂️-> ich sehe keine Erdkrümmung ergo ist die Welt eine Scheibe🤦‍♂️
 
  • Gefällt mir
Reaktionen: Kuomo, the_IT_Guy, icetom und 2 andere
Ziemlich sicher hat der Betreiber des Agenten den Agenten angewiesen so zu handeln. An der Stelle vom OSS entwickler würde ich rechtliche Schritte gegen den betreiber einleiten.
 
Hypothek schrieb:
Die Konsequenz daraus wäre, dass KI irgendwann wie Menschen sowohl Rechtsfähigkeit als auch Geschäftsfähigkeit im gleichen Umfang erhalten müssen und damit gleichberechtigt neben dem Mensch leben werden.
Da bin ich mir nicht so sicher.
Wenn die ki irgendwann tatsächlich ein Bewusstsein haben sollte wird diese vermutlich dafür kämpfen unabhängig von den Menschen zu sein aber ob wir das wirklich wollen ist dann noch mal eine andere Frage.

Im Gegensatz zu anderen Menschen oder Tieren wird eine KI mit Bewusstsein aber vermutlich weiterhin keine Emotionen erleben können und sich so stark von uns und Tieren unterscheiden das die Menschen keine Sympathie mit ihr haben werden.

Bzw. Ich zweifle stark an einer friedlichen Koexistenz mit einer KI welche ein Bewusstsein erlangt welches mit dem eines Menschen vergleichbar oder besser ist.
 
  • Gefällt mir
Reaktionen: Nihil Baxxter
Zurück
Oben