News CEOs führender KI-Unternehmen: Brief soll KI-entwickelte bio­logische Waffen verhindern

[mischaef]

Führende KI-Unternehmen, Wissenschaftler und Biosecurity-Experten fordern in einem offenen Brief neue gesetzliche Vorgaben für die Kontrolle synthetischer DNA und RNA. Anlass sind wachsende Sorgen, dass immer leistungsfähigere KI-Systeme die Hürden für die Entwicklung biologischer Waffen senken könnten.

Zur News: CEOs führender KI-Unternehmen: Brief soll KI-entwickelte bio­logische Waffen verhindern

 

[nighteeeeey]

Tolle Aussichten! Erinnert mich an den einen Mission Impossible mit Chimera.

 

[Shakj]

ah sweet man made horrors beyond my comprehension

Und mit dieser guten Nachricht allen ein tolles Wochenende!

 

[ragnarok666]

Ist die Entwicklung von biologischen Waffen nicht durch die UN Biological Weapons Convention untersagt? Oder stehen die USA mal wieder über den Rest der Welt?

 

[Zer0DEV]

Sehr verantwortungbewusstes Vorgehen, denn die Herstellung von biologischen Kampstoffen gehört natürlich ausschließlich in staatliche Hände. Denn, die wissen schließlich (genauso NICHT!) was sie tun.

Das das echte Gewissensbisse bei den "Verantwortlichen" sind, darf stark bezweifelt werden. Und wenn der nächste "Schurkenstaat" Bock drauf hat, macht er eh was er will. Da spielt es keine Rolle ob es Gesetze/Regularien gibt und welche Hintertürchen da eingebaut wurden, dass das bestimmte Klientel fein raus ist.

 

[DagdaMor]

Es wäre schon sinnvoll und NOTWENDIG, Regulierungen einzuführen, aber...
was nutzen die, wenn sich die Kriegstreiber daran nicht halten

Ich finde diese Entwicklung betreffend der KI erschreckend und katastrophal.

KI für sinnvolle Sachen zum Nutzen der Menschen mag noch okay sein.
Aber in den falschen Händen wird das die Welt in den Abgrund treiben.
Was damals in Filmen nur Zukunftsvisionen waren,
wird leider, in nicht allzu ferner Zukunft, die Realität.

Die KI hat den (ach so schlauen Menschen) überholt.
Das KANN nicht gutgehen 😢

 

[grabeskuehle]

Na habe die Ehre, Eisberg voraus.
Wir können höchstens drauf Wetten, welcher irre Dikator die Warnung als erstes in den Wind schießt oder gleich ganz ignoriert. Oder dadurch erst auf Ideen gebracht wird.
Das neue Atomare Wettrüsten.
What a time to be alive!

 

[Shogter12]

Welcome to Zombie Land 😎
Evtl gibt es ja bald das Lieferando für Viren an etwaige WarLords und sonstige Machthaber. Heute Ebola bestellt, morgen geliefert - eine neue Corona Variante, kein Problem - natürlich direkt inkl. eines Abos für eine kurzweilige Impfung, die alle 4-8 Wochen erneuert werden muss.

Mal im Ernst, KI ist so ein Thema über das jeder spricht, aber seltsamerweise macht sich kaum jemand im Vorfeld Gedanken darüber, was mit KI alles möglich ist.

Erst Gedanken machen, dann regulieren, dann veröffentlichen. Aber naja, wir werden noch sehen wo das alles hinführen wird 🤷‍♂️

 

[LuxSkywalker]

...als ob ein offener Brief dies verhindern könnte ^^

 

[Alter_Falter]

Da wird ein ein "Brief" und "Regularien" sicher irgendwen von irgendwas abhalten. In welcher Traumwelt leben die eigentlich?

Letztendlich geht es nicht darum irgendwas zu verhindern, sondern "den Anderen" (wer auch immer gerade der Gegner ist) den Zugang zu erschweren um den eigenen Vorteil zu sichern.

Alle Lack gesoffen...

 

[Silencium]

Welch Glück, dass dies nicht die Regel darstellt, auch noch auf CB solch sorgenvolle Nachrichten lesen zu müssen.
Ich gehe da mittlerweile mit einer gewissermaßen stoischen Art ran - verhindern kann ich es ohnehin nicht, was kommt, das kommt. Auswandern geht, aber ansonsten ist das doch nur vertane Liebesmüh. Da macht es mehr Sinn persönlich in Afrika den Kindern Bildung mitzugeben oder für sauberes Trinkwasser zu sorgen 🙃

KI hat und wird uns als Gesellschaft imho noch mehr Schaden als Social Media. Es könnte jedoch sein, dass wir aus SM gelernt haben - die Frage ist nur wen "wir" umfasst und ich habe die Vermutung: zu wenige und kaum die Richtigen.

Ah well ...

 

[JanMH]

Achso? Die Leute, die den Geist aus der Flasche gelassen haben, mahnen jetzt, die aktuelle US-Regierung (was für ein Witz), daß sie bitte Kontrollen einführen soll?

Wie wäre es denn mal gewesen, wenn man eine Technikfolgenabschätzung selbst gemacht, oder nicht den zweiten und dritten Schritt, vor dem ersten gemacht hätte?
Oder man hätte mal ernsthaft nachgedacht, was man vom Zaun bricht? Oder wäre nicht grenzenlos gierig?

Nein nein, alles unnötig. Die Regierung (🤣) wirds schon richten, und auch nicht schon daran arbeiten, oder durch den Brief auf den Trichter gebracht worden sein.

 

[Alesis]

Wir haben die mächtigsten Technologien der Menschheit, Gentechnik, KI, Kernenergie, in die Hände von privaten Konzernen gelegt. Und diese Konzerne bestimmen jetzt, wer Zugang hat, wer nicht, wer Millionen verdient, wer nicht.
Und wenn es kritisch wird, schreiben die CEOs einen Brief: Wir sind verantwortungsvoll.
Wie bei Pavianen. Die Macht ist unter eigener Kontrolle.

 

[Serana]

Ich frage mich nur gerade was genau, abgesehen vom allseits beliebten Virtue Signaling, das bringen soll? Der Geist ist doch schon längst aus der Flasche draußen.

Selbst wenn der us-amerikanische Kongress jetzt ein solches Gesetz beschlösse, gäbe es ja immer noch die anderen Staaten die ebenfalls über eigene AI-Modelle verfügen. Nehmen wir an ein wahnsinniger Superschurke schnappt sich ein paar gewissenlose Mikrobiologen und gibt ihnen den Auftrag mit AI-Hilfe eine Biowaffe zu entwickeln. Was würde besagten Schurken denn daran hindern einfach KEIN us-amerikanisches System zu benutzen sondern z.B. das chinesische Deepseek. Zumal er das ja (da er ja ein wahnsinniger Superschurke und nicht etwa blöd ist) auf eigener Hardware machen würde.

Bliebe noch die Beschaffung des genetischen Materials an sich. Aber so weit ich weiß kann ich nicht einfach in die nächste Apotheke marschieren um mir ein paar Pockenviren zu kaufen. Und die wenigen einschlägigen Händler dürften schon jetzt Kontrollmechanismen haben um derartige Szenarien möglichst zu verhindern. Ich schätze jedenfalls mal, daß in dem Augenblick in dem ich mir potentiell gefährliches Material bestelle, eine Anfrage an die zuständige Regierung rausgeht ob ich das überhaupt darf.

Ich würde auch behaupten, daß die Regierungen die tatsächlich Biowaffenforschung betreiben diese nicht etwa privatisiert haben.

 

[HighPerf. Gamer]

Wie albern, als ob ein Gesetz jemanden oder eine Organisation etc etc pp. daran hindern würde moralisch fragwürdige Dinge zu tun..... Gesetze werden jeden Tag von verschiedenen Menschen gebrochen im kleinen sowie im großen. Kriminelle Energie schert sich ein Dreck darum was auf einen "Stück Papier" geschrieben steht. Selbst Regierungen sind davon nicht ausgeschlossen auch die eigene.....

 

[BeBur]

Klingt für mich so, als wenn KI nur als Aufhänger verwendet wird um das Thema von gesetzlich vorgeschriebenen Screenings auf den Tisch zu bringen.

Ist für mich daher nicht wirklich ein KI Thema, aber klingt so, als wenn das äußerst wichtig ist.

 

[Blutomen]

Geist schon aus der Flasche ... ist zuspät für sowas.

 

[daVinci]

Eine Meldung, von der man gehofft hat, sie nie lesen zu müssen. Denn wenn die Menschen, die den umfassendsten Einblick in die Materie haben und am meisten von der Technologie an sich profitieren, davor warnen, dann ist es bereits mehr als machbar. Und der Kostenpunkt ist mit das Entscheidende, was es immer kleineren Gruppen ermöglicht, in Besitz solcher Waffen zu gelangen.

 

[Syrato]

Die Büchse der Pandora erschaffen, danach öffnen und damit Geld verdienen und dann, nach Jahren ein Brandbrief?

Kann man sich nicht ausdenken!

 

[Cool Master]

Ist die Entwicklung von biologischen Waffen nicht durch die UN Biological Weapons Convention untersagt?

Es ist auch untersagt Leute zu töten oder andere illegale Sachen zu machen. Hier gilt mache ich es nicht macht es jemand anderes.