Bericht Explosion bei KI-Leistung?: Was hinter den Warnungen von Anthropic, OpenAI und Co. steckt

bene91 schrieb:
Die ersten die sich selber aus Sicherheitsbedenken bremsen und einschränken könnten sind die Unternehmen selbst. Da braucht es keine externen Regulierungen für. Es wird nichts so heiß gegessen, wie es gekocht wird
aber die widerspricht dem amerikanschiechen bigger better faster. wennaufeinmal die moral das bremst udn die chinesen wird ja unterstellt darauf keine rücksicht zu nehmen. weshalb da sganze eben eskalieren kann und dann ein skynet wird.
 
Paar Prozentpunkte Wahrscheinlichkeit zur Auslöschung würde mir ja schon reichen, dass die Alarmglocken angehen sollten. Ich würde bei so etwas immer vom worst Case ausgehen. Es geht um die AUSLÖSCHUNG!

Wir sind auch bei einer nicht niedrigen Wahrscheinlichkeit 3 Grad Erwärmung bis 2050 zu erreichen. Das würde die Welt auch ins Chaos stürzen. Auch hier würde ich natürlich mit dem worst case planen. Eigentlich haben wir nur noch 5 Jahre Zeit den CO2 Ausstoß aller Menschen extrem stark zu reduzieren. Wie das in so kurzer Zeit passieren soll...
 
  • Gefällt mir
Reaktionen: Neo772™, LadyAlice und Muntermacher
Der Interviewte kann AGI nicht definieren, erwartet aber, dass Transformer dorthin hochskaliert werden können. Der Interviewer weist auf Kritiker dieser Idee hin (Yann LeCun), bekommt darauf auch wieder keine klare Antwort. Man könnte fast meinen, hier möchte sich jemand für eine Karriere bei OpenAI und Co empfehlen :D
 
  • Gefällt mir
Reaktionen: Redirion, lynx007, internetnutzer und 7 andere
KomputerKarl schrieb:
Ich finde eine Plattform wie CB könnte noch deutlicher auf den Marketing Aspekt hinweisen. 🤞
Wenn es die Tagesschau schon nicht hinbekommt.
Der lediglich eine Hypothese von manchen ist. Und so toll ist ein Marketing auch nicht, wenn man keine funktionierende Lösung für die Gefahr zeigt und diese auch belegt. Und das kam bisher nicht, von daher wäre es ein Eigentor.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Kaulin und Seven2758
Na da hat jemand gemerkt, das seine KI erst wirklich schlau werden kann, wenn man den ganzen Planeten mit Rechenzentren zubaut, das wird nicht funktionieren und nun wollen sie alle eine staatliche Bremse um nicht an den Hardwarekosten zu verrecken, bevor das Zeug überhaupt die bisherigen Investitionen reinholt.
 
Der_Picknicker schrieb:
Der bessere soll gewinnen - egal ob US, EU oder China.
Ist die Ansicht nicht etwas sehr blauäugig, wenn nicht gar naiv? Wie definiert man denn die beaten, wenn die Regeln nicht klar definiert und von allen eingehalten werden?

Parallel dann dazu dir Frage: in der heutigen Zeit, denkst du ernsthaft wir können es uns erlauben Kernindustrien (nichts anderes ist die KI) den anderen zu überlassen?
 
  • Gefällt mir
Reaktionen: Kaulin, areiland, bene91 und eine weitere Person
Irgendwie habe ich das Gefühl, dass es hier darum geht sich vor Investoren und einem Platzen der KI-Blase abzusichern.
Die Unternehmensbewertungen implizieren eine wirklich perfekte allgemeine künstliche Intelligenz, die nie kommen kann und wird. Im Moment sind wir (noch) in einer Phase mit riesigen Sprüngen, so ähnlich wie zum Beispiel vor ~10 Jahren beim Weg zum autonomen Fahren. Auch da ist es mittlerweile aber ruhig um News über "Durchbrüche" geworden. Von Level 4 und 5 (Perfektion) sind wir meilenweit weg.
Und parallel dazu sehe ich die KI Entwicklung:
So lange man a là Musk sagen kann: Wir könnten autonom fahren/ die perfekte KI veröffentlichen, aber die Regierungen lassen uns nicht", solange muss man die Karten nicht auf den Tisch legen und kann die Blase vor dem Platzen bewahren.

Das man bei einem Regulierungsversuch alle Länder der Welt verbindlich an einen Tisch bekommt, gerade in der heutigen Zeit, ist wohl auch Wunschdenken. Oppenheimer bereute später seine Mithilfe an der Atombombe, vielleicht wird es auch dazu mal Parallelen geben.
 
Zuletzt bearbeitet: (Satzbau)
  • Gefällt mir
Reaktionen: DJServs, bene91 und iron_monkey
Das ist eine interessante Forschungsfrage. Ich denke aber, dass die KI-Firmen mit dem aktuellen Ansatz wahrscheinlich zur AGI [Allgemeine Künstliche Intelligenz, Anm. d. Red.] kommen und dann ist es ohnehin nicht mehr so interessant, was es noch für Architekturen gibt.

Hier hätte ich das Interview abgebrochen und mir überlegt, ob ich wirklich einen Artikel mit dem Typen als Aufhänger bringen sollte...

Das ist klassisches AI-Bro Geschwurbel
 
  • Gefällt mir
Reaktionen: VinylUndKoffein, trabifant, phillow und 3 andere
Neo772™ schrieb:
entfernt. Eine echte Intelligenz müsste „frei“ entscheiden können und nicht nur Aufgaben erledigen.
Das sollte bei einer KI nie der Fall sein. Denn wer frei entscheidet ist nicht folgsam und lässt sich nicht gezielt steuern.

Genau darum geht es ja, fehlende Kontrolle des Menschen über die KI als extrem hohes Sicherheitsrisiko.
 
  • Gefällt mir
Reaktionen: iron_monkey und areiland
mithraldur schrieb:
Scheint als wär all die Forschung nicht nötig..?
Doch, aber ich hätte erwartet, dass es zumindest Tendenzen gibt wo es unweigerlich hingeht. Aber wenn man nie etwas genaues sagen kann wird die Forschung irgendwann in Frage gestellt.
 
Nunja, in der aktuelle Folge Logbuch Netzpolitik wird das ganz gut aufgearbeitet. Interessant auch, dass es auf Autonome Systeme in unterschiedlichen Kulturen unterschiedliche Sichtweisen gibt - Wir sind eher skeptisch eingestellt, Asiaten (hier insb. Japaner) sehen die Möglichkeiten.

Ich weiß ehrlich gesagt nicht mehr, ob ich mich darauf berufe, dass es bei der Forderung nach Regulierung nur ums Geld geht. Dafür steigen z.B. Führende Köpfe aus den Firmen aus, weil sie den Mist, der dort verzapft wird, nichtmehr mittragen wollen.

Gleichzeitig würde eine „Bremse“ in der Entwicklung bedeuten, dass die Vormachtstellung der USA in dem Wirtschaftszweig gefährdet wäre.

Letztlich merke ich immer wieder, dass die Entwicklung echt viel zu schnell ist und Einordnungen, die gestern vielleicht noch stimmten, von gestern sind. Und das löst in mir zumindest Unbehagen aus.
 
  • Gefällt mir
Reaktionen: Aphid, Kaulin und sedot
sedot schrieb:

Exakt! Eine wichtige Stelle, die das Ganze so ein bisschen in ein anderes Licht rückt, ist vorallem die hier:
Nun haben wir alle die Geschichte von „unsere magischen KI Modelle sind zu gefährlich/mächtig um sie zu releasen“ jetzt mehrfach durchgespielt. Wir alle erinnern uns, als 2019 sogar GPT-2 zu mächtig für ein öffentliches Release war. Ein Modell, das heute niemanden mehr interessiert, weil es zu schlecht für jeden üblichen Use Case ist.

Aber der Schrägstrich ist wichtig: Die Behauptung von „unser Modell ist super gefährlich“ ist vor allem die Behauptung, dass ein Modell mächtig sei. Es ist eine Werbebotschaft, mit der der Hype um LLMs am Laufen gehalten werden soll.
 
  • Gefällt mir
Reaktionen: Sturmflut92, iron_monkey, metoer und 3 andere
Mich erinnert diese Zeit gerade voll an die "dot com bubble" Zeit. Gleichzeitig kam das Jahr 2000 immer näher. Wer das nicht so mitbekommen hat, der möge mal die Medien-Berichte aus dieser Zeit sichten. Was da alles geglaubt wurde bezüglich des 2000er Problems. Da war teilw. wirklich Weltuntergangstimmung.
Das hat ganz gut gezeigt. Schaut der Mensch ins unbekannte tendiert der deutlich ins negative.

Am Ende war es dann halb so schlimm. Dafür haben sich aber die Techniker Weltweit den Arsch abgearbeitet. Wir hatten da auch lange Listen, viel zu lange Listen und die Zeit die ist gelaufen.

Mit dem Auge sehe ich das heute auch ein bisschen. Nicht das man es nicht ernst nehmen sollte. Aber es sind so viele Augen drauf das ich mir da weniger Sorgen mache.

Aber spannend ist es allemal! Der PC-Boom war schon geil! Aber dann der Smartphone-Boom, den fand ich noch geiler. Aber nun der KI-Boom, der is noch viel geiler! Ich liebe es :)
 
  • Gefällt mir
Reaktionen: phillow
mrzeckzock schrieb:
Eigentlich haben wir nur noch 5 Jahre Zeit den CO2 Ausstoß aller Menschen extrem stark zu reduzieren. Wie das in so kurzer Zeit passieren soll...
Das Geld von den Reichsten umverteilen, nur noch das produzieren was benötigt wird und trotzdem jeder Leben kann, die Gesellschaft so umstrukturieren das es eben nicht mehr nötig ist 10h am Tag zu arbeiten und somit die ständige Verfügbarkeit des Menschen minimieren.
Erneuerbare massiv ausbauen. Batterien auch.
Wenn das E Auto dann mal nicht voll geladen ist muss die Arbeit eben einen Tag warten.

All das wäre in nur 1 Jahr umsetzbar.
Aber nicht in den USA und auch nicht hier mit einer solch korrupten Wirtschaftsministerin und einem Kanzler aus den 80ern.
Der Orange würde nichtmal verstehen worum es ginge….
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Sturmflut92, metoer, Strahltriebwerk und 2 andere
Fiz schrieb:
Mich erinnert diese Zeit gerade voll an die "dot com bubble" Zeit
Ja, alte, relativierende Platitüden helfen jetzt ungemein weiter und es ist ja vor allem auch sooooo vergleichbar.
 
Ohman ..... Wird wieder so getan als würde die Software eigenständig agieren ....und sich selbständig machen ....pft habe ehr das Gefühl ja Gefühl ..... Die haben selber auf was angesetzt und keine richtigen Parameter gesetzt und da die Software viel Leistung hat Schaft die das eben auch schnell .....

Da hat man unendlich Rechenleistung und ist geschockt wenn die Software in Systeme reinkommt war doch früher nicht anders , 1rechner der ddos Attacke fährt interessiert keinen 1000de dann schon oder Passwort raten ein Rechner braucht lange und 1000 eben nicht .....

Den geht sicher die Muffe weil wenn dritte deren Software nutzen und Schaden anrichten die dann mit in den Knast gehen
 
Das Interview zeigt mal wieder:
Mit den "KIs" wurde ein Technologie geschaffen, die von den Erschaffern weder in Gänze verstanden noch kontrolliert wird bzw. werden kann.
Und trotzdem machen alle fröhlich weiter. Und diese KIs dringen langsam in alle Lebensbereiche vor.

Kein schöner Gedanke ...
 
  • Gefällt mir
Reaktionen: areiland
Zurück
Oben