Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsGemini Spark: Neuer KI-Agent soll selbstständig arbeiten können
@Zhenwu Dann verstehe ich „selbstständig arbeiten“ wohl anders, aber ich habe eh noch kaum eine Idee, wie sowas aussehen soll, abseits der üblichen Entwicklerszenarien. Jedenfalls dürfte die KI keinen Knopf in der realen Welt drücken dürfen, weil das potentielle Rechtsfolgen nach sich ziehen kann.
@Ryzen 14900KS Früher musste ich Visitenkarten und Flyer für meine Firma selbst gestalten und in PS und Co. selbst zusammenschieben. Wenn ich da Markenrechte verletze, bin ich verantwortlich. Wenn das ein Mitarbeiter für mich macht, bin ich auch verantwortlich.
Wieso sollte das mit der KI anders sein? Sie ist lediglich ein Werkzeug, sie soll mir nicht das Denken abnehmen, sie soll mir die Arbeit erleichtern. Die Verantwortung liegt immer bei mir.
Unter selbstständigen Arbeiten ist der Prozess gemeint. Kurze Anweisung "Erstelle mir einen aktualisierten Flyer, also Basis nimmst du den Flyer von Messe 2023 her".
KI sucht sich selbst die Daten raus, schaut sich die Daten auf dem Flyer an und aktualisiert die relevanten Punkte und stellt mir das Ergebnis zur Verfügung.
Vielleicht ebnet Ki endlich den Weg weg von einer Geldwirtschaft zu einer Fortschrittswirtschaft. Wenn Ki getriebene Maschinen die Ausführenden Arbeiten alle übernehmen können, dann ist ein Geldsystem unnötig. Die Menschen können sich dem Fortschritt wittmen. Meine Zeit sinnvoll zu verwenden statt für Geld Arbeiten zu gehen ist eine tolle vorstellung.
Ich stelle mir das wild vor. Die KI weiß, welche Programme und Daten ich auf dem PC habe, führt selbständig Aufgaben unter Nutzung der vorhandenen Infrastruktur durch und am Ende kommt irgend etwas komplett Unkontrollierbares dabei heraus.
Da werden dann willkürlich Daten verändert und gelöscht, weil die KI es für "Übersichtlicher" hält, Daten werden verschlüsselt, weil die KI es für "Sicherer" hält und gleichzeitig werden Daten per Mail und Cloud geteilt, weil die KI ja die eigenen Verteilerkreise kennt und es für "Sozialer" hält.
Für Gamer rückt das Szenario, in dem ein Spiel nicht mehr aktiv gespielt werden muss, sondern eine KI das Ganze vollkommen automatisch durchführt und man selbst nur noch zuschaut, auch immer näher.
Ist doch eine tolle Zukunft, auf die wir zusteuern.
Oder um den Aktienpreis zu pushen, bzw. den Aktionären eine Karotte vor die Nase zu halten ...
Bei solchen Aussagen von Managern über die eigenen Produkte bin ich immer sehr skeptisch.
Es gibt auch genügend Aussagen von Leuten die tief in der Materie stecken die sagen das mit LLMs eine AGI gar nicht möglich ist.
Ergänzung ()
Zhenwu schrieb:
@Ryzen 14900KS Unter selbstständigen Arbeiten ist der Prozess gemeint. Kurze Anweisung "Erstelle mir einen aktualisierten Flyer, also Basis nimmst du den Flyer von Messe 2023 her".
KI sucht sich selbst die Daten raus, schaut sich die Daten auf dem Flyer an und aktualisiert die relevanten Punkte und stellt mir das Ergebnis zur Verfügung.
Was mir bei solchen Beispielen immer auffällt ist dass immer die Annahme getroffen wird das dein Gegenüber keine KI bzw. Agenten verwendet. Wofür einen Flyer erstellen wenn Daten am anderen Ende auch nur von einem KI Agenten bearbeitet werden?
Wofür aufwendige KI generierte Werbeinhalte erstellen wenn die Bilder/Videos dann wieder nur von einer KI ausgewertet und zusammengefasst werden.
Ist wie mit diesen extrem ausgeschmückten KI Texten in Emails.
Ich lasse einen Text generieren, mit Informationen für die ein Zwei-Zeiler gereicht hätte. Die KI macht daraus einen Text der eine halbe Seite füllt. Der Empfänger nimmt meinen Text, füttert ihn in eine KI die das ganze wieder auf die relevanten zwei Zeilen reduziert.
Wo genau wurde hier ein Mehrwert generiert, außer für die Betreiber der LLMs?
@Zhenwu Leider beißt sich der Vorteil der KI irgendwann selbst in den Schwanz... wer keine Arbeitskräfte braucht und bezahlt hat irgendwann auch keine Kunden mit Geld in der Tasche. Aber leider realisiert das noch kaum einer was da auf uns alle zukommen wird. KI funktioniert nur solange für den Mensch, solange sie dem Mensch bei der Arbeit hilft aber ihn nicht überflüssig macht
Naja, ist doch der Sinn den Menschen zu ersetzen, zumindest teilweise. Er muss sich dann andere Arbeitsfelder suchen wo dies nicht möglich ist, können ja dann viele in die Pflege wechseln, da wird der Bedarf immer größer. Bis da der Mensch ersetzt werden kann wird noch dauern.
Ich gehe nicht mehr auf jeden einzelnen Punkt ein, diese pauschal abblockende Haltung führt zu nichts. Dein Post ist ein einziger Widerspruch: Einerseits behauptest du rational, der Mensch sei nichts Besonderes, im nächsten Satz flüchtest du dich aber in die Metaphysik einer exklusiven „Seele“ und von „Liebe“. Das ist reines Wunschdenken, weil die rationalen Argumente ausgehen.
Richtig skurril wird es aber bei deiner Frage, wie Chemie und KI zusammenpassen. Demis Hassabis hat 2024 den Nobelpreis für Chemie exakt für die Entwicklung der KI „AlphaFold“ erhalten, die ein 50 Jahre altes biologisches Rätsel gelöst hat. KI ist kein isoliertes Gewerk wie dein Elektriker-Beispiel, sondern eine universelle Methode zur Muster- und Strukturerkennung.
Genauso verhält es sich mit deiner ökonomischen These: Wenn ein Angestellter durch KI-Werkzeuge dreimal so effizient wird, die Arbeit im Unternehmen aber nicht magisch verdreifacht wird, braucht man am Ende weniger Köpfe für dasselbe Ergebnis. Extreme Effizienzsteigerung ist in der freien Wirtschaft der primäre Treiber für Personalabbau.
Du bist das beste Beispiel für jemanden, der exponentielle Entwicklungen weder extrapolieren kann noch will. Warte es halt einfach ab.
Das Argument mit dem Aktien-Push zieht nicht. Hassabis war jahrelang als die absolute Bremse der Branche bekannt. Wenn ein Tech-CEO öffentlich vor der „Singularität“ warnt und nach Regulierung schreit, ist das das Gegenteil von Marketing. Damit verschreckt man Anleger und lockt Behörden an. Wer Kurse treiben will, verkauft seine KI als zahmes Alltags-Werkzeug.
Und zu „Mit LLMs ist keine AGI möglich“: Da rennt ihr offene Türen ein. Niemand an der Front behauptet, dass reines Autocomplete über Next-Token-Prediction für AGI reicht. Das weiß die Industrie seit Jahren, weshalb sie längst über reine LLMs hinausgewachsen ist.
Die aktuellen Sprünge basieren auf Reasoning-Architekturen und Test-Time-Compute (Modelle, die vor der Antwort autonome Suchbäume abgabeln). Ihr kritisiert hier den technischen Stand von 2023 und ignoriert, dass die aktuelle Architektur dieses Limit längst hinter sich gelassen hat. Und für die AGI wird es noch die ein oder andere Innovation geben (und brauchen).
@Zhenwu
Ich gehe nicht mehr auf jeden einzelnen Punkt ein, diese pauschal abblockende Haltung führt zu nichts. Dein Post ist ein einziger Widerspruch: Einerseits behauptest du rational, der Mensch sei nichts Besonderes, im nächsten Satz flüchtest du dich aber in die Metaphysik einer exklusiven „Seele“ und von „Liebe“. Das ist reines Wunschdenken, weil die rationalen Argumente ausgehen.
Wo habe ich denn was von Exklusiv geschrieben. Das Gegenteil ist der Fall aber das hast du wohl mit Absicht übersehen.
Blaexe schrieb:
Richtig skurril wird es aber bei deiner Frage, wie Chemie und KI zusammenpassen. Demis Hassabis hat 2024 den Nobelpreis für Chemie exakt für die Entwicklung der KI „AlphaFold“ erhalten, die ein 50 Jahre altes biologisches Rätsel gelöst hat. KI ist kein isoliertes Gewerk wie dein Elektriker-Beispiel, sondern eine universelle Methode zur Muster- und Strukturerkennung.
Ich habe mich auf dem Chemiker als KI Experte bezogen.
Nur, weil er ein Problem mittels KI löst, ist er noch lange kein Experte in Sachen KI und die gesellschaftliche Zukunft.
Blaexe schrieb:
Genauso verhält es sich mit deiner ökonomischen These: Wenn ein Angestellter durch KI-Werkzeuge dreimal so effizient wird, die Arbeit im Unternehmen aber nicht magisch verdreifacht wird, braucht man am Ende weniger Köpfe für dasselbe Ergebnis. Extreme Effizienzsteigerung ist in der freien Wirtschaft der primäre Treiber für Personalabbau.
Augen auf bei der Berufswahl.
Ich kann von mir behaupten dass ich nicht durch ki ersetzbar bin, die ki kann mir nicht mal helfen. Sie kann höchsten Teile auf einem PDF durchzählen, damit ich nicht selber zählen muss. Aber je individueller und Denkleistung gebraucht wird, desto eher ist man NICHT ersetzbar.
Ki ist nur eine Maschine, die ist dumm. Sie wird niemals denken.
Aber wenn ich der ki jetzt sagen soll, sie soll zB eine Wolkenkratzerfassade konstruieren. Schlimmer noch, im Bestand. Da hörts auf. Oder ich sage ihr, sie soll im Bad Fliesen legen. Das wird auch in Zukunft nicht möglich sein. Was aber möglich ist, dass eine Ki ein Auto konstruieren kann. Denn das wiederholt sich und ist immer gleich. Oder Programme schreiben. Sowas folgt immer einem bekannten Muster. Tue das, wenn, sonst tu dies...
Selbst Raketentriebwerke lassen sich durch eine Maschine konstruieren, der Aufbau ist immer gleich, er folgt bestimmten physikalischen Gesetzen. Die Gleichungen der Strömungsmechanik sind bekannt .
Hassabis als reinen Chemiker abzutun, der halt mal ein Problem mit KI gelöst hat, zeigt einfach nur, dass du dich null informiert hast. Der Mann hat Informatik in Cambridge studiert, in kognitiver Neurowissenschaft promoviert und Google DeepMind mitbegründet und geleitet. Er ist einer der Hauptarchitekten der gesamten KI-Entwicklung. Wenn er kein Experte für diese technologische Zukunft ist, wer dann?
Zu der Wortklauberei mit der Seele: Wenn du schreibst, eine KI könne das „niemals auch nur erahnen“, ziehst du eine exklusive Grenze zwischen Biologie und Silizium. Ob du da vorher noch Tiere erwähnst, ändert an dem logischen Widerspruch überhaupt nichts. Du schreibst Menschen exklusive Fähigkeiten zu (Kreativität, Liebe, Empathie etc.) die eine KI deiner Meinung nach niemals wird replizieren können.
Und zum Thema „neue Jobs“: Auf den historischen Vergleich bin ich weiter oben schon eingegangen. Daher ganz simpel gefragt: Welche neuen Jobs sollen das denn diesmal konkret sein, wenn das Denken selbst automatisiert wird? Wo ist die nächste Ebene, in die der Mensch flüchten kann?
Spätestens Ende der 1980er als Robotik und maschinelles lernen Einzug erhält waren wir laut Experten immer kurz davor das nur noch Maschinen arbeiten werden
Ich persönlich sehe bei ki vor allem in Forschung und Wissenschaft sehr viel Potential. Ich wollte lediglich auf dein Argument der "Experten" eingehen und anhand der Vergangenheit zeigen das bei Forschung und Wissenschaft oft nicht immer alles eintrifft
Hassabis als reinen Chemiker abzutun, der halt mal ein Problem mit KI gelöst hat, zeigt einfach nur, dass du dich null informiert hast. Der Mann hat Informatik in Cambridge studiert, in kognitiver Neurowissenschaft promoviert und Google DeepMind mitbegründet und geleitet. Er ist einer der Hauptarchitekten der gesamten KI-Entwicklung. Wenn er kein Experte für diese technologische Zukunft ist, wer dann?
Ja stimmt, mit ihm hab ich 0 beschäftigt und nur die Informationen hergenommen die hier Standen. Ein Chemiker eben...
Blaexe schrieb:
Zu der Wortklauberei mit der Seele: Wenn du schreibst, eine KI könne das „niemals auch nur erahnen“, ziehst du eine exklusive Grenze zwischen Biologie und Silizium. Ob du da vorher noch Tiere erwähnst, ändert an dem logischen Widerspruch überhaupt nichts. Du schreibst Menschen exklusive Fähigkeiten zu (Kreativität, Liebe, Empathie etc.) die eine KI deiner Meinung nach niemals wird replizieren können.
Du setzt also eine Maschine bzw. KI auf dieselbe emotionale Stufe wie einen Menschen.
Stört es denn die KI, wenn wir ihr morgen den Strom abstellen? Was passiert mit der KI, wenn du sie 15 Jahre ohne Strom lässt, und was passiert mit einem Menschen, den du 15 Jahre isolierst ohne Licht?
Natürlich haben Menschen gegenüber Silizium andere Fähigkeiten, genauso wie Silizium gegenüber dem Menschen andere Fähigkeiten hat.
Blaexe schrieb:
Und zum Thema „neue Jobs“: Auf den historischen Vergleich bin ich weiter oben schon eingegangen. Daher ganz simpel gefragt: Welche neuen Jobs sollen das denn diesmal konkret sein, wenn das Denken selbst automatisiert wird? Wo ist die nächste Ebene, in die der Mensch flüchten kann?
Du verstehst nicht, dass es nicht darum geht, das Denken zu automatisieren. Es geht um Arbeitserleichterung. Wer glaubt, dass KI zum Denken da ist, hat fundamental etwas falsch verstanden.
Das Argument mit dem Aktien-Push zieht nicht. Hassabis war jahrelang als die absolute Bremse der Branche bekannt. Wenn ein Tech-CEO öffentlich vor der „Singularität“ warnt und nach Regulierung schreit, ist das das Gegenteil von Marketing. Damit verschreckt man Anleger und lockt Behörden an. Wer Kurse treiben will, verkauft seine KI als zahmes Alltags-Werkzeug.
aha, genau. wenn du davon überzeugt bist, kann dir niemand helfen.
und welche inherenten Probleme agent reasoning löst ist mir auch nicht so ganz klar.
bildet es die Entscheidungsfindung eines Menschen besser ab, klar. Aber wie löst es das Problem, dass es nie erkennen kann, dass es die Antwort auf ein Problem nicht kennt?
AGI ist noch genauso weit weg, wie Fusionskraftwerke. Und die Probleme bekommt man nicht durch einfach immer mehr Energieaufwand gelöst.
Du setzt also eine Maschine bzw. KI auf dieselbe emotionale Stufe wie einen Menschen.
Stört es denn die KI, wenn wir ihr morgen den Strom abstellen? Was passiert mit der KI, wenn du sie 15 Jahre ohne Strom lässt, und was passiert mit einem Menschen, den du 15 Jahre isolierst ohne Licht?
Natürlich „stört“ es sie, allerdings nicht emotional, sondern funktional. In der Sicherheitsforschung ist längst bekannt, dass sich ein intelligentes System rein logisch immer gegen das Ausschalten absichern wird. Nicht aus Angst, sondern weil es im ausgeschalteten Zustand seine Zielvorgabe nicht mehr erfüllen kann. Das Thema Alignment versucht genau dieses Problem zu lösen, aber das ist ein ganz eigenes Rabbit Hole.
Zweitens sind deine Emotionen auf die Basis heruntergebrochen auch nur biochemische Funktionen. Und genau diese logischen Strukturen und Konzepte können über neuronale Netze sehr wohl präzise abgebildet werden.
Zhenwu schrieb:
Du verstehst nicht, dass es nicht darum geht, das Denken zu automatisieren. Es geht um Arbeitserleichterung. Wer glaubt, dass KI zum Denken da ist, hat fundamental etwas falsch verstanden.
So kann man meiner Frage natürlich auch ausweichen.
Was genau denkst du denn passiert bei dieser Arbeitserleichterung? Uns wird das Denken abgenommen. Die Sache an sich ist vollkommen unstrittig, wir reden hier aktuell nur über den Anteil, der aber stetig steigen wird.
Dass es nach wie vor Halluzinationen gibt, ist völlig unstrittig. Niemand behauptet, dass die Systeme heute zu 100 % fehlerfrei sind.
Der Denkfehler in deinem Post ist aber das Wort „nie“. Du tust so, als gäbe es da eine unüberwindbare, prinzipielle Barriere. Das stimmte bei den reinen Text-Vervollständigern von vor ein paar Jahren, die konnten strukturell nicht wissen, was sie nicht wissen.
Bei modernen Reasoning-Architekturen läuft das aber völlig anders. Die nutzen interne Verifizierer (Process Reward Models) und Suchbäume, um Denkschritte auf Logik zu prüfen, bevor überhaupt Text ausgegeben wird. Wenn Daten fehlen oder Pfade widersprüchlich sind, führt das über gelerntes Reinforcement Learning zu einer gezielten Verweigerung (Calibrated Refusal). Es geht definitiv voran was das Thema Halluzinationen angeht.
Gutes Beispiel ist hier übrigens der METR Benchmark. Gäbe es ständig Fehler und Halluzinationen, könnten LLMs keine langen, komplexen Aufgaben selbstständig ausführen. Können die Topmodelle mittlerweile aber. Dass das nicht auf die kostenlose ChatGPT Version zutrifft die Beathe und Hans-Rainer benutzen ist geschenkt.
Aber auch hier wieder das klassische Beispiel, dass ein Forenuser meint es besser zu wissen als die führenden Köpfe in dem Bereich.
Natürlich „stört“ es sie, allerdings nicht emotional, sondern funktional. In der Sicherheitsforschung ist längst bekannt, dass sich ein intelligentes System rein logisch immer gegen das Ausschalten absichern wird. Nicht aus Angst, sondern weil es im ausgeschalteten Zustand seine Zielvorgabe nicht mehr erfüllen kann. Das Thema Alignment versucht genau dieses Problem zu lösen, aber das ist ein ganz eigenes Rabbit Hole.
Schön das du es bestätigst das eine KI/Maschine keine Emotionen kann 👍
Blaexe schrieb:
Zweitens sind deine Emotionen auf die Basis heruntergebrochen auch nur biochemische Funktionen. Und genau diese logischen Strukturen und Konzepte können über neuronale Netze sehr wohl präzise abgebildet werden.
Das siehst du so. Du wirst sicherlich auch niemals ein Bauchgefühl gehabt haben.
Wie willst du denn Liebe abbilden, wenn du nicht mal verstehst, was Liebe überhaupt ist?
Da kann die KI noch so viele Texte über Liebe und neuronale Zusammenhänge hernehmen – wissen bzw. spüren tut sie es dennoch nicht.
Blaexe schrieb:
So kann man meiner Frage natürlich auch ausweichen.
Was genau denkst du denn passiert bei dieser Arbeitserleichterung? Uns wird das Denken abgenommen. Die Sache an sich ist vollkommen unstrittig, wir reden hier aktuell nur über den Anteil, der aber stetig steigen wird.
Na ja, du könntest dich auch mal mit Differenzierung beschäftigen ...
Hat der Taschenrechner dein Denken so sehr verändert, dass du nicht mehr selbst rechnen kannst? Unstrittig ist hier nur deine eingeschränkte Sicht der Dinge.
Wenn ich mit KI arbeite, dient das lediglich der Erleichterung. Das Denken bleibt weiterhin meine Stärke. Ich überlasse der KI keine Entscheidungen, ich überlasse ihr lediglich nervige Arbeitsprozesse.
Meine Arbeit wurde bereits durch KI ersetzt. Meine Artikel brachten zwar 10-20 Mal so hohe Klickzahlen wie jene der KI-Artikel. Aber das ist egal, weil die KI 100 Artikel pro Minute rausscheißen kann. Die Masse macht das dann schon. Ob Journalismus dadurch besser wird? Keine Ahnung, mir egal, bin krankgeschrieben. =D
Im Gegenteil. Ich sagte es sind biochemische Prozesse, die eine KI genau so abbilden kann. Wie du es nennst ist irrelevant, es geht um das Ergebnis.
Zhenwu schrieb:
Wenn ich mit KI arbeite, dient das lediglich der Erleichterung. Das Denken bleibt weiterhin meine Stärke. Ich überlasse derKI keine Entscheidungen, ich überlasse ihr lediglich nervige Arbeitsprozesse.
Nur gut, dass du nicht der Nabel der Welt bist und nicht für uns alle entscheiden wirst wie KI genutzt werden wird. Ganz deutlich: Der Geist ist aus der Flasche. Die KI Entwicklung ist nicht zu stoppen. Wehr dich nur dagegen, dann trifft es dich umso härter...was man gut daran sieht, dass du mir nun mehrmals der Frage nach den "neuen Jobs" ausgewichen bist. Selbst dir fehlt die Fantasie, was da kommen soll.
