Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsKI als Jobkiller: Ausgerechnet betroffene Berufe legen zu
In deinem Fall könnte es helfen deine Prompts zunächst einmal auf Typos, Grammatik- und Semantikfehler zu prüfen. Jedes falsche Wort führt zu einem schlechteren Embedding und in der Folge auch zu schlechteren Antworten.
Nicht nur das, man muss auch den möglichen Spielraum zur Interpretation des Prompts minimieren (oder gar eliminieren). Man muss im klaren sein, dass man gerade nicht einem denkenden Menschen eine Anweisung gibt, die er mit Sinn und Verstand interpretieren kann, sondern einem nicht deterministischen Algorithmus, der Sprache berechnet.
Das LLM hinterfragt nichts und führt blind aus, auch wenn die Art und Weise wie es antwortet es einem anders suggeriert (was in meinen Augen auch Teil des Marketings ist).
Zugegeben, das normale ChatGPT ist alles andere als für Coden gedacht und ich wollte aus diesem Grunde auch mal Codex mit GPT 6.1 ausprobieren, dass über Unity CLI mit dem Projekt verbunden werden soll.
Als Senior Dev kann ich sowohl den Artikel als auch diese Meinung hier nur bestätigen. Wir werden definitiv produktiver und Junior Entwickler werden plötzlich zur Last, denn eine Hilfe. Ich gebe simple Aufgaben eher der KI als einem unerfahrenem Dev, dessen Code ich nacharbeiten muss. KI ist hier mittlerweile erschreckend fehlerfrei. Und für die komplexen Probleme ist sie eine ungemeine Hilfe - wir schaffen einfach mehr im Unternehmen. Dadurch gibt es statt Stellenabbau eher mehr Einstellungen von erfahrenen Entwicklern, die KI architektonisch für riesige Codebasen auch gut steuern können.
Und hier liegt das Problem und Paradoxon imho - wer und wie bildet man dann noch aus? Die meisten erfahrenen Entwickeler werden bestätigen: Man sammelt sein Wissen aus Projekten mit pain points, man lernt aus jahrelangen Fehlern. Die jungen Devs werden faul, wollen alles mit KI abliefern und lernen kaum noch was dabei. Wir werden hier wohl daher eingreifen und KI in der Ausbildung unserer sehr jungen Entwickler stark reglementieren.
was würdest du einem angehenden Anwendungsentwickler raten? Ganz ohne KI? Ich muss bald ein 6 Monatiges Praktikum machen aber ich habe Sorge das ich einfach nicht die erforderte Leistung erbringen kann, wenn ich auf Ki verzichte
frage: Was ist daran bitte so schlimm? Vorher haben es viele nicht gut hinbekommen und nehmen sich jetzt die Hilfe der KÌ um nicht Unsummen an irgendwelche 3. klassigen Agenturen verschwenden zu müssen.
Das Geld landet dann eben nicht bei einer drittklassigen Agentur im Inland, sondern bei einem Silicon-Valley-Giganten und im anstehenden KI-Höllenfeuer schließlich in den Taschen irgendwelcher Mogule, die es geschafft haben die wenigen Gewinne zu privatisieren und die enormen Verluste (Rechenzentren) zu sozialisieren.
Das Geld landet dann eben nicht bei einer drittklassigen Agentur im Inland, sondern bei einem Silicon-Valley-Giganten und im anstehenden KI-Höllenfeuer schließlich in den Taschen irgendwelcher Mogule,
1. "Die Alten" punkten mit Erfahrung und "Netzwerk" (was positiv und negativ gedeutet werden kann), die Jungen kommen nicht mehr rein und/oder sind die ersten, die fliegen. Sind ja auch am Arbeitsmarkt statistisch leichter vermittelbar ;-)
2. Ausbildung bzw. Anfänger einstellen spart man weg
3. Die Technik wird oft unhinterfragt wahllos eingesetzt. Scherben werden danach zusammengekehrt.
Hatten wir das nicht schon mehrfach?
Hocken nicht in vielen größeren Firmen irgendwelche "altverdienten", die unantastbar sind und eigentlich abseits ihrer sicherlich wertvollen Erfahrung fast mehr Arbeit produzieren als erledigen (nichts gegen ältere Kollegen, ich arbeite sehr sehr gerne mit älteren Kollegen zusammen, aber es gibt diese "Postenblockierer")? Jene, die gegen jede konstruktive Kritik oder Hilfestellung immun sind?
Gibt es nicht genug Firmen, die eine Alterspyramide haben, die irgendwie in der Mitte nen ganz engen Gürtel hat, wo irgendwann mal jahrelang man gemeint hat ja nicht ausbilden zu müssen, keinen mehr einstellen zu müssen, weil irgendeine Technik..... und dann kam das große Gejammer.
Und gerade alles aus der IT läuft ja immer so, dass man es erstmal auf alles draufwirft und es ist ja so supertoll und dann "ups". Und mit jeder Runde wird das schlimmer. KI hat bestimmt großes Potential, aber auch großes Potential Mist zu bauen. Aber statt junge Leute einzustellen, die sich genau darauf dann im Betrieb spezialisieren, die KI zu kontrollieren und zu trainieren, zu verstehen, und das ganze auch den anderen Kollegen zu erklären, da die Schnittstelle zu bilden, das passiert nicht. Da müsste man halt erstmal Geld in die Hand nehmen, in Vorkasse gehen. Geht ja gar nicht. Dabei ist Ausbildung eben immer erstmal Vorkasse. Man erntet später. Aber sie lernen halt nicht.
Und dann werden wieder irgendwelche "Spezialisten" geholt, für viel Geld, um es zurechtzubiegen. Dabei hätte man es mit einem viiiiiel besseren Ergebnis in der Firma aufbauen können. Aber nööööö. Hätte ja Geld gekostet
Und jetzt versuch das mit unserem Turbokapitalismus zu vereinbaren. Ist "KI" 2 Dollarcent billiger und vllt 10% effektiver hat nicht die "KI" das Problem ihre Familie zu ernähren.
was würdest du einem angehenden Anwendungsentwickler raten? Ganz ohne KI? Ich muss bald ein 6 Monatiges Praktikum machen aber ich habe Sorge das ich einfach nicht die erforderte Leistung erbringen kann, wenn ich auf Ki verzichte
Nutze KI, aber tauche in den Code ein, zumindest partitiell. Frage die KI warum sie etwas so und nicht anders gelöst hat. Lass (eine andere) KI ein Review machen und schau dir an, was sie gefunden hat. Lerne aus den Fehlern der KI oder finde heraus warum sie doch nicht recht hatte.
@Micha- Sorry, falschen User fürs Zitat verwendet. Eigentlich sollte das an Glasreiniger gehen.
Ergänzung ()
Glasreiniger schrieb:
was würdest du einem angehenden Anwendungsentwickler raten? Ganz ohne KI? Ich muss bald ein 6 Monatiges Praktikum machen aber ich habe Sorge das ich einfach nicht die erforderte Leistung erbringen kann, wenn ich auf Ki verzichte
Plus, aus meiner Sicht auch sehr wichtig, verbrate nicht unfassbar viele Tokens, wenn du in einem längeren "Gespräch" nicht weiterkommst, weil dir die KI immer und immer wieder dasselbe rät, dies auch (Bauchgefühl) tendenziell in die richtige Richtung geht usw. So bescheuert das jetzt klingen mag, aber ich bekomme es bei unseren Azubis auch immer mehr mit, weil das tatsächlich oftmals gar nicht mehr vorhanden ist, versuche mehr "mitzudenken".
Ich gebe dir ein einfaches Beispiel: Wenn dir ein Funktionsaufruf bei einem Tool ums BEEP nicht funktionieren möchte, die KI ständig "Du musst ein anderes Modell verwenden" sagt, dir dein Bauchgefühl jedoch "Was ist denn das für ein Bullshit?" sagt, dann trau dich einfach mal den Funktionsaufruf auf "Legacy" umzustellen.
Darüber freut sich dein Chef, über den Versuch, über dein "Ich möchte es aber hinbekommen", am Ende viel mehr als über die 1.400 Euro für die Tokens auf der Firmenkreditkarte. Und falls du dir tatsächlich unsicher bist, ob der Laden dann "BUMM" macht, wenn du den Schalter umlegst, dann frag Menschen, nicht stundenlang die KI. Auch dafür bekommt man irgendwann ein Bauchgefühl, ob einem die KI hier wirklich auf den Punkt einen Treffern liefern wird, oder dich nur in die richtige Richtung schupsen kann.
Ach so, ganz vergessen: Und bitte lade keine Screenshots mit internen Firmeninformationen "einfach nur mal so" hoch, weil du zu faul warst, bei Finance nachzufragen - alles schon erlebt. ;-)
was würdest du einem angehenden Anwendungsentwickler raten? Ganz ohne KI? Ich muss bald ein 6 Monatiges Praktikum machen aber ich habe Sorge das ich einfach nicht die erforderte Leistung erbringen kann, wenn ich auf Ki verzichte
Ich denke bei dir vermischen sich zwei Dinge: sich einerseits natürlich im Praktikum zu beweisen. Und ich wüsste nicht, warum du dir da Fussfesseln ohne KI selbst anlegen solltest. Aber sich andererseits hoffentlich als Softwareentwickler trotzdem weiterentwickeln zu wollen. Und hier würde ich dir wärmstens dieses Buch empfehlen, auch in Zeiten von KI:
Und insbesondere das Kapitel "Culture of Learning". Mir half das sehr, zu lernen, wie man Softwareentwicklung am besten... lernt.
Und jetzt versuch das mit unserem Turbokapitalismus zu vereinbaren. Ist "KI" 2 Dollarcent billiger und vllt 10% effektiver hat nicht die "KI" das Problem ihre Familie zu ernähren.
Ja. Aber spätestens wenn mein Chef mir das ins Gesicht sagt, dann such ich mir nen neuen Job, denn für so eine Firma arbeite ich nicht. Und von so einer Firma kauf ich auch nichts.
Ich habe so einen Schritt schon einmal gemacht. Immer agieren. Ich bin mir zu keiner Arbeit zu schade, wenn man mich und die von mir geleistete Arbeit wertschätzt. Und wenn eine Firma meint, sie brauche mich nicht und könne mich durch KI ersetzen, dann schau ich mir von außen an wie die Buzze an die Wand fährt.
Meiner persönlichen Meinung ist die IT-Branche schon vor KI extrem unattraktiv gewesen. Ich war ja eh nur mit einem Teil meines Job drin (was möglicherweise Teil des Problems war), aber mit dem Teil war ich schon lange fertig bevor ich da raus bin (2016).
Aber die IT ist schnelllebig und möglicherweise ist es ein Generationenproblem, dass "meine" IT nun einmal die der 90er Jahre ist und ich da in den 2000er noch fein war, aber es mir dann zu dumm wurde. Und den nächsten wird es jetzt so langsam zu dumm und mit 2030 ist es dann nicht mehr "deren IT" und da muss man dann einfach anerkennen, dass es eine neue Generation gibt und deren die Türen aufmachen.
Wenn es einer Firma nur um den letzten Dollarcent geht, dann ist die Firma keinen Dollarcent wert für zu arbeiten. Ganz einfach.
Das ist eine sehr gute Frage. Ich denke aber, dass sich dieser Ausbildungsfokus jedoch mehr in Richtung Universtitäten verlagern wird oder verlagern muss. Oder wenn man ganz schwarz denkt...Wird es diese jungen Juristen oder mich in 10-20 Jahren überhaupt noch brauchen? Mit 37 gehöre ich Mitnichten zum alten Eisen. Über meinen Nachfolger mache ich mir also noch gar keine Gedanken. Ich würde bewusst nur noch Juristen einstellen, die vor der KI-Ära ihre Anwaltsprüfung gemacht haben.
Die Ausbildung ist natürlich essenziell. Aber sie muss auch an der richtigen Stelle ansetzen: Wichtig wäre es, schon im Kindergarten und in der Grundschule die ersten Schritte zu unternehmen, um den jungen Menschen zu zeigen, dass Handy und Computer nicht nur ein Portal für Social Media sind, sondern Werkzeuge, die dem Menschen das Leben sehr erleichtern können. Heute ist es so, dass die "Erleichterung" für die jungen Leute nur darin besteht, Unwichtiges zu konsumieren und den Lernprozess zu blockieren. Zudem haben sie vom echten Umgang mit Computern fast keine Ahnung und können nur "Klick für Klick" damit spielen.
Richtiges Lernen kann perfekt von der KI unterstützt werden, aber nicht in einer Frage und dem Akzeptieren der Antwort, sondern nur, wenn man lernt, die KI als "Sparringspartner" zu verwenden.
Man muss im klaren sein, dass man gerade nicht einem denkenden Menschen eine Anweisung gibt, die er mit Sinn und Verstand interpretieren kann, sondern einem nicht deterministischen Algorithmus, der Sprache berechnet.
Genau das sind Sprachmodelle: nicht mehr und nicht weniger – super auf den Punkt gebracht.
Sie haben kein Bewusstsein, kein Gedächtnis und somit kein Erinnerungsvermögen.
Sie verstehen nicht, was sie aus einzelnen Worten zu Sätzen zusammenbauen und als Antworten ausgeben.
Ein Sprachmodell wird beispielsweise nie verstehen, was es bedeutet, „wenn die Sonne auf die Haut brennt“, weil ihm der biologische Körper fehlt, um diese Erfahrung mit allen Sinnen zu machen.
Ich halte die „sogenannte Künstliche Intelligenz“ deshalb für völlig überbewertet.
Die Sprachmodelle sind ein Hilfswerkzeug und in vielen Dingen deutlich schneller und leistungsfähiger, als es ein Mensch je sein könnte.
Sie jedoch zu „vermenschlichen“, wie es viele Nutzer tun, ist sehr weit hergeholt und falsch.
Der Mensch mit seinem extrem leistungsfähigen Gehirn und seinem biologischen Körper ist den Sprachmodellen in kognitiven, wie kreativen Bereichen haushoch überlegen und echte Intelligenz, Bewusstsein, Denken, Gedächtnis, Phantasie, Vorstellungskraft, Selbstbeobachtung, Wahrnehmung, Aufmerksamkeit, Emotionen/Empathie, soziales Verhalten und inhaltlich wirklich zu verstehen, sind dem Menschen vorbehalten.
Sprachmodelle/KI werden das niemals können.
ich glaube manche haben noch nicht den Impact verstanden. Es ist vollkommen egal, ob es nur eine Simulation von Intelligenz ist. Die LLMs sind heute schon 80% der Menschen kognitiv überlegen. Wenn die Leistung ausreicht um 80% der menschlichen Arbeitsleistung zu ersetzen, dann ist es vollkommen egal wie sehr die Sonne auf die virtuelle Haut brennt.
Das sind auch zwei unterschiedliche Aspekte heutiger "KI".
Einerseits Leistungsfähigkeit bei der Erledigung bestimmter Aufgaben, autonom oder teilautonom und damit Ersatz für menschliche Arbeitsleistung, auch und insbesondere als spezialisierte KI.
Andererseits die Zuschreibung von Bewusstsein und erweitertem Weltbewusstsein als universelle KI.
Das sollte am besten nicht vermischt werden.
Der erste Punkt hat heute schon deutliche Auswirkungen auf die Arbeitswelt, die kaum ignoriert werden können. Der nächste harte Impact wird sich vermutlich im Zusammenspiel mit Robotics einstellen.
Beides wird die aktuellen Wirtschaftskreisläufe im Hinblick auf die Komponente Arbeitseinkommen in den kommenden Jahren und Jahrzehnten spürbar treffen.
Sprachmodelle arbeiten - so wie Computer im Allgemeinen - vollständig deterministisch. Auch die den Sprachmodellen zugrunde liegenden Algorithmen (Transformer) sind selbstverständlich vollständig deterministisch. Fixiere ich also alle in der Pipeline genutzten random seeds, erhalte ich für einen gegebenen Input auch denselben Output.
Probabilistische bzw. pseudoprobabilistische Elemente ergeben sich nur beim token sampling durch Variation der seeds, durch Rundungs- und Fließkommafehler, oder durch Optimierungen wie flash attention. Echte probabilistische Elemente bekommst Du nur durch Quanteneffekte oder kosmische Strahlung induzierte bit flips, oder beim Betrieb des neuronalen Netzes auf einem Quantencomputer
Du bist der einzige hier, der probabilistische Modelle als nicht probabilistisch abtut, weil du die Qualität der random Generator kritisierst. Nichtsdestoweniger sind die LLMs quasi alle als probabilistisch implementiert, daher ja grundlegend der Qualitäts~Performance-Zuwachs.
Anstatt also Käptn Obvious zu spielen, könntest Du mit einer besseren Lösung kommen, wo wir alle unsere Software anschließen können, dass die bessere Zufallszahlen bekommt.
Man unterscheidet ja bei code agents zB. genau deshalb unter Tasks, die sie lösen könnten, wenn man sie öfter ran lässt und welche die sie nie lösen können. Übringens ein großer Manko der meisten Benchmarks oft da nur 'ein Versuch' zuzulassen.
Das sind Computer leider nicht in jedem Fall, das Problem fängt schon dabei an, dass die Gleitkommaarithmetik von Computern nicht assoziativ ist. Sprich: die Reihenfolge in der man Gleitkommazahlen addiert, beeinflusst das Ergebnis. Und da die Berechnungen für LLMs in GPUs parellel ausgeführt werden, können selbst die kleinsten Timing Unterschiede zu unterschiedlichen Ergebnissen führen, da es die Reihenfolge der Berechnungen beeinflusst.
Da man anstelle von FP16 oder FP32 für LLMs BF16 einsetzt, macht es das Problem noch schlimmer, da BF16 eine noch niedrigere Präzision als FP16 aufweist.
Zusätzlich gibts beim Thema LLMs noch einige weitere Gründe , warum das Ergebnis nicht deterministisch ist. Wie zB Batching, MoE, etc.
Probabilistische bzw. pseudoprobabilistische Elemente ergeben sich nur beim token sampling durch Variation der seeds, durch Rundungs- und Fließkommafehler, oder durch Optimierungen wie flash attention.
Bitte auch die Implementierung eines Algorithmus' nicht mit dem Algorithmus selbst verwechseln. Transformer arbeiten vollkommen deterministisch, Punkt. Bei identischem Input gibt es auch denselben Output. Das Sampling erfolgt pseudo-randomisiert, weil ein Computer keinen echten Zufall beherrscht und kann durch greedy-sampling oder Fixierung der Seeds umgangen werden. Fließkomma- und Ausführungsoptimierungen lassen sich ebenfalls deaktivieren.
Ich möchte lediglich sicherstellen, dass pseudoprobabilistische Zufallselememte hier nicht als "nicht-deterministisch" fehlinterpretiert werden. Ein Computerprogramm arbeitet immer deterministisch - und ein Sprachmodell IST ein Computerprogramm.
@Backfisch Diese Optimierungen zu deaktivieren ist jedoch nicht realistisch, da man nicht auf den Leistungzuwachs verzichten kann.
Somit hat man bereits hier ein nicht deterministisches Ergebnis, da man durch diese Optimierungen keine Kontrolle hat, in welcher Reihenfolge die einzelnen Threads der GPU arbeiten.
Klar kann man argumentieren, dass der Algorithmus selbst deterministisch ist, aber wenn die Implementierung es nicht ist, dann ist das das entscheidende. Und genau das ist der Fall bei LLMs. In der Theorie mag der Algorithmus deterministisch sein, in der Praxis sieht dies aus besagten Gründen jedoch anders aus.
