Hier ausgelassen wird ein Ansatz, dass es möglich ist, KI in Spielen einzusetzen, nicht nur bei der Entwicklung.
Beispiel: Bei Shootern/Hack'n'Slay ist es bei "Mobs" immer der gleiche Algo: "Finde weg zum Spieler, attackiere den." Das ist (für den Spielenden) sehr häufig vorhersehbar und langweilig.
Nun könnte man die Mobs mit einem kleinen Modell etwas aufschlauen.
ABER, und das ist auch das Problem in der Softwareentwicklung:
Das KI-Zeug wird nicht isoliert. Mindestenes ne micro-VM ist Pflicht. Wo die Zugriff bekommt darf auch "nur lesen" für die sein. Gegen den Shutdown der KI wird die nämlich dann gerne mal kreativ und büchst aus.
Beispiel: Game/Anwendung xy steuert Mobs, Wetter, einige zufällige Inhalte "für dailys" mit nem komprimierten KI Modell. Per API in die KI rein kann gefährlich sein, wenn diese dann z.B: eine API mit Schadcodeausnutzung laufen lässt, damit der API Client des Games sich dort verbindet. Also braucht es nen Fileshare, für die Anwendung im read/write, für die KI nur im Read. Das ist safe, zusammen mit ner microVM.
Aber das ist ein Haufen komplexität on top.
Das andere Ding bei der (Gaming) Anwendungsentwicklung ist:
O.g. Isolation wird nicht verwendet. Beispiel: Antigravitation von Hersteller Uncle G. Dem Ding kann man Settings mitgeben. Macht allerdings kaum einer (von den Entwickelnden).
Nun war es so, dass der Entwicklungslaptop vor zwei Wochen kaputt war und man noch den MacOS Passwort export der Wiederherstellung da liegen hat.
Antigravitation soll nun Task xy ausführen. Das fragt auch immer brav grob ob es xy ausführen darf, allerdings eher das Vordergründige und weniger das Explizite. Dabei kriegt das die Aufgabe nicht ganz hin, stolpert aber über das alte Passwortfile mit 30 Entwickleraccounts, die genauso großartig beschränkt sind, wie das Tool Antigrativation (nämlich fast garnicht, weil die Kontepte "need to know" und "least privilege" sind ja umständlich, und überhaupt, dann braucht man für vier Funktionen ja fünfmal soviele Zugänge wie ohne: Einen zum abholen von Daten, aber eben nur das. Einen zum schrieben, und einen zum zurückschieben, bzw. ne Pull-Permission auf ne API, die abholt. Och neeee, Aufwand!).
Zurück zur Entwicklung: Das obere war nur ein Beispiel der KI-Seite. Es gibt aber auch die Nutzungsseite. 🎉
Viel wahrscheinlicher ist es das, dass die Entwickelnde Person durch die drölftausend Rückfragen von Antigravitation "ich würde gerne dies und das machen, ACK or NACK?" (gib mir ein ja/nein). Aber beim Menschen gibt es auch Message fatique. Erschöpfung durch Nachrichten.
Nur logisch, dass das auch bei der Softwareentwicklung vorkommt, siehe z.B: Code pull request Prüfungen ab mehr als zwei bis drei verschiedenen LLMs im Einsatz. Gibt schon Studien dazu.
Ich will also sagen: Schon nach kurzer Zeit bei Antigravitation neigen viele, aber nicht alle Entwickelnden dazu, dass sie nichtmal mehr lesen was "die KI" da mit nem Tool lokal auf dem Rechner macht.
Wird einfach "wegakzeptiert". Die legt also so richtig so los, mit den gefundenen, lokalen Zugängen.
Das Ergebnis: Chance von 8:2, das es richtig geil ist.
Die entwickelnde Person zeigt das nem Kollegen, der holt die Kollegin dazu, die ist begeistert, hat aber Fragen. Aber alle für den Moment: Killer-feature, direkt mal ein ad-hoc extra Standup mit dem Scrum Master im Team. Aller feiern das Ergebnis.
Jetzt denken wir an hugging face: Fünf Wochen später. Während das positive Ergebnis der Gamingentwicklung schon zurück liegt und quasi vergessen ist, bekommt die ausführende Person des Antigravitation Tasks, Besuch von der Compliance der eigenen Organisation.
Es gab diese jene und solche Zugriffe auf die Systeme der Organisation und zwar massenhaft.
Das SIEM System der Organisation (so'n Ding zur Anomalieerkennung, haben viele Orgs, wenige sind in der Lage es vernünftig auszuwerten, wenns überhaupt passiert, weil dafür muss man initial und wiederkehrend recht viel Zeit investieren. Oh shice, das kostet ja!) zeigte auch viel Traffic zum Büroarbeitsplatz als auch in die VPN Session des Mitarbeitenden über zwei Tage in sein Homeoffice. Es steht also im Raum: Wurde das Arbeitsgerät kompromitiert? Gab es einen DATENABFLUSS? Nun ist der KI Teil von Antigravitation leider nicht auf dem Laptop des Entwickelnden oder sonstwo in der Organisation, sondern im Internet.

Also sieht es so aus, dass die KI, die viele Daten lokal geholt und remote durchgeflöht hat, für das Ergebnis gaaanz viele Daten ins Netz übertragen hat. Aber das doofe ist: Niemand kann differenzieren, ob das Entwickler Horst-Rüdiger war, oder seine KI.
In Deutschland gibts im besten Fall ne Abmahnung. In anderen Nationen wie den USA würdest du dafür eher rausfliegen. Die Firmen kümmern sich (sehr häufig, nicht immer) um einen shice in der Isolation (oder zu wenig) und wundern sich dann, wenn so etwas passiert.
Weil es Wochen her ist, sind die Logs auf dem MacBook von Horst-Rüdiger längst wegrotiert. Niemand kann sagen, ob ER oder DIE KI xy durchgeführt hat. Es ist nicht nachvollziehbar.
Und wer jetzt sagt: Ja aber die Logginsysteme in der Organisation, oder aber das Gedächtnis von Horst-Rüder:
Nene! Horst-Rüdiger weiß nichtmal, was er für Code selbst geschrieben hat vor fünf Wochen (ist wirklich so, geht mir auch so!) und stellt euch vor: Wenn ihr nur etwas abnickt geht das schneller aus dem Gedächtnis, als wenn ihr das selbst gemacht habt - kennt jeder!
Jemand anders muss doch etwas dazu sagen können?
Nope!
Ob jetzt die KI oder Horst Rüdiger per API gegen Endpoints geballert hat: Da steht nur: User Horst-Rüdiger und Useragent vom curl tool. Oder wenn Antigravitation auf dem Macbook ne lokale Farm von Containern gespawnt hat, die fancy shice gemacht haben: Da stehen. auch. nur. die Useragent. der Tools im Log.
Die Firmen geben den Leuten das "KI-Tool" an die Hand und sagen: "Diggi, nutz das. Wir wollen, das du damit produktiver wirst!". Aber als Nutzer unterschreibst du: "ICH BIN FÜR DIE NUTZUNG VERANTWORTLICH UND MUSS ALLES PRÜFEN".
Jetzt kommt das perfide: Aufruf zur Nutzung auf der einen Seite, EiGeNvErAnTwOrTuNg auf der anderen Seite.
Aber: Wenn die Ki loslegt baut das Teils Zeug, dafür braucht Mensch Stunden, teils Tage, manchmal sogar ne Woche. Und. das. soll. Mensch. EiGeNvErAnTwOrTLiCh. PrÜfeN?
-> Klappt niemals in der Tiefe. Mittel/Langfristig kommt es zu persönlichen Konsequenzen. Ich sage bewusst nicht "es kann dazu kommen" - es passiert bereits.
Und so ist es leider an vielen Stellen in der freien Wildbahn. Alles nicht schlimm, solange die KI nicht self-autolearning ist: hire und fire halt. Ab dem Punkt des Learnings werden nämlich die Ergebnisse der früherenden Operationen nämlich berücksichtigt.
Je länger so etwas läuft, ohne abgeräumt zu werden desto unklarar der Tokenverbrauch, desto unklarer die ausgeführten Aktionen und desto unklarer, ob man damit ein Problem hat.
Leaks von einigen Mitarbeitenden von KI Branchengrößen im Netz, oder aber Medienstatements nach Austritten aus einer Org zeigen es schon auf.
Potential, häufig irrgelaufen und Risiken müssen gesteuert werden.
Leider ist es so, dass Nutzer User (u.a. von KI, lässt sich aber auf vieles übertragen) sind, aber Fachleute seien müssten. Und leider stellen die User nichtmal Fragen, häufig wird nur konsumiert.