dermoritz schrieb:
... ist bitter nötig. Nach der Preisanpassung hat Github eine verdreifachung der kosten prognotiziert. Wir sind inzwischen stark drüber, teilweise sind wir bei 200$ pro Entwickler und Monat - und der Monat ist noch nicht rum.
Keine Ahnung wo das hinführt - weiß noch nicht mal ob das gut ist.
Das ist jetzt nicht wirklich viel. Ich verblase so 50€ pro Programmiertag und da nutze ich aktuell eigentlich nur einen Entwicklungsstream. Wenn man tiefer in etwas drin steckt und weiter automatisiert hat wird man das auch auf 2-5 steigern können. Heißt dann halt 100-250€ am Tag sind da problemlos möglich durchzubekommen.
Lohnt sich aber für die Firma unterm Strich sicherlich noch immer. Ich bin noch immer teurer. Aber ja bei nem.durchschnittlich bezahlten Entwickler kippt das dan bald und du könntest auch einfach nen Menschen mehr einstellen.
Naja, mal schauen ob ich das 200€ Limit diesen Monat noch vollbrkomme. Ist ja nur noch ein Tag programmieren. Hab meinem Chef schon angekündigt dass dann halt der 10.000€ Plan her muss.
lugge schrieb:
Vielleicht liegt es auch daran, dass die Modelle generell teurer geworden sind.
Ja die sind definitiv teurer geworden, wenn du infinite Prompts benutzt hast. Ich war gerade dabei das umzusetzen was insbesondere mit den frontier Modellen deutlich einfacher war da sich die Modelle an die Anweisungen auch großteils gehalten haben. Ich habe am Ende mit einem Premiumprompt bis zu 4h gearbeitet. Da ist der ROI definitiv immer gegeben in meinen Augen.
Für den letzten Monat mit Premium prompte bei dem ich noch immer am Schrauben war die infinite Prompts zu optimieren und eben auch mal über ein Problem gestolpert bin und dann eben rausgegangen bin ist so was um Faktor 25 an Mehrkosten rausbekommen.
Wenn man aber bedenkt wie ich eigentlich wirklich arbeiten wollte, bin ich eher bei Faktor 100 plus
Ich kann daher Microsoft durchaus verstehen warum Sie die Premiumprompts abgeschafft haben. Die werden ja auch gesehen haben wie einige Nutzer gigantische Tokenmengen mit einem Prompt durchbekommen haben.
Ich hätte die Art an Workflow, für die ich einen eigenen Systemprompt(?) Geschrieben habe auch vor mit der Organisation zu teilen. Das war recht generisch verwendbar und hätte quasi keine negativen Auswirkungen auf die Entwickler gehabt außer das Sie halt nur noch in einem einzigen Prompt arbeiten. Bei paar hundert Entwicklern die das übernehmen wäre das schon sehr schmerzhaft für Microsoft.
Du könntest damit nämlich mit weniger als 100 Premium prompts pro Entwickler und Monat gut auskommen.
Jetzt aber zum Artikel
########################
Also ich bin teils unabsichtlich in den Auto Modus gerutscht und war damit extrem unzufrieden. Die einfacheren Modelle sind einfach zu dumm für einen Großteil der Coding tasks die ich habe und verbocken daher an den verschiedensten Stellen etwas. Das führt dann dazu das man ständig nacharbeiten muss was nicht nur Tokens kostet und damit schnell teurer wird sondern noch schlimmer mehr von meiner Zeit raubt.
Von daher nehme ich fix das mehr oder weniger beste Modell und lasse es an den Problemen arbeiten. So habe ich auch kein Problem damit für das Debugging neue Pläne zu erstellen oder wenn sich im Rahmen der Implementierung neue Fallstricke ergeben werden die entweder selbstständig gelöst oder aber mir ein paar Fragen der Plan gleich angepasst und nochmals überprüft.
Es sind halt oft komplexere Änderungen bei denen man sehr aufpassen muss nicht einen CornerCase zu übersehen und dadurch zwar vorne was zu fixen hinten mim Arsch aber wieder direkt was einzureisen...
Ich halt vom aktuellen AutoModus daher absolut nichts.
Wenn könnte nur für einzelne Subagents die nur etwas auslesen mal ein billigeren Modell genutzt werden. Das aber richtig zu implementieren wird teuer. Da wird sehr sehr oft die fire an forgett Methode einfacher sein.