Zukunft genAI bzgl. P/L u. Erschwinglichkeit

[sightseeer]

Hallo ComputerBase,

ich würde hiermit gerne eine Diskussion und Quellensammlung starten, für und mit Menschen, welche möglichst fundierte Aussagen stützen soll zu den Fragen:

1. Wohin geht es tendenziell preislich beim Zugriff auf AI tools in relation zu deren Potential: a) kurzfristig, b) mittelfristig, c) langfristig.
2. Wer be- und er-hält Zugriff auf die mächtigsten dieser tools a), und b) wieso?
3. Gibt es Hinweise auf Zugriffsbeschränkungen auf mancher dieser tools, abseits von Marketinggründen?
4. Wird die Preisschraube an den tools als Zugriffsbeschränkung genutzt werden?
5. Werden professionelle Anbieter stets unschlagbar sein?
6. China steht ja mit Qwen/Deepseek immer wieder ganz gut da und hat wohl entgegen den Big Tech Interessen der USA die Modelle bisher stets open sourced und veröffentlicht. Wird die Existenz von open source Modellen bei den 'top Modellen' so weiter existieren? Wie sieht es speziell mit open weight Modellen aus, die können besser (?) oder überhaupt (?) nachträglich trainiert werden? Was bedeutet das in Zukunft, wenn diese Art nicht mehr veröffentlicht wird?
7. Wie sinnvoll ist eine Investition in Lokaler genAI Hardware, mit allen diesen Parametern?
8. Welche Quellen nutzt ihr? Ich finde es äußerst schwierig nicht irgendwelche genAI Synthesen zu finden, wenn ich einfach nur reine Daten suche.

Ich habe hier keine KI genutzt, arbeite aber viel mit Claude max x5 und finde es relativ gut für Produktivität, Struktur etc. aber es sind immerhin 110€/Monat.
Ich hatte auch eine 3090 gekauft, bevor die so teuer wurde (Ethereum) und hatte KI drauf laufen (bestes war Qwen3.5-27B opus 4.6 distilled) und das war schon stark. Hatte die Karte dann für jenseits 1.1k verkauft <3.

Wieso der Thread? Naja ich vermisse die Schnittstelle zwischen den ganzen freundlichen Menschen hier und der datenbasierten Orientierung in dieser offensichtlichen KI Singularität.

Vielleicht bin ich mal so frei und reserviere den nächsten Post zum eintragen von Quellen(-URL) mit knapper Beschreibung?

Dankeschön für Deine Aufmerksamkeit.
- sightseeer

Ergänzung (Freitag um 14:56)

Reserviert zum eintragen von Quellen(-URL) mit knapper Beschreibung

[Nummer] URL (Beschreibung)

Darf ich wohl nicht, naja vielleicht liest das ja ein Netter Admin

 

[madmax2010]

Ich bin in der Branche schon ein paar Jahre aktiv. Bei 1-5 habe ich zwar ein Bauchgefühl wo es hingehen könnte, finde fundierte vorhersagen dazu jedoch schwierig. Willst du Ideen sammeln und diskutieren oder unscharfe vorhersagen sammeln?
ABer kurz
1. Schau auf die Preistendenzen der letzten 2 Jahre. Interpoliert: Hoch. Aktuelle preise kannst du bei primeintellect einsehen. Selbst die A und V Serien steigen im Preis. Durch effizienter betreibbare Modelle, bekommt man auch mehr Token/s/GPU -> Mehr Wertschöpfung pro GPU
2. a) Die entwickler. b) finder - keepers
3. Politisch, gesellschaftlich... definitiv.
4. Wird doch schon
5. Vermutlich nicht.

Zu 6. Die Gewichte werden veroeffentlicht. Nichts an den Chinesischen Modellen ist open Source. Am offensten sind noch die modelle des Allen Institute.. https://opening-up-chatgpt.github.io/

ie können besser (?) oder überhaupt (?) nachträglich trainiert werden?

Es gibt verschiedene wege das verhalten verschiedenster architekturen

Was bedeutet das in Zukunft, wenn diese Art nicht mehr veröffentlicht wird?

freies training auf freien daten. Nach Stallmann definition.

7. Lokal betriebenes GLM ist seit 4.5 mein Daily Driver. in 5.2 will ich nichts anderes mehr und nutze nicht mal mehr codex


8. https://arxiv.org/

Ich habe hier keine KI genutzt, arbeite aber viel mit Claude max x5 und finde es relativ gut für Produktivität, Struktur etc. aber es sind immerhin 110€/Monat.

was tust du?!
Ich habe innerhalb des Wochenlimits eines 20 Euro Codex Accounts ein komplettes (x86 16 bit) Betriebssystem mit Browser, textverarbeitung und sonstigen Kleinkram gebaut.. So viele token kann man doch kaum verbraten
IMO ist die 3090 bei den aktuellen preisen das beste was man kaufen kann um Modelle lokal zu betreiben

 

[nutrix]

1. Wohin geht es tendenziell preislich beim Zugriff auf AI tools in relation zu deren Potential: a) kurzfristig, b) mittelfristig, c) langfristig.

Dadurch, daß alle öffentlich zugängliche Abomodelle quersubventioniert werden, kann man das sehr schlecht abschätzen. Fakt ist, 20 € usw. Abogebühren entspricht nicht den tatsächlichen Kosten, die liegen laut Schätzungen bei tausenden von €. Das heißt, alle Anbieter legen dank finanzkräftiger Geldgebern kräftig drauf.

 

[BeBur]

China hat praktisch beliebig viel Geld und AI ist vermutlich die größte Disruption im digitalen seit sich das Internet etabliert hat - damals noch komplett ohne China. Die werden all-in KI gehen und weiterhin Top Modelle verfügbar halten für die breite Masse.

Auch die US Techgiganten können da nur begrent mitgehen. Das haben die auch schon erkant, der Hebel wird daher Regulierung sein.

KIs haben das Potential, Google, Wikipedia und generell Medien zumindest teilweise dauerhaft zu verdrängen. Wer den Output einer KI generiert, der bestimmt damit auch zu guten Teilen, welche Inhalte Menschen konsumieren, was sie lesen, etc. und das gesamte Ausmaß ist noch gar nicht absehbar. Diese Art von Einfluss ist für China gerade weit wertvoller als ein paar Billionen Dollar. Dazu kommen unbegrenzte Möglichkeiten im Bereich der Wirtschaftsspionage, was eine zentrale Säule ist, die China überhaupt erst zur Großmacht hat werden lassen.

Keine Ahnung, ob die Gewichte der chinesischen KIs dauerhaft öffentlich bleiben. Aber jedenfalls hat China ein starkes strategisches Interesse daran, dass ihre Modelle möglichst breit etabliert bleiben.

 

[sightseeer]

Willst du Ideen sammeln und diskutieren oder unscharfe vorhersagen sammeln?

Ich bin um jede Quelle dankbar und um jede Meinung, wenn auch nur minimal begründet.

was tust du?!

Forschung in der theoretischen Informatik.

Lokal betriebenes GLM ist seit 4.5 mein Daily Driver. in 5.2 will ich nichts anderes mehr und nutze nicht mal mehr codex

Wie viel VRAM benutzt Du dafür bzw. mit welcher Quantifizierung von 5.2 bist Du gerade so zufrieden?