andy_m4
Admiral
- Registriert
- Aug. 2015
- Beiträge
- 9.717
Ja. Das ist es häufig auch.sedot schrieb:Wobei ich momentan schon eher zu dem Schluss komme, dass ein LLM und dessen Komplexität zu viel wäre.
Wäre sowieso mal zu überlegen, ob man nicht lieber kleinere spezialisierte Modelle nutzt statt Große. Im Grunde haben wir das ja jetzt schon durch Mixture-of-Experts und/oder Routing.
Der "Gag" bei kleinen Modellen ist, das die sich auch auf vergleichsweise schwacher Hardware gut einsetzen lassen. Was dann auch Unabhängigkeit & Privacy befördert, wenn man nicht mehr in dem Maße auf Cloud-Modelle angewiesen ist.
Gerade bei den Open-Weight-Modellen sieht man ja, das die lokal betrieben für viele Dinge schon gut genug sind.
Ja.sedot schrieb:Insgesamt muss ich noch etwas über die Thematik nachdenken um zu einem klarerem Standpunkt zu kommen.
Und so ein Standpunkt darf sich im Verlaufe der Zeit ja auch ändern.