Rickmer schrieb:
Alle interessanten Usecases die der ausgespuckt hat sind mit dem von mir genannten 'general purpose' nicht vereinbar.
Mir gings nicht darum die generierten Beispiele zu bringen, sondern allgemein zu zeigen, dass das Teil ordentliche Antworten generieren kann.
Rickmer schrieb:
Die Punkte, die ich 'general purpose' nennen würde, wären "Customer Service Chatbot" oder "Virtual Assistant", welches nachweislich nichtmals die großen Modelle sauber schaffen, geschweige denn die tiny LLMs.
Also einerseits widerspricht sich das imo ebenfalls - Kundensupport ist schon ein ziemlich spezifischer Fall - andererseits wird dein Punkt dann ja zur Tautologie, wenn selbst die großen Modelle deine Ansprüche nicht erfüllen können.
Haldi schrieb:
Aber sobald man Ahnung von einem Thema hat merkt man wie viel Schund die Halluzinieren. Für aufgaben wie Programmieren oder Fotoshop wo man Instant die Resultate sieht/hat und nachbessern kann ist das ja egal.
Aber wer würde denn Noch ein Navi benutzen wenn es jedes dritte man an den Falschen Ort fährt oder den doppelt so langen Weg fährt?
Also wenn die Dinger Quatsch-Code generieren ist mir das ganz sicher
nicht egal, aber das ist ne andere Diskussion.
Der Punkt mit den Halluzinationen ist ein generelles Problem, man ist ja nicht plötzlich von der eigenen Denkpflicht entbunden, nur weil das Modell 300 statt 3 Milliarden Parameter hat.
Alles, was ich sagen will, ist: Für einfache Allerweltsfragen, wie sie
abseits des produktiven Einsatzes auftauchen, sind auch kleine Modelle eine brauchbare Alternative. Es braucht halt nicht viel um Tante Erna zu erklären wie man den Router neu-startet, was die Hauptstadt von Uruguay ist, und ob Traubenzucker wirklich aus Trauben kommt. Ich glaub als Technik-affiner Mensch vergisst man schnell, wie der Normalbürger einen Chatbot im Alltag eigentlich nutzt.
Und nur der Vollständigkeit halber: Natürlich sollte man keiner KI blind vertrauen. Also auch den großen nicht. LLMs sind prinzipbedingt eher ungeeignet Fakten und Detailfragen korrekt zu beantworten, denn bei jeder Antwort wird (fast) buchstäblich gewürfelt, was hinten rauskommt.
HP Prodesk G6 Mini.
