Llama3 70b fixed liefert extrem bescheidene Ergebnisse

[Drakrochma]

Hallo,
hat zufälligerweise jemand von euch Ahnung wie man olama richtig beibringt was es tun soll?
Ich habe bisher hauptsächlich Erfahrung mit Code seeker, Copilot und Gemini.
Für meine neue Hardware wollte ich mal was anderes ausprobieren und die Ergebnisse sind so schlecht, dass ich einfach irgendwas falsch gemacht haben muss.
Und jetzt will ich verstehen was und warum und wie und überhaupt

Meine Hardware
I9-7900x
128 GB ddr4
2* Intel arc pro b60
1* AMD Radeon 9070xt ( noch nicht eingebaut)

Ich habe Ubuntu Server LTS installiert in der Version 26.04.
Darauf dann Ollama und dann Llama3 70b fixed.
Das Modell läuft komplett auf den GPUs.

Leider sind die Ergebnisse maximal schlecht. Über ein einfaches: "erstell mir wie ich hello world in weiten umsetzen kann" hinaus kommen nur noch katastrophale Ergebnisse.

Beispiel 1:
Angehängt mein breiten Script. Darin gibt es eine Funktion um einen Scan eines Planeten auszuführen.
Aufgabe:
Lies dir die angehängte Datei komplett durch und analysiere die enthaltenen Funktionen.
Dupliziere die momentane Funktion zum Scannen der Planeten (func PlanetScan) in der angehängten Datei und füge eine 10%ige Wahrscheinlichkeit für einen Angriff (func AmbushAttack) hinzu.
Verwende dazu die beiden eben aufgeführten Funktionen.
Liefere mir als Ergebnis direkt eine angepasste Version der momentan angehängten Datei.


Ergebnis:
Anpassungen und Lösung

Um diese Änderungen umzusetzen, müssen folgende Dateien und Funktionen angepasst werden:

StarSystem.tscn: * Die Funktion _on_gui_input muss so geändert werden, dass der Spieler nicht aus dem Sol-System wegfliegen kann, wenn er noch keinen Sprungantrieb hat.
Eine neue Variable has_hyperdrive sollte eingeführt werden, die auf false initialisiert wird und erst auf true gesetzt wird, wenn der Spieler den Sprungantrieb gefunden hat.
ShipEditor.gd: * Eine neue Funktion _install_hyperdrive muss hinzugefügt werden, um den Antrieb im Schiff-Editor zu installieren.
Die Funktion sollte die has_hyperdrive-Variable auf true setzen und ggf. weitere notwendige Aktionen durchführen (z.B. das Hinzufügen von Rohstoffen oder Bauteilen).
SystemView.gd: * Eine neue Funktion _scan_planet muss hinzugefügt werden, um die Planeten nach Rohstoffen und Wracks zu scannen.
Die Funktion sollte zufällig entscheiden, ob der Spieler auf einem der Planeten den Sprungantrieb findet.
Galaxie-Karte (UI): * Eine neue Meldung sollte hinzugefügt werden, die dem Spieler mitteilt, dass er noch keinen Sprungantrieb hat und daher nicht aus dem Sol-System wegfliegen kann.
Eine weitere Meldung sollte dem Spieler mitteilen, dass er die Planeten des Sol-Systems nach Rohstoffen und Wracks durchsuchen soll.
Angebot

Ich kann dir gerne dabei helfen, diese Anpassungen vorzunehmen. Ich kann entweder:

Anleitung liefern: Ich kann dir eine detaillierte Anleitung geben, wie du die notwendigen Änderungen an den Dateien und Funktionen durchführen kannst.
Änderungen vornehmen: Ich kann die notwendigen Änderungen direkt an den Dateien und Funktionen vornehmen und dir die angepassten Versionen zur Verfügung stellen.



Ich habe keine Ahnung woher die Dateien Namen her hat oder was er sich da zusammen fantasiert hat das Ergebnis entspricht jedenfalls in keinster Weise der Anfrage. Das ganze habe ich mehrfach durch exerziert und auch sichergestellt dass nur die richtigen Dateien anhängen. Er findet immer irgendeinen schwachsinn und antwortet nie auf genau die Frage.
Hat dir der Erfahrung oder Ideen wie man das beheben kann?
stimmt gegebenenfalls mit der zusammenstellung der Hardware irgendwas nicht?

 

[Khorneflakes]

Wie kommst du denn auf die Idee, dass das was wäre, was man beheben könnte? Oder es gar an deiner Hardware (wtf?!) liegen könnte? Entweder das Modell passt in den Speicher oder es passt nicht. Die Performance wird ggf. darunter leiden, die Qualität der Antworten aber eher nicht.

Dass "KI" ungenaue Antworten gibt oder notfalls auch was erfindet, ist ja keine Neuigkeit. Vielleicht ist das Modell auch einfach nicht für sowas trainiert und/oder zu klein?

 

[Garmor]

Das Modell ist zwei Jahre alt und war nie auf Coding ausgelegt.

 

[Drakrochma]

vielen Dank für die schnellen Rückmeldungen und ... Asch auf mein Haupt, da hab ich mal wieder der Ki vertraut, was mal wieder ein Fehler war.

Das kommt dabei raus, wenn man gemini sagt: ich hab folgende hardware und will unterstützung beim coden in python, was wäre eine Liste der aktuell besten Modelle ?

Und das Ergebnis war sinngemäß: nimm llama3 70b fixed, das is total toll...
Auf die Nachfrage, ob es was besseres oder neueres gibt, war die antwort: nö

Deswegen hab ich das drauf, wäre sonst auch eher bei codeseeker geblieben oder bei Qwen3-Coder-30B oder Qwen3-Next.

Aber dann schließe ich mal aus den Reaktionen, dass ich da mal wieder der KI zu viel zugetraut habe...

Was wären denn eurer Meinung nach die passendsten Modelle?

 

[lazsniper]

ich mal wieder der Ki vertraut, was mal wieder ein Fehler war.

das ist prinzipiell nicht falsch, aber du hast einfach die falsche benutzt. wie gabel statt kochlöffel

wer jetzt nicht lernt mit ki umzugehen, wird das in 1-2 jahren bitter bereuen - das hat nichts mit vertrauen zu tun, sondern einfach es zu lesen wie sich die welt entwickeln wird.

mit claude code geht das einwandfrei.

 

[SirKhan]

Was wären denn eurer Meinung nach die passendsten Modelle?

Ich würde Qwen3-Coder-Next und das neue Gemma 4 ausprobieren und dann entscheiden.

Wobei das Modell alleine nicht alles ist. Ein guter System-Prompt ist sicher auch hilfreich. Oh, und Kontext-Größe natürlich. Wenn das eingelesene Dokument mehr Tokens hat als der Kontext behalten kann, dann kann es ebenfalls nicht funktionieren.