0x8100 schrieb:
duck.ai, mistral. erster versuch, 100% memorization. und jetzt?
Anhang anzeigen 1630207
Und jetzt hast du immer noch weder meinen Text noch die Studie verstanden oder gelesen.
Die Studie hat diesen Text deshalb zitiert, weil dieser Textausschnitt so populär und viel-zitiert ist. Ergo kann man an diesem Ausschnitt gut demonstrieren, dass es in edge-cases möglich ist, mit
wenigen oder gar
einem Versucht zum Ziel zu kommen.
Und auch hieran:
...ändert die Worst-Case Demonstration nichts.
~42% bei Llama 1 65B des gesamten Datenbestands können mit p=0.5 nur dann extrahiert werden, wenn man mit n=10.000 arbeitet, also wirklich im worst-case bis zu
10.000x einen einzigen Satz generieren, damit man 42% aller Satzteile sicher extrahieren kann.
Und, wie gesagt, das auch nur dann, wenn man den korrekten Eingabesatz sowieso schon hat.
Um dich da mal zu zitieren:
0x8100 schrieb:
...haben wir bewiesen, dass deine Argumentationslinie falsch war, man den originalen Text als Eingabe benötigt und im Durchschnitt selbst dann noch bis zu 10.000 Versuche pro Textstelle.
Das es Ausnahmefälle gibt - wie die berühmte Stelle aus Gatsby - hat niemand abgestritten. Schreiben die Autoren aber auch genauso in ihrer Studie.