Leserartikel Ich baue eine LLM, die sich erinnert – und werde dafür geblockt. Mein Weg.

[gabbercopter]

Kleines Update für die , die sich tatsächtlich für die sache intressieren und nicht für mich :
Projekt-Verbesserungen – 2025-06-01

Memory-Handling optimiert​

Mini-Erinnerungen werden gebündelt, bevor sie in den Index gehen → weniger Fragmentierung, mehr Kontexttiefe.
Upload erfolgt nur bei ≥ 1500 Zeichen oder nach 60000s → spart Ressourcen, verhindert Spam-Chunks.
dafür wurden die upload und das watcherscript entsprechend angepasst und " mergen" mehrere errinerungen bevor sie in die Pipeline gehen

Dynamisches Suchgewicht​

Zeitbezogene Fragen (z. B. „gestern“) lösen Recency-Boost aus → frische Erinnerungen gewinnen an Gewicht.
Inhaltsfokussierte Fragen bevorzugen semantische Nähe (Cosine) → bessere Antwortqualität bei tieferen Themen.
Dadurch erreichen wir eine natürlicherere gewichtung aller errinerungen ohne zu viel " recent bias" stellen aber gleichzeitig sicher das " zeitbezüge" erkannt und gewichtet werden

Retrieval-Power erhöht​

Chunks pro System: von 60 auf 70 (Qdrant + BM25)
Top-Treffer von 15 auf 25 erhöht
→ präzisere Superantworten, mehr relevante Quellen

Server verbessert​

Antwortlogik nutzt Quellen aktiv („du hast mir am... gesagt“)
Das fühlt sich für den benutzer " besser" an und macht antworten und bezüge erkennbarer

----------

bis zum nächsten mal

 

[oicfar]

Heute gesehen ... Building AI Agents with Long-Term Memory: A Guide to Semantic Memory Implementation

 

[gabbercopter]

Im Grunde beschreibt der Herr da ein reguläres RAG system und wie man es mit einer Vektor Datenbank nutzt . Oder hab ich es was signifikantes übersehen ?

Da gibt's aber einen Haufen Tutorials zu in so fern

 

[gabbercopter]

Die erste Live Demo GPT ist fertiggestellt und funktioniert. Sollte jemand unter euch intresse haben das system und seine fähigkeiten zu testen so möge er sich bitte per PN mit einer aussagekräftigen bewerbung meldeb warum du denkst das gerade du die richtige person für den job bist

in dem sinne allen einen schönes wochenende

 

[Leon_FR]

Also ich bin kein technischer AI Experte aber kenne mich im AI Compliance Umfeld ganz gut aus.

Im Grunde genommen hast du doch hier nichts neu erfunden sondern einfach nur bestehende Modelle angepasst und customized.

Mich freut es das du anscheinend großen Spass hast, aber ich glaube du wirst

1. damit nichts verdienen
2. musst du aufpassen das du dich nicht lächerlich machst bei Firmen oder Auftritten

nur so als tipp, spiel weiter damit rum aber ich glaube du musst dich selbst etwas „erden“ das ist leider kein neues E=mc2.

 

[gabbercopter]

Und ich denke das 95% der Leser hier weder das nötige Wissen noch Verständnis für LLM Technik haben um überhaupt die Unterschiede zu begreifen. Insbesondere jene die ohnehin nicht das Papier gelesen haben und denken ach das ist doch nur ein wrapper oder ein frame Work wie Langchain

Nichts für ungut ich kann nicht von jeden erwarten das er ein 60k Zeichen Papier liest , begreift , mit bestehenden LLM Systemen vergleicht und dann eine qualitativ hochwertige Antwort verfasst.

Schade ist es dennoch

In dem Sinne

 

[unreached123]

Also ich bin kein technischer AI Experte aber kenne mich im AI Compliance Umfeld ganz gut aus.

Im Grunde genommen hast du doch hier nichts neu erfunden sondern einfach nur bestehende Modelle angepasst und customized.

Mich freut es das du anscheinend großen Spass hast, aber ich glaube du wirst

1. damit nichts verdienen
2. musst du aufpassen das du dich nicht lächerlich machst bei Firmen oder Auftritten

nur so als tipp, spiel weiter damit rum aber ich glaube du musst dich selbst etwas „erden“ das ist leider kein neues E=mc2.

Du kannst ihm nicht helfen. Das haben wir alle schon zigmal versucht.

Und ich denke das 95% der Leser hier weder das nötige Wissen noch Verständnis für LLM Technik haben um überhaupt die Unterschiede zu begreifen. Insbesondere jene die ohnehin nicht das Papier gelesen haben und denken ach das ist doch nur ein wrapper oder ein frame Work wie Langchain

Nichts für ungut ich kann nicht von jeden erwarten das er ein 60k Zeichen Papier liest , begreift , mit bestehenden LLM Systemen vergleicht und dann eine qualitativ hochwertige Antwort verfasst.

Schade ist es dennoch

In dem Sinne

Die Antwort zeigt ja auch, dass er jetzt der Krösus ist, der das Wissen besitzt. Dem müssen wir uns unterwerfen.

 

[gabbercopter]

Du ich kann damit total leben. Jeder der diesen Thread hier liest wird 100 Kommentare finden in denen ich als Person angegriffen wurde. Als scamer beleidigt. Als Lügner und vieles mehr .
Man kann sehen das Bis dato keiner in einen echten Fakten basierten Diskurs getreten ist und gesagt hat OK schauen wir uns diesen einen Aspekt an , den Claim den er macht , vergleichen das mit bestehenden Systemen und schauen ob es Sinn macht.
Stattdessen liken sich hier die selben 5 Leute seid 2 Wochen gegenseitig und klopfen sich auf die Schulter.
Bis dato wurde kein einziger meiner technischen Beschreibungen wiederlegt oder faktisch mit anderen Systemen vergleichen. Die aller meisten haben ohnehin nicht die technische Beschreibung gelesen glauben aber sie waren qualifiziert inhaltlich Feedback zu geben.

Was ich weiss ist das wir hier inzwischen fast 16.000 Views haben ( edit damit meine ich : das es ein haufen leute gesehen haben und es in der natur der sache liegt das in der regel nur jene schreiben die tendenziell auf der kritischen seite stehen - was völlig in ordnung ist , es aber auch genug leute gibt die sich das ganze ansehen denken " och das ja ganz cool" und gut ist )
, das ich ein Haufen an Feedback erhalten habe. Leute die inzwischen mit am Projekt arbeiten und die Firmen Gründung nicht mehr weit entfernt ist.

Bis dahin. Könnt ihr euch gerne weiter an mir auslassen.

Ein schönes Wochenende allen

 

[Restart001]

kein einziger meiner technischen Beschreibungen wiederlegt

Im falschen Forum eben.

Ergänzung (7. Juni 2025)

das es ein haufen leute gesehen haben

Irrtum, da hat nur einer auf die F5-Taste gedrückt gehalten, lass dich da nicht täuschen.

Ergänzung (7. Juni 2025)

Könnt ihr euch gerne weiter an mir auslassen.

Lieber nicht noch mehr, man könnte ja was preis geben.

 

[gabbercopter]

Welches Forum würde sich denn deiner Meinung nach Anbieter die paar ki Foren im De Raum die ich gefunden habe waren im Prinzip alle tot ?

 

[Restart001]

waren im Prinzip alle tot

Wahrscheinlich machens DIE alle richtig, die behalten das Beste für sich.

 

[gabbercopter]

ahahahahha ja warscheinlich xd

 

[Rickmer]

Welches Forum würde sich denn deiner Meinung nach Anbieter die paar ki Foren im De Raum die ich gefunden habe waren im Prinzip alle tot ?

Es gibt für AI mWn nur zwei wirklich relevante Sprachen: Englisch und Chinesisch.

Auch lokale Player wie Black Forest Labs (Deutsch) und Mistral AI (Französisch) haben ihre Homepage und veröffentlichen Paper in englischer Sprache gehalten. Das ist kein Zufall.

Wenn du wirklich was zum veröffentlichen und vorzeigen hast, dann tritt doch mal mit Dr. Károly Fehér in Kontakt. Dem sein ganzes Konzept ist es, weniger bekannte Veröffentlichungen vorzustellen. Aber dafür muss das dann auch Hand und Fuß haben.
https://www.youtube.com/@TwoMinutePapers

 

[Backfisch]

Plattformen wie OpenReview und natürlich arxiv.org sind bereits mehrfach genannt worden.

 

[gabbercopter]

Und wie ich antwortete kann man auf Archivx nur mit einen endorsed Posts Verfassen in den besagten Bereichen aber die anderen beiden Sache. Schaue ich mir Mal an danke für den Tipp.

Den Youtuber habe ich geschrieben. Bei openreview verhält es sich teilweise genauso wie bei archiveX- in diesen fall : Error: Career and education history cannot be empty

Da ich da keine Lügen eintragen werde oder mir sachen ausdenke ... ist es genauso wie bei archivX : die tür bleibt mir verschlossen.

Das ja auch immer das lustige sich hier hinstellen und sagen ja warum macht er das denn nicht ? Naja kleiner hint versuch du doch mal eine studie im AI bereich auf archiv x zu publishen - viel spaß beim scheitern.

Das system ist nunmal so : endweder du hast rang , namen und doktortitel und oder du wirst wieder weg geschickt. das ist die realität meine freunde

 

[Backfisch]

Das system ist nunmal so : endweder du hast rang , namen und doktortitel und oder du wirst wieder weg geschickt. das ist die realität meine freunde

Meine erste Publikation in einem peer-reviewten Journal habe ich noch vor dem ersten akademischen Abschluss eingereicht und nach erfolgreicher Begutachtung auch bei arxiv hochgeladen ... im AI-Bereich sind derartige Formalitäten sogar noch unwichtiger.

Also: Account erstellen, dein "Paper" hochladen und dich dem Review stellen. Wenn es Probleme beim Anlegen eines Accounts geben sollte, teile doch gerne einen Screenshot davon. Auf arxiv kannst Du bei der Registrierung bei "Organization" einfach deine Firma angeben oder dich als "Privatier" bezeichnen, bei "Status" wählst Du "Other", fertig.

 

[gabbercopter]

Also bei ArchivX ging das so definiv nicht dort bekam ich die notifikation das ich ein endorsement brauche . Ich habe dann verschiedene Prozessoren um eines gebeten aber es kam nie eine Antwort. Vielleicht war das ja früher noch nicht so keine Ahnung?

Bei review möchte er einen Karriere Pfad und die education History. Gut klar bei education kann ich wenn's ist noch einfach sekundär 1 rein schreiben aber bei karerrie muss ich mal gucken.

Ich schaue mir das nochmal an danke

 

[Backfisch]

Also bei ArchivX ging das so definiv nicht

Ich habe die Anmeldung vor Verfassen meines Beitrags nochmal mit einer Alternativmail durchgespielt, hat problemlos geklappt.

 

[gabbercopter]

@Backfisch "You are not endorsed for this archive. See endorsement help or request endorsement"

keine ahnung was du da machst. Aber ich kann da einen scheiss Posten. Ich habe mehrere Professoren dort nach exakten schema emails gesendet und um das entsprechende endorsement gebeten. Es kam aber nie eine

 

[unreached123]

weil dein blog keine wissenschaftliche arbeit ist. niemand, der sich in dem bereich befindet wird dich ernst nehmen und wird die email einfach ignorieren - me included, der in dem bereich tätig ist und schon alles zu deiner arbeit gesagt hat