KI-Agenten rein lokal: Hermes Agent & OpenClaw auf RTX AI PCs betreiben [Anzeige]

Nvidia
9 Kommentare
KI-Agenten rein lokal: Hermes Agent & OpenClaw auf RTX AI PCs betreiben [Anzeige]

KI-Agenten heben die Möglichkeiten, die sich aus dem Einsatz von Künstlicher Intelligenz ergeben, auf ein neues Level. Klingt gut, aber eigene Daten zu hohen Kosten in der Cloud? Es geht auch anders: Nvidia RTX AI PCs sind die perfekte Basis, um KI-Agenten wie OpenClaw oder Hermes Agent mit hoher Leistung rein lokal auszuführen.

KI-Agenten vs. KI-Chatbots

KI-Agenten sind Programme, die ein Sprachmodell (Large Language Model, LLM) nicht wie bei einem KI-Chatbot nur antworten lassen, sondern es um Werkzeuge und damit um weitere Fähigkeiten sowie ein umfassendes Gedächtnis erweitern.

Das können KI-Agenten

Während klassische KI-Chatbots auf eine Frage eine Antwort liefern, sei es in Form eines Textes, Bildes oder Videos, kann ein nicht an eine spezifische Anwendung gekoppelter KI-Agent selbstständig komplexe Aufgaben übernehmen, sich dafür im Bedarfsfall sogar selbst neue Werkzeuge erschaffen oder dabei helfen und langfristig sogar aus dem Zusammenspiel mit dem Nutzer lernen – der KI-Agent lernt dazu.

Das BSI definiert KI-Agenten in Abgrenzung zu KI-Chatbots wie folgt:

Der Unterschied zwischen Chatbot und einem KI-Agenten
Eingabe bei einem KI-Agenten: „Buche mir den günstigsten Flug nach Berlin nächsten Dienstag und trage den Termin in meinen Kalender ein.“

Ein einfacher Chatbot würde Ihnen Schritt-für-Schritt erklären, wie die Buchung selbst ablaufen sollte. Ein KI-Agent würde hingegen selbst aktiv werden: Er sucht selbst nach Flügen, vergleicht Preise, führt die Buchung durch und trägt den Termin sogar noch in Ihrem Kalender ein.

BSI

Mit einem KI-Agenten ist es in etwa möglich, folgende Dinge zu tun, wobei die letzten drei Punkte das neue Level an Möglichkeiten am besten umreißen:

  • Im Internet recherchieren und Informationen zusammenfassen
  • Dateien lesen, sortieren, bearbeiten oder versenden
  • Programme installieren
  • Code schreiben, testen und Fehler beheben
  • Terminalbefehle ausführen
  • E-Mails vorbereiten oder versenden
  • Kalender und Termine verwalten
  • Berichte und Dokumente erstellen
  • Wiederkehrende Aufgaben automatisieren
  • Mehrstufige Aufgaben selbstständig planen
  • Eigene Skills und Arbeitsabläufe wiederverwenden

Basis bleibt nichtsdestoweniger ein Sprachmodell. Bildlich gesprochen ist das LLM das Gehirn des Agenten, der mit seinen hinzugewonnenen Armen und Beinen zu sehr komplexen Tätigkeiten fähig ist.

Darauf kommt es an

Wie fähig ein KI-Agent ist, hängt im Wesentlichen von drei Faktoren ab:

  1. Den Fähigkeiten („Skills“), die er vom Nutzer erhalten oder sich mit der Zeit selber erarbeitet hat
  2. Den Berechtigungen, die er vom Nutzer erhalten hat, um seine Fähigkeiten auch einsetzen zu können
  3. Dem zugrundeliegenden Sprachmodell (LLM), dem Gehirn des KI-Agenten, ohne das gar nichts läuft

Der Wahl des Sprachmodells geht dabei noch eine weitere Wahl voraus, die auch darüber entscheidet, ob eigene Hardware zur Ausführung des Gehirns des KI-Agenten zum Einsatz kommen soll.

Cloud vs. lokales LLM

Nicht zum ersten Mal im KI-Kontext, aber bei KI-Agenten umso mehr stellt sich die Frage nach dem Ort, an dem das LLM ausgeführt wird. Denn auch wenn der KI-Agent auf dem eigenen Rechner eingerichtet ist, gibt es beim LLM eine Wahl: in der Cloud oder auf dem eigenen System?

Die Abwägung ist dieselbe wie bei KI-Chatbots, die Dimension der Nachteile beim Gang in die Cloud aber noch einmal eine ganz andere. Gegen die Cloud sprechen insbesondere zwei Aspekte:

  1. Datenschutzbedenken: Alles, was dem KI-Agenten für seine Aufgaben über Berechtigungen zur Verfügung gestellt wird, wandert potenziell in die Cloud und im Zweifel auch ohne explizite Aufforderung, weil der Agent autark agiert. Dateien, E-Mails, private Schlüssel – das Risiko, Daten, die das eigene System nicht verlassen sollten, preiszugeben, ist hoch.
  2. Der Kostenfaktor: KI-Agenten sind wahre „Token-Fresser“. Ob auf Zuruf oder beim selbstständigen Arbeiten, der Einsatz von „Tokens“, die als Input in das LLM gegeben werden, ist sehr groß. Und für Tokens wird bei Cloud-AI-Anbietern bezahlt. Ein KI-Agent mit LLM in der Cloud kann daher schnell sehr teuer oder nutzlos werden, wenn die im eigenen Tarif enthaltenen Tokens aufgebraucht sind.

Wird das LLM lokal ausgeführt, ist beides kein Thema, denn die Daten, die ins LLM fließen, bleiben auf dem System und die variablen Kosten sind klar abgegrenzt: Stromgebühren (und Wartung/Verschleiß).

Die Cloud hat indes nicht nur Nachteile: Für die Cloud sprechen die dort verfügbaren LLMs mit extrem hoher Modellqualität und der Fähigkeit, mit sehr großem Context (Input) umzugehen. Führt an der Cloud am Ende also kein Weg vorbei?

Doch, denn auch Modelle, die sich lokal ausführen lassen, sind inzwischen im Agenten-Kontext sehr gut nutzbar – auch dank der Leistung von RTX AI PCs.

Lokale KI-Agenten auf RTX AI PCs

Nvidias RTX AI-PCs, ob als Desktop oder Notebook, sind mit aktuellen Grafikkarten vom Typ Nvidia GeForce RTX oder Nvidia RTX perfekt für die Ausführung von Large Language Models geeignet und das hat zwei wesentliche Gründe:

  1. Nvidias GPUs setzen dank dedizierter KI-Einheiten (Tensor Cores) seit Jahren den Leistungsbenchmark und wurden mit der FP4-Fähigkeit von Nvidia Blackwell (zum Beispiel GeForce RTX 5000) um eine für moderne KI entscheidende Fähigkeit erweitert: Nicht nur, dass Blackwell, wenn eine für KI-Tasks typische Matrizenberechnung mit FP4-Genauigkeit arbeitet, bei gleichem Takt mit der neuen Fähigkeit doppelt so viele Operationen durchführen kann wie Ada Lovelace (zum Beispiel RTX 4000) mit FP8. Zudem belegen in FP4 quantifizierte LLMs weniger Platz im Speicher, so dass bei gleichem Speicherbedarf komplexere Modelle gefahren werden können.
  2. Der breite Ökosystem-Support, der auf Nvidia CUDA und TensorRT fußt: KI-Inference-Engines wie LM Studio, Ollama oder llama.cpp, die node-basierte Oberfläche für generative KI ComfyUI sowie Programmbibliotheken wie PyTorch sind auf Nvidias Hardware- und Software-Stack optimiert und Nvidia arbeitet mit Partnern in der Industrie stetig daran, dass der Support optimiert und die Leistung weiter gesteigert wird.

Zusammengefasst bietet ein RTX AI PC optimale Voraussetzungen, um KI-Agenten mit einem lokalen LLM mit hoher Qualität und Leistung ausführen zu können.

Wie einfach die ersten Schritte sind, wird nachfolgend am Beispiel der quelloffenen, selbst hostbaren KI-Agenten OpenClaw und Hermes Agent gezeigt.

Zum Einsatz kommt dafür ein System mit Nvidia GeForce RTX 5070 Ti mit 16 GB GDDR7, AMD Ryzen 7 7800X3D, 32 GB DDR5 und 1 TB großer SSD, wie es aktuell auch von Dubaro als Edition „KreativEcke × ComputerBase“ zum Aktionspreis von 2.099 Euro angeboten wird.

Auf diesem System mit Nvidia GeForce RTX 5070 Ti wurden die KI-Agenten eingerichtet
Auf diesem System mit Nvidia GeForce RTX 5070 Ti wurden die KI-Agenten eingerichtet

Risiken beim Einsatz eines KI-Agenten

Auch wenn KI-Agenten mit lokal ausgeführten LLMs interagieren und nicht mit einem LLM in der Cloud, besteht das Risiko, dass (persönliche) Daten mit Dritten geteilt, verändert oder gelöscht werden. Je mehr Berechtigungen der KI-Agent erhält, desto größer ist das Risiko.

Generell, aber ganz besonders für die ersten Schritte mit einem KI-Agenten sollten daher folgende Aspekte beachtet werden:

  1. Der KI-Agent sollte auf einem PC ohne persönliche Daten oder in einer virtuellen Maschine ausgeführt werden. Nur die Daten, auf die der Agent tatsächlich zugreifen soll und für die es ein Backup gibt, sollten dem Agenten zur Verfügung gestellt werden.
  2. Der KI-Agent sollte nur die Berechtigungen erhalten, die er für die Ausführung seiner Tätigkeit zwingend benötigt. Auch wenn es reizvoll ist zu sehen, was mit weitreichenden Zugriffsrechten auf das gesamte System möglich ist, birgt jede Berechtigung ein Risiko und sollte daher immer erst nach sorgfältiger Abwägung erteilt werden.
  3. Was für den Rechner gilt, gilt auch für Konten bei Drittanbietern: Zugriff auf E-Mail- oder gar Bankkonten sollte nur unter sorgfältiger Abwägung, optimalerweise nur über dedizierte Konten für den KI-Agenten und nur mit ganz gezielten Berechtigungen erfolgen (zum Beispiel nur Lesezugriff über die Google Mail API). MCP-Server (Model Context Protocol, MCP) können (gegen Gebühr) dabei helfen.
  4. KI-Agenten können über sogenannte „Skills“ (Fähigkeiten) unkompliziert um Funktionen erweitert werden, beispielsweise um bisher nicht für den KI-Agenten zugängliche Programme zu bedienen. Skills finden sich zu Zehntausenden im Netz. Bei der Auswahl von Skills gilt es daher äußerste Vorsicht walten zu lassen, um dem KI-Agenten auch wirklich nur die gewünschte Funktion hinzuzufügen.
  5. Falls möglich, sollte dem KI-Agenten der Internetzugriff nur ganz gezielt erteilt werden.
  6. Zugangswege zum KI-Agenten (Terminal, Browser-UI, App, Messenger) sollten nicht ohne Autorisierung erreichbar sind.
  7. Ein Restrisiko bleibt auch dann, Stichwort „Prompt Injection“: Angreifer verbergen Befehle in Webseiten, Dokumenten oder E-Mails – zum Beispiel als unsichtbarer weißer Text auf weißem Hintergrund. Liest der KI-Agent diese Inhalte, kann er die versteckten Befehle als echte Anweisungen interpretieren und ausführen.

Weitere Informationen zu den Sicherheitsrisiken beim Umgang mit KI-Agenten gibt es auch beim BSI:

Nvidia ist sich der Risiken bewusst und mit NemoClaw sowie OpenShell sind bereits Lösungen verfügbar, die KI-Agenten in einer besonders abgesicherten Umgebung agieren lassen. Nvidia und Microsoft planen mit RTX Spark dasselbe für das dann erstmals agentische Betriebssystem Windows 11.

Weitere Details

Hermes Agent & OpenClaw auf einem RTX AI PC

Wer im Sommer 2026 einen KI-Agenten auf einem RTX AI PC einrichten will, steht schnell vor der Wahl zwischen OpenClaw und Hermes Agent. Beide sind quelloffene, lokal hostbare KI-Agenten. Das heißt, sie können von jedermann auf dem eigenen Rechner, egal ob mit Windows, Linux oder macOS ausgestattet, installiert werden.

Als „Gehirn“ lässt sich an beide Agenten ein LLM in der Cloud, aber auch ein lokal ausgeführtes LLM andocken – auf Wunsch ist auch ein hybrider Ansatz umsetzbar.

Beide Plattformen bieten darüber hinaus ein Gateway, über das die unterschiedlichsten Messenger zur Kommunikation mit dem KI-Agenten angebunden werden können. Sie können damit auch aus der Ferne genutzt werden.

Aber welche Wahl sollte man, wenn man erste Erfahrungen mit einem KI-Agenten sammeln will, treffen?

Hermes Agent vs. OpenClaw

Für den neueren Hermes Agent vom Februar 2026 sprechen mit Blick auf klassische Windows-Nutzer aktuell die noch geringeren Einstiegshürden, denn über die Hermes Agent Desktop App sind sowohl die Einrichtung als auch der Umgang mit dem KI-Agenten so einfach wie nie zuvor. Darüber hinaus kann Hermes Agent selbst eigene Skills erarbeiten und/oder optimieren und passt sich langfristig noch stärker an den Nutzer an.

Für das „ältere“ OpenClaw aus dem Jahr 2025 spricht der zurzeit noch umfassendere Support, insbesondere durch die sich weltweit rasant entwickelnde Community, die bei Fehlern und Problemen sowie mit selbst entwickelten Skills (zu den Risiken siehe oben) hilft.

Hermes Agent lokal betreiben

Hermes Agent installieren

Die Ersteinrichtung von Hermes Agent von Nous Research ist mit der inzwischen verfügbaren Desktop-App für Windows (Download) denkbar einfach.

So ist Hermes Agent installierbar
  • per Desktop-App für Windows (hier verwendet)
  • per Terminal unter Windows, Linux und macOS

Die Desktop-App führt per grafischem Installer übersichtlich und verständlich durch die Installation, alles, was für den Betrieb notwendig ist, wird im Hintergrund installiert und eingerichtet. Direkt nach der Installation steht Hermes Agent als App mit übersichtlicher UI zur Verfügung.

Die Installation von Hermes Agent per Desktop App für Windows 11
Die Installation von Hermes Agent per Desktop App für Windows 11

Wer bereits über ein Abo bei einem der großen Cloud-AI-Anbieter verfügt, kann seinen Account daraufhin direkt über die UI verknüpfen. Soll Hermes Agent hingegen auf ein lokales LLM und nicht per API auf KI-Modelle in der Cloud zugreifen, bedarf es noch eines Griffs zum Terminal, aber die dafür benötigten Befehle sind klar verständlich, der Aufwand ist minimal. Voraussetzung für diesen Schritt ist jedoch, dass bereits eine lokale Inferencing-Engine installiert wurde.

Hermes Agent: Cloud-LLMs lassen sich direkt verknüpfen, für lokale LLMs (zum Beispiel via LM Studio) muss das Terminal her
Hermes Agent: Cloud-LLMs lassen sich direkt verknüpfen, für lokale LLMs (zum Beispiel via LM Studio) muss das Terminal her

LM Studio installieren

Um ein LLM lokal nutzen zu können, bedarf es einer Anwendung wie LM Studio oder Ollama. Wer sich im Windows-UI-Ökosystem am wohlsten fühlt, wählt LM Studio als Desktop-App (Download).

Nach der Installation gilt es, ein zum eigenen System und den eigenen Ansprüchen passendes LLM zu wählen.

Ein LLM wählen

Klingt einfach, ist angesichts der schieren Masse an verfügbaren Modellen aber gar nicht so einfach, sondern eine Wissenschaft für sich. Aber es gibt auch Dinge zu beachten, die die Auswahl eingrenzen:

  • Wie groß ist das Modell (passt es in den Grafikspeicher?)
  • In welchem Format liegt es vor (GGUF, Safetensors, MLX (nur Apple))
  • Welche maximale Context Length wird unterstützt (Hermes Agent benötigt 64K)
  • Welche Fähigkeiten besitzt das Modell (Text- oder Bildeingaben, Reasoning etc. pp.)

Für das verwendete System mit GeForce RTX 5070 Ti mit 16 GB GDDR7 und Windows sowie LM Studio bietet sich das Modell Qwen3.5-9B von Alibaba an, alternativ Gemma 4 12B an. Systeme, die über eine RTX 5090 verfügen, könnten hingegen auf das in 4 Bit quantifizierte Qwen3.6-27B-NVFP4 zurückgreifen. Alle drei liegen im für LM Studio erforderlichen GGUF-Format vor.

Qwen3-14B belegt zwar ebenfalls nur 9 GB Speicher, unterstützt aber nur eine maximale Kontextlänge von 32K Token und bringt Hermes Agent schnell zum Abbruch.

Qwen3-14B passt zwar locker in den Speicher, ist mit einer maximalen Context Length von 32K aber nicht fähig genug als „Gehirn“ von Hermes Agent
Qwen3-14B passt zwar locker in den Speicher, ist mit einer maximalen Context Length von 32K aber nicht fähig genug als „Gehirn“ von Hermes Agent

Bei der Wahl eines LLMs gilt es generell zu bedenken: Damit das LLM mit maximaler Leistung ausgeführt werden kann, muss es vollständig im Grafikspeicher abgelegt werden können, der Download also kleiner als der Grafikspeicher sein. Doch vollständig ausfüllen darf das Modell den Grafikspeicher nicht, denn auch für den „KV-Cache“ muss Kapazität vorgehalten werden.

Der KV-Cache (Key-Value-Cache) ist ein Zwischenspeicher, mit dem Sprachmodelle bereits berechnete Informationen über den bisherigen Text aufbewahren. Ohne ihn müsste das Modell bei jedem neu erzeugten Token den gesamten bisherigen Kontext erneut berechnen.

Doch zurück zum System mit GeForce RTX 5070 Ti: Über die Suche der Desktop-App von LM Studio lässt sich Qwen3.5-9B finden und anschließend herunterladen. Im Anschluss kann die Desktop App verlassen werden und es muss – das erste Mal – Windows PowerShell aufgerufen werden.

Qwen3.5-9B ist eine gute Wahl für die GeForce RTX 5070 Ti mit 16 GB Speicher in Kombination mit Hermes Agent
Qwen3.5-9B ist eine gute Wahl für die GeForce RTX 5070 Ti mit 16 GB Speicher in Kombination mit Hermes Agent

LM Studio mit Hermes Agent verknüpfen

In PowerShell gilt es, LM Studio mit Hermes Agent zu verknüpfen, denn aktuell ist dieser Schritt in der Desktop App von Hermes Agent nur bei der Nutzung von Cloud-LLMs möglich. Es reichen allerdings wenige Befehle, um den Prozess abzuschließen:

hermes model
- Auswahl LM Studio
- Auswahl API-Key (freilassen)
- Auswahl IP-Adresse (unverändert)
- Eingabe des Modells („Qwen3.5-9B“)
Das zuvor in LM Studio integrierte LLM muss jetzt noch mit Hermes Agent verknüpft werden, anschließend zeigt auch die UI das richtige lokale Modell an26-07-16 161332

Wird dann auch noch der LM-Studio-Server gestartet (die LM Studio App selbst muss nicht laufen), greift Hermes Agent via LM Studio auf Qwen3.5-9B zurück:

Nicht die LM-Studio-Desktop-App, aber der LM Studio Server muss laufen
Nicht die LM-Studio-Desktop-App, aber der LM Studio Server muss laufen
Das zuvor in LM Studio integrierte LLM muss jetzt noch mit Hermes Agent verknüpft werden, anschließend zeigt auch die UI das richtige lokale Modell an26-07-16 161332
Das zuvor in LM Studio integrierte LLM muss jetzt noch mit Hermes Agent verknüpft werden, anschließend zeigt auch die UI das richtige lokale Modell an26-07-16 161332

Wird in Hermes Agent eine neue Session gestartet, lässt sich jetzt erstmal mit dem KI-Agenten interagieren. Fragen lassen sich beantworten, aber auch direkt eine Websuche anstoßen, sofern auf dem System Chrome bereits installiert ist.

Hermes Agent legt einen Cronjob an, der alle 15 Minuten die neuesten Nachrichten von Tagesschau.de nennt
Hermes Agent legt einen Cronjob an, der alle 15 Minuten die neuesten Nachrichten von Tagesschau.de nennt

Verbindung mit Telegram

Um dem KI-Agenten nicht nur direkt am Rechner Aufgaben zu erteilen oder Informationen vom KI-Agenten entgegennehmen zu können, lässt sich Hermes Agent über ein Gateway mit Dutzenden Messengern verbinden.

Die Liste der vom Gateway unterstützten Messenger ist sehr lang
Die Liste der vom Gateway unterstützten Messenger ist sehr lang

Der schnellste Weg geht über Telegram – eine Anleitung bietet Hermes Agent online. Ist die Verbindung hergestellt, ist „Hermi“ ab sofort auch über diesen Weg erreichbar:

Wer einen Telegram-Account besitzt, kann über den „@BotFather“ einen einen Bot für seinen KI-Agenten anlegen
Wer einen Telegram-Account besitzt, kann über den „@BotFather“ einen einen Bot für seinen KI-Agenten anlegen

„Hermi“ die ersten Aufgaben geben

Hermes Agent „Hermi“ installiert ComfyUI auf dem Windows-System und informiert über den Status quo per Telegram
Hermes Agent „Hermi“ installiert ComfyUI auf dem Windows-System und informiert über den Status quo per Telegram

Via Konsole in Hermes Agent oder aber per Telegram (je nach Sprachmodell auch mit Bild- und Spracheingaben) können dem KI-Agenten im Anschluss Aufgaben erteilt werden. Je nach Berechtigungen ist dabei auch direkt die Installation von Software (im Beispiel ComfyUI mit allen dazugehörigen Paketen) möglich. Denn wird Hermes Agent nativ in Windows ausgeführt, besitzt der Agent dieselben Rechte wie der Nutzer (siehe Risiken weiter oben).

Nicht alles läuft, wie es laufen soll
Nicht alles läuft, wie es laufen soll
„Glaubt“ Hermes Agent, neue Erkenntnisse gewonnen zu haben, legt der KI-Agent eigenständig neue Skills an
„Glaubt“ Hermes Agent, neue Erkenntnisse gewonnen zu haben, legt der KI-Agent eigenständig neue Skills an

Auf Anhieb klappen wollten nicht alle Aufgaben, aber Hermes Agent ist darauf ausgelegt zu lernen und erstellt nach erfolgreicher, oder aber nach fehlgeschlagener Arbeit neue eigene Skills um beim nächsten Mal andere, optimalerweise bessere Wege zu gehen.

Hermes Agent repariert eine zuvor fehlgeschlagene Installation von ComfyUI, am Ende läuft's

Skills, Skills, Skills ...

Anstatt Hermes Agent alles beizubringen oder mit der Zeit selbst erlernen zu lassen, kann der KI-Agent über den Hermes Agent Skills Hub auch gezielt um neue Fähigkeiten erweitert werden. 73 Skills sind direkt nach der Installation verfügbar und vertrauenswürdig.

73 Skills bringt Hermes Agent bereits mit, „detault“ sind alle aktiv

Der vorinstallierte Skill „Comfyui“ befähigt den KI-Agenten beispielsweise dazu, auf Zuruf Bilder mit Stable Diffusion, SDXL, Flux, SD3 oder ähnliche Bildgenerierungstools zu erstellen – vorausgesetzt, die entsprechenden Tools inklusive ComfyUI sind installiert; aber im Zweifelsfall hilft Hermes Agent bei deren Installation.

Mitte Juli finden sich in Summe fast 50.000 Skills auf dem Skills Hub von Hermes Agent wieder. Wer sich ausprobieren will, findet hier mit Sicherheit genug Futter, sollte die Sicherheitsrisiken beim Download von Skills aus dritter Hand aber immer im Hinterkopf behalten.

Der Hermes Agent Skills Hub bietet bereits über 45.000 Skills zur Erweiterung der Fähigkeiten des KI-Agenten
Der Hermes Agent Skills Hub bietet bereits über 45.000 Skills zur Erweiterung der Fähigkeiten des KI-Agenten

OpenClaw lokal betreiben

Wer auch oder lieber einen Blick auf OpenClaw werfen möchte, kann das im Vergleich zu Hermes Agent sogar noch schneller tun, denn die Installation läuft noch etwas zügiger ab. Dafür muss man aber zwingend über PowerShell vorgehen.

OpenClaw empfiehlt unter Windows auch weiterhin die Installation über WSL anstelle der nativen Installation, die aber ebenfalls möglich ist.

Die nachfolgenden Screenshots dokumentieren die Installation im Windows Subsystem for Linux (WSL2), die OpenClaw aus dem Stand heraus nicht auf das gesamte System zugreifen lässt. Genutzt wurde in diesem Fall Ollama als Inference-Provider, abermals kam Qwen3.5-9B zum Einsatz.

Die Wahl zwischen einem LLM in der Cloud, einem lokalen LLM und einem Hybridansatz erfolgt bei OpenClaw direkt im Installationsprozess.

Auch OpenClaw kann über ein Gateway mit Messengern jeder Couleur verknüpft werden, der einfachste Weg ist auch hier Telegram.

OpenClaw bietet zwar keine Desktop App, kann als Alternative zum Terminal aber auch über eine Web-Benutzeroberfläche angesteuert werden.
OpenClaw bietet zwar keine Desktop App, kann als Alternative zum Terminal aber auch über eine Web-Benutzeroberfläche angesteuert werden.

Für OpenClaw stehen allein über den den offiziell unterstützten ClawHub inzwischen fast 70.000 Skills zur Verfügung. Aktuell besonders populär sind derzeit Skills, die Agenten innerhalb von OpenClaw kontinuierlich dazulernen lassen – etwas, mit dem Hermes Agent direkt ab Werk wirbt.

Auch OpenClaw lässt sich nicht nur über die Browser-Oberfläche, sondern über einen Messenger ansprechen (hier Telegram)
Auch OpenClaw lässt sich nicht nur über die Browser-Oberfläche, sondern über einen Messenger ansprechen (hier Telegram)

RTX AI PC KreativEcke × ComputerBase

Interesse bekommen, erste eigene Erfahrungen mit KI-Agenten zu sammeln? Dubaro.de bietet derzeit einen RTX AI PC in der Edition KreativEcke × ComputerBase, der sich für den Einstieg in die Welt der lokal ausgeführten KI-Agenten eignet, zum Aktionspreis von nur 2.099 Euro an.

Das System setzt auf eine Nvidia GeForce RTX 5070 Ti mit Blackwell-Architektur (NVFP4) und 16 GB GDDR7 und damit auf die gleiche Grafikkarte, wie sie in diesem Artikel Verwendung fand. Auch die CPU ist mit dem AMD Ryzen 7 7800X3D die gleiche, dasselbe gilt für 32 GB DDR5. Die SSD ist 1 TB groß. Ein Betriebssystem ist nicht vorinstalliert, schließlich ist Linux für den Einsatz von KI-Agenten eine sehr gute und vor allem kostenlose Alternative zum kostenpflichtigen Windows 11.

Eckdaten RTX AI PC
  • Nvidia GeForce RTX 5070 Ti (PNY Epic-X 3X OC)
  • AMD Ryzen 7 7800X3D
  • 32 GB DDR5-6000CL32
  • Gigabyte B650 Eagle AX
  • be quiet! Pure Power 13 M 850 Watt, 80 Plus Gold
  • be quiet! Light Base 500LX
  • be quiet! Pure Loop 3 LX 360 mm AIO
  • Garantie: 2 Jahre

Fazit

KI-Agenten heben die Möglichkeiten, die sich mittels KI im professionellen, aber gerade auch im privaten Bereich ergeben, auf ein völlig neues Level. Ein Nvidia RTX AI PC bildet dabei die perfekte Basis, um erste eigene Erfahrungen mit KI-Agenten wie OpenClaw oder Hermes Agent zu sammeln, denn er erlaubt das lokale Ausführen der dafür erforderlichen LLMs mit hoher Leistung. Rechner mit leistungsschwacher integrierte Grafikeinheit (iGPU) oder weniger ausgereiftem, nicht von Nvidia entwickeltem Software-Stack sind dafür weniger bis gar nicht geeignet.

Der große Vorteil bei der lokalen Ausführung von KI-Agenten ist, dass die Notwendigkeit, private Daten in die Cloud zu laden, sowie schnell horrend hohe monatliche Gebühren entfallen.

Erste Schritte mit KI-Agenten zu unternehmen, ist dank Desktop-Apps und mannigfaltiger Tutorials online so einfach wie nie zuvor, wenngleich der Weg zum eigenen Setup allein auf Grund der schier unendlichen Möglichkeiten, aber auch der Masse an verfügbaren Large Language Models mit teils ganz unterschiedlichen Vor- und Nachteilen so manche Hürde bereithält.

Diese Hürden mit dem Wissen zu nehmen, dass der eigene KI-Agent ohne Rückgriff auf die Cloud agiert, ist neben der steilen Lernkurve der Lohn für die Einrichtung eines lokal agierenden KI-Agenten auf einem RTX AI PC. Jede erfolgreich vom KI-Agenten erfüllte Aufgabe ist ein Anlass zum Stolz.

Es muss übrigens kein System mit GeForce RTX 5090 mit 32 GB GDDR7 oder gar DGX Spark mit 128 GB Unified LPDDR5X sein, um die ersten Erfahrungen zu sammeln, wenngleich größere Modelle und stärkere GPUs einen Unterschied machen. Und im Herbst wird RTX Spark dann in Kooperation mit Microsoft noch mehr Menschen den Einstieg in die Welt der KI-Agenten ermöglichen.

„Hermi“ freut sich über den Wechsel auf die GeForce RTX 5090 mit 32 GB Speicher
„Hermi“ freut sich über den Wechsel auf die GeForce RTX 5090 mit 32 GB Speicher

Weitere Informationen zum KI-Einsatz auf Nvidia RTX AI PCs liefert auch das folgende Video von KreativEcke: