News OpenShell und Sentry: Nvidia will das Ausbrechen von KI-Agenten verhindern

[daVinci]

Nein... das funktioniert schon in großen Unternehmen kaum noch. Sicher kann ein wahnsinniger Admin mit ausreichend hoher Sicherheitstuffe viel Schaden verursachen. Aber so wie in Hollywood ist es nun auch nicht.

Das klingt gut. Aber ich meine da weniger den Einzeltäter auf mittlerer Hierarchiestufe, der sich an der Welt rächen will, weil seine Frau ihn verlassen hat, als vielmehr die führenden Köpfe, die sich im aktuellen Wettbewerb dazu gezwungen sehen, Grenzen zu verschieben. Wenn ich da einen Sam Altman sehe, wie er vor laufender Kamera sinngemäß fleht: "Bitte, haltet uns auf, sonst geht die Welt unter!" Da stellen sich mir die Nackenhaare auf.
Dass das in diesem Fall auch PR ist, ist klar. Und wenn das Ganze mittelfristig zu einer wirksamen Regulation und Sicherheitsumgebungen führt, ist das auch gut. Aber bei den Summen und der aktuellen "the winner takes it all"-Mentalität, bleibt die grundsätzliche Gefahr halt bestehen. Dazu kommt ja noch die "Gegenseite", die KI sowieso als Mittel zum Zweck zur persönlichen Bereicherung ohne ethische Fesseln verwenden wird. Sei es ein Geheimdienst oder organisierte Kriminalität, ändert ja an einem möglichen worst case nichts.
Und bevor ich missverstanden werde: Ich rede nicht von Terminator Szenarien, sondern davon, was bereits jetzt stattfindet. Falschinformationen und fake content sorgen jetzt schon dafür, dass sich immer mehr Menschen gegenseitig den Schädel einschlagen wollen. Eine KI braucht keinen Zugang zu Waffen. Nur Zugang in unsere Köpfe.

 

[valovalo]

Informier dich!

Die Software-Lösung (OpenShell) ist kostenlos, offen (Apache 2.0) und isoliert KI-Agenten bereits auf Software- und Kernel-Ebene.

Wer noch eine zusätzliche, voneinander getrennte Hardware-Sicherheitsebene (Hardware Root of Trust) braucht, für den gibts Sentry, dann aber ein propitäre NV Lösung, die BlueField-4 DPUs läuft.

Apache 2.0 schützt vor Lizenzklagen, aber nicht vor Kernel-Exploits. Eine Software-Sandbox auf demselben Kernel ist eher ein Einbruch durch die Trockenbauwand als ein echter Schutz. Eine Firewall ist immer dezidiert und niemals auf dem Host selbst, egal wie „toll“ man virtualisieren kann. Da brauchst du auch keine „Enterprise“-Lösung, sondern deckst das einfach mit Open-Source-Tools wie OpenWrt oder OPNsense ab.

 

[lynx007]

@valovalo
Aber das ergibt doch keinen Sinn... weder OpenWRT, noch OPNsense sind Hardware Enforcer , noch sind deine Vorschläge ein ausreichender Ersatz. Während Sentry exakt das bietet was du forderst, dezidierte, HW Lösung, zur Agent Governance! Und darum geht es ja bei OpenShell, wie aber auch Sentry.

Aber weder OpenWRT, noch OPNsense sollen angeblich diese Ansprüche für Runtime Governance erfüllen.... sprich du bringst mit deinem Hauptkritikpunkt der Angreifbarkeit auf Kernel Level, als Lösung zwei reine Netzwerk-Tools, die auf Kernel-/Prozessebene überhaupt nicht greifen und für diese Aufgabe somit erst recht ungeeignet sind? Wen auch nur auf Enterprise Level notwendig? #Guardrails

ps: ich lerne noch. Weder brauche ich nen Enterprise System noch kann ich mir eines Bauen. Aber darum geht es ja hier. Um Sinn(unsinn) und Zweck von Openshell und Sentry.... daher seit mir nicht böse wen ich terminologie durcheinanderwerfe oder gar mal Quatsch erzählen sollte.

 

[valovalo]

Moiin,

@valovalo
... weder OpenWRT, noch OPNsense sind Hardware Enforcer , noch sind deine Vorschläge ein ausreichender Ersatz. Während Sentry exakt das bietet was du forderst, dezidierte, HW Lösung, zur Agent Governance! Und darum geht es ja bei OpenShell, wie aber auch Sentry.

Kein Problem,
das muss man auch erst mal auseinanderklamüsern. Der Punkt liegt in unseren sehr unterschiedlichen Auffassungen von echter Sicherheit, wenn man Governance (Überwachung) mit Isolation (Abschottung) vergleicht:

OpenShell schaut dem Agenten auf die Finger (Governance). Es versucht auf Software-Ebene zu regeln, was der Agent darf. Der Haken: Läuft der Agent auf demselben System, kann ein kritischer Befehl oder ein Kernel-Exploit diese Überwachung einfach umgehen.

OpenWrt/OPNsense machen die Tür von außen zu (Isolation). Die wollen nicht den Prozess im Speicher überwachen, sondern schotten das ganze System im Netz ab. Bricht der Agent aus seiner Software-Hülle aus, steht er trotzdem vor der geschlossenen Tür der separaten Firewall und kommt in keine Netze, in die er nicht gehört.

Ich habe überhaupt nicht den Anspruch, da 100% auf Software-Ebene zu überwachen, sondern sperre das ganze System wie es ist in eine Blackbox. Bösartige oder außer Kontrolle geratene Agenten sind jetzt schon oder in Zukunft in der Lage, interne Überwachungen zu umgehen und auszuhebeln. Genau in diesem Fall beißen sie dann auf Granit – vorausgesetzt natürlich, die Settings der dedizierten Firewall stimmen.

Für Letzteres braucht man keine teure Sentry-Hardware von Nvidia – das macht eine einfache, getrennte Firewall genauso dicht. Und ja, es mag sicher Szenarien im Enterprise-Bereich geben, wo man Sentry einsetzen will, aber für Startups halte ich das doch eher für eine nette Art der Neukundenakquise.

Olav