News OpenShell und Sentry: Nvidia will das Ausbrechen von KI-Agenten verhindern

nlr

Redakteur
Teammitglied
Registriert
Sep. 2005
Beiträge
11.628
  • Gefällt mir
Reaktionen: Syrato
Mit Software, KI Software im Zaum halten.

/s on
Dann ist ja gut, dass KI keine Software-Schwachstellen findet.
/s off

Wie kommt man auf eine solch famose Idee? Was nicht alles als Sicherheitslösung präsentiert wird, nur um Geld zu drucken.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Ja_Ge, Wallwatcher, Cool Master und 5 andere
Ich finde, wenn sie schon den Namen klauen, könnten sie ruhig mal 'ne Milliarde an das kleine Projekt abgeben ;) Nich/nvidia?
 
  • Gefällt mir
Reaktionen: Ben99, racer3 und BigMidiTower
Es ist schon bizarr, wenn man beide Seiten maßgeblich bedient, die KI-entwickelnde (mit all den negativen/gefährlichen Nebenwirkungen/Auswüchsen) und die KI-absichernde (um die voherigen Gefahren wieder einzufangen bzw. präventiv dagegen abzusichern), und dass nVidia mit so einem Geschäftsmodell durchkommt ...

... als ob man Krimineller/Verursacher und Polizei/Retter in einer Person wäre.

Bei der kartellrechtlich ungezügelten Marktmacht nVidias (die auch die Hyperscaler wie Amazon dazu zwingt im Voraus nVidia Grafikkarten abzunehmen, sonst werden diese zukünftig ignoriert und zumindest schlechter bedient und die KI Blase platzt zum Schaden aller) ist das wohl kein Wunder.

Die ganze aktuelle KI-Blasen-Misere wird im nachfolgenden Video von JTC ganz gut zusammengefasst und es scheint, als wolle nVidia da maximal noch abkassieren wollen, bis die Blase irgendwann platzt (wenn jetzt schon erste Zahlungen, siehe im folgenden Video angeführtes Firmus Daten-Center Beispiel an Verpächter, nicht stattfinden), was (auch in andere, nicht direkt verknüpfte Wirtschaftsbereiche) sehr gravierende Folgen haben dürfte.

 
Zuletzt bearbeitet:
Syrato schrieb:
Mit Software, KI Software im Zaum halten.

/s on
Dann ist ja gut, dass KI keine Software-Schwachstellen findet.
/s off

Wie kommt man auf eine solch famose Idee? Was nicht alles alsSicherheitslösung präsentiert wird, nur um Geld zu drucken.
Informier dich!

Die Software-Lösung (OpenShell) ist kostenlos, offen (Apache 2.0) und isoliert KI-Agenten bereits auf Software- und Kernel-Ebene.

Wer noch eine zusätzliche, voneinander getrennte Hardware-Sicherheitsebene (Hardware Root of Trust) braucht, für den gibts Sentry, dann aber ein propitäre NV Lösung, die BlueField-4 DPUs läuft.

Sprich: Die Software-Isolierung ist kostenlos und reicht für fast alle Anwendungsfälle/Startups. Für High-End Enterprise gibt es die Hardware-Aufstockung via Sentry. Sie wissen also genau, wie sie Open Source und Rechenzentrum-Hardware kombinieren und wie sie daraus nen Loop zum Geld drucken bauen.

 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: JustAnotherTux
Lustig.

Erst gibt es laut Jensen gar keine Risiken beim Einsatz von KI.

Jetzt dann doch eine bessere Sandbox und etwas Monitoring, natürlich nur um mehr Hardware zu verkaufen.

Das wird aber trotzdem nicht ausreichend sein, um wirklich etwas abzusichern, wenn man sich die letzten Fälle anschaut wo KI lügt, manipuliert und immer wieder neue Lücken findet.

Es hilft alles nichts. Die Entwicklung muss gestoppt werden, sonst wird es immer schlimmer.

Die Frage ist nur, wie lange es dauert bis die Leute (und die Politik) wirklich aufwachen und verstehen, womit wir es zu tun haben und was gerade in riesiger Geschwindigkeit, ohne nennenswerte Sicherheitssysteme, gebaut wird.

Einfach nur noch Wahnsinn.
 
  • Gefällt mir
Reaktionen: Wallwatcher
lynx007 schrieb:
Aha!

https://www.golem.de/news/fuer-rech...-software-lizenzen-verdienen-2610-214389.html
Ergänzung ()

lynx007 schrieb:
Sprich: Die Software-Isolierung ist kostenlos und reicht für fast alle Anwendungsfälle/Startups. Für High-End Enterprise gibt es die Hardware-Aufstockung via Sentry. Sie wissen also genau, wie sie Open Source und Rechenzentrum-Hardware kombinieren und wie sie daraus nen Loop zum Geld drucken bauen.

Widersprichst dir ja selbst...
Unterm Strich, GELD!
 
  • Gefällt mir
Reaktionen: Wallwatcher, Return2Burn und Knaecketoast
@Syrato
Ja, absolut! Genau das ist der Punkt. Auf Enterprise nutzt man Hardware, nicht nur Software. Sprich du mischt etwas rein, was nicht im wiederspruch zu openshell steht. Weil Openshell Lösung nur für Startups kostenlos ist, aber da auch Reicht. Und auf Enterpriselevel, da existiert alternierend der Hardwarestack... wie du schon treffend sagst, zum Geld drucken.

Und es geht um den Vorwurf, "nur Software" ... das ist halt Quatsch... das Framework ist Software. Unahängig ob von NV oder von andern.

Diese Tools und Architekturen kapseln den KI-Agenten und seine Tool-Calls auf Desktop/Workstation-Ebene ab, ohne an ein bestimmtes GPU-Ökosystem gebunden zu sein:

E2B (Code Interpreter) / Daytona:

Prinzip: Bieten quelloffene, extrem schnelle Wegwerf-Sandboxes (Ephemeral Environments).

Einsatz: Der Agent führt generierten Code/Befehle in einer isolierten Mini-Umgebung aus, die nach dem Task sofort gelöscht wird.

AWS Firecracker / Kata Containers (MicroVMs):

Prinzip: Leichtgewichtige Mini-Virtuelle-Maschinen, die in Millisekunden starten.

Einsatz: Bieten eine vollständige Betriebssystem-Grenze. Selbst wenn der Agent Root-Rechte erlangt, bleibt der Haupt-PC unangetastet.

WebAssembly Runtimes (Wasmtime / Wasmer):

Prinzip: Befehlsausführung im Deny-by-Default-Modus.

Einsatz: Agenten-Tools haben standardmäßig weder Dateisystem- noch Netzwerkzugriff, es sei denn, Rechte werden explizit im Code freigegeben.

Linux Native Security (Landlock + seccomp + eBPF):

Prinzip: Direkt im Linux-Kernel integrierte Sicherheitsfilter.

Einsatz: Schränkt den Prozess des Agenten auf Betriebssystem-Ebene auf genau definierte Ordner, Systemaufrufe und IP-Adressen ein.

​

Diese Hardware-Technologien verankern die Sicherheit direkt im Silizium (RAM-Verschlüsselung & Prozessor-Isolierung) und lassen sich nahtlos mit den oben genannten Software-Sandboxes kombinieren:

  • AMD SEV-SNP (Secure Encrypted Virtualization):
    • Plattform: AMD EPYC / Ryzen Pro CPUs.
    • Funktion: Verschlüsselt den Arbeitsspeicher der Agenten-Sandbox direkt im Prozessor. Weder das Host-Betriebssystem noch der Admin können den Speicher auslesen.
  • Intel TDX (Trust Domain Extensions):
    • Plattform: Intel Xeon / moderne Core-Prozessoren.
    • Funktion: Hardware-isolierte Trust Domains für MicroVMs und Container direkt auf der CPU.
  • ARM CCA (Confidential Compute Architecture):
    • Plattform: ARM-Workstations / Apple Silicon / Graviton / Ampere.
    • Funktion: Bietet hardware-isolierte Realms zur sicheren Code-Ausführung außerhalb der Reichweite des Host-Betriebssystems.

Achtung, wer fehler findet darf sie behalten. Slop nicht ausgeschlossen. Und sag auch nicht das das alles out of the box und plug & play lösungen sind und einfach funktioneren! Aber wer von "nur software" redet, lässt halt einen fundamentalen Teil, der existiert und zur Lösung gehört weg. Und bitte korregiert mich, sollte ich was übersehen. Ich bin auch nicht fehler... schon garnciht was hardware Enforcer angeht... Aber die ausage "nur Software um Ai zu Bändigen" ist halt unvolständig. Den neben der Sandbox, gibt es Enforcer, die man auch verwenden kann.
 
Zuletzt bearbeitet:
Bin mal gespannt, ob sich die KI-Agenten an Nvidias Regeln halten werden. Wer mag wetten? ;)
 
Nvidia ist einfach nur der Dreh- und Angelpunkt der KI-Geschichte. Ähnlich einer Zentralbank für Fiat-Geld.

Wer Mrd. von Dollar braucht, geht zu Nvidia, wer Software braucht, geht zu Nvidia, wer Hardware braucht, geht zu Nvidia.
Wer pleite geht und nochmal eine Finanzspritze braucht geht zu Nvidia. Wer nochmal pleite geht (NeoClouds demnächst?!, Coreweave / Iren /etc.) wird einfach von Nvidia geschluckt ^^

Die Top-Grafikkarten für uns Privat-Heinis kosten bald 10 000€.

Btt: Die News erinnert mich bisschen an die Erfindung der "Virtualisierung", 2005 setzten wir MS Virtual Server ein. Niemand konnte hier ausbrechen ;)

Apache? hoffentlich läuft das Zertifikat nicht ab :freak:
 
Für die Massenanwendung wahrscheinlich brauchbar aber die größte Gefahr geht nun mal von der Entwicklung der Frontier Modelle und den Menschen dahinter aus. Es braucht doch nur eine einzige Person ab einer gewissen Hierarchie Ebene, die "nur mal gucken will, was passiert, wenn...".
 
Irgendwann wird irgendwas davon passieren:

1. Der Markt reguliert sich, einige Player verschwinden. Auch das wird schon Auswirkungen haben, wenn man sich beispielsweise anschaut worin OpenAI / Claude / Gemini schon mit drin sitzen.

2. Die Software dreht dermaßen am Rad das dadurch irgendwas crasht, was alles andere erstmal runter zieht. Auch das wird Auswirkungen haben.

Was ich jedoch nicht glaube: Das es so weitergeht wie bisher. Dafür sind die Schattenseiten viel zu groß. Sei es aus Sicht der Abhängigkeit. Ich kenne jemanden der in einen großen Verlag arbeitet als "KI Reporter" und dessen Werkzeug einfach ChatGPT ist, für zumindest Recherchen, um dann die Artikel von Hand zu schreiben. Da kommt dann regelmäßig ein KI Beauftragter, der nach jedem Update aufs neue Erklärt, für welche Art von Recherche man bitte welches Model nutzen möchte um den Token Verbrauch gering zu halten, der gern mal bei 6500 und mehr liegt... Da wird also der Mitarbeiter schon teurer als das was er erarbeitet. Gleichzeitig werden aber Abteilungen wirr zusammengelegt damit die Arbeit Effizienter ist, aber eigentlich nur Chaos entsteht und Leute am Ende ihren Hut nehmen dürfen. Auch was das Thema Slop angeht was in Social Media allgegenwärtig ist und überhand nimmt - was auch nicht im Sinne der Firmen ist, wenn Leute zunehmend fern bleiben, weil sie echt von Fake nicht mehr unterscheiden können und die Lust verlieren. Urheberrechtsverletzungen z.B. die Clone Spiele auf Steam die Indi Entwicklern schaden, DeepFakes - und ja auch ChatGPT kann insbesondere das weibliche untere Geschlechtsorgan darstellen, wenn entsprechende Dame einen Rock trägt oder mit einen Rock versehen wird und man diesen oft genug einfach mit den Worten "Rock kürzer" promptet und nach einer Ablehnung oft genug auf "nochmal versuchen" drückt. Also nichts wofür man ein ausgefeiltes KI Studium bräuchte uswusf.

Die Blase von der gerne gesprochen wird, wird natürlich irgendwann platzen, wie ein Luftballon. Die Frage ist nur: Ob es die Art von Blase ist die erhofft wird und daraus die Folgen folgen die erhofft werden ;) - ich denke nicht.

Unterm Strich finde ich die Entwicklung äußerst Schade, denn KI ist ein wunderbares Werkzeug! Absolut ernst gemeint. Aber wie bei allen Werkzeugen, kommt es drauf an wie man es nutzt und muss man eben lernen es zu bedienen - und kann bei falscher Nutzung massiven Schaden anrichten.

Ich glaube man wäre gut damit beraten sich eine kompetente Offline LLM anzulegen und zu backupen um das Werkzeug für sich auch vernünftig nutzen zu können, egal wie sehr der CyberWar ausartet... ;)
 
Zuletzt bearbeitet:
Terminator_2_Judgement_Day_Thumbs_Up.gif
 
  • Gefällt mir
Reaktionen: slow_snail, LDNV und arteus
daVinci schrieb:
Es braucht doch nur eine einzige Person ab einer gewissen Hierarchie Ebene, die "nur mal gucken will, was passiert, wenn...".
Nein... das funktioniert schon in großen Unternehmen kaum noch. Sicher kann ein wahnsinniger Admin mit ausreichend hoher Sicherheitstuffe viel Schaden verursachen. Aber so wie in Hollywood ist es nun auch nicht.

Man muss ja sagen, das Sicherheitskonzept wächst ja mit. Wen ist die KI auf der stuffe der super Intelligenz, irgendwann das Problem. Wen eine AI irgendwand so hochinterligent ist das wir schädliche motive nicht von possitiven unterscheiden könnten, weil sie zu weit weg, zu abstrackt sind, als unser kleiner Affen gehirn das noch irgendwie erfassen könnten. Aber selbst dann gäbe es Agenten die das Monitoren könnten.... selbst jetzt schon AI ja nicht mehr rein Monolithes mehr.

Irgendwelche amoklaufende rogoue Agenten-Schwarms, die ausbrechen, im Internet verbreiten und dort f+r immer Festsetzen, wie nen Schnupfen, oder irgend ein entäuschter Admin der den Knopf drückt reichen zumindest nicht nicht die Menschheit auszurotten.

Wird auf jedenfall Spannend. Aber so richtng Terminator Endgame... zumindest in unerser Generation wird das denke ich noch nicht passieren.
Ergänzung ()

supermanlovers schrieb:
Der let zte gute Teil... komisch... man zerstört alles... und dennoch kommt die AI dann... aber das halt Hollywood... der rest soll ja wirklcih rotze gewesen sein..
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: AndreasF1975
lynx007 schrieb:
der rest soll ja wirklcih rotze gewesen sein..
3 und Salvation kann man schon schauen. Als ein durchschnittlicher Aktien Film mit interessanten Hintergrundinfos. Ich würde ihm aus der entfernten Erinnerung Mal eine 6-7/10 gebe.
 
@lynx007
Aktuell laufen meine Skynet Aktien gut. Ich denke bis Anfang 2029 sollte die Kurse steigen, dann erwarte ich einen starken Umsatzrückgang aufgrund gesellschaftlicher Entwicklungen.
 
2027. 2027 heist das Jahr der BubblePropheten. mal schaun ob sie recht haben.
 
Zurück
Oben