News OpenShell und Sentry: Nvidia will das Ausbrechen von KI-Agenten verhindern

[daVinci]

Nein... das funktioniert schon in großen Unternehmen kaum noch. Sicher kann ein wahnsinniger Admin mit ausreichend hoher Sicherheitstuffe viel Schaden verursachen. Aber so wie in Hollywood ist es nun auch nicht.

Das klingt gut. Aber ich meine da weniger den Einzeltäter auf mittlerer Hierarchiestufe, der sich an der Welt rächen will, weil seine Frau ihn verlassen hat, als vielmehr die führenden Köpfe, die sich im aktuellen Wettbewerb dazu gezwungen sehen, Grenzen zu verschieben. Wenn ich da einen Sam Altman sehe, wie er vor laufender Kamera sinngemäß fleht: "Bitte, haltet uns auf, sonst geht die Welt unter!" Da stellen sich mir die Nackenhaare auf.
Dass das in diesem Fall auch PR ist, ist klar. Und wenn das Ganze mittelfristig zu einer wirksamen Regulation und Sicherheitsumgebungen führt, ist das auch gut. Aber bei den Summen und der aktuellen "the winner takes it all"-Mentalität, bleibt die grundsätzliche Gefahr halt bestehen. Dazu kommt ja noch die "Gegenseite", die KI sowieso als Mittel zum Zweck zur persönlichen Bereicherung ohne ethische Fesseln verwenden wird. Sei es ein Geheimdienst oder organisierte Kriminalität, ändert ja an einem möglichen worst case nichts.
Und bevor ich missverstanden werde: Ich rede nicht von Terminator Szenarien, sondern davon, was bereits jetzt stattfindet. Falschinformationen und fake content sorgen jetzt schon dafür, dass sich immer mehr Menschen gegenseitig den Schädel einschlagen wollen. Eine KI braucht keinen Zugang zu Waffen. Nur Zugang in unsere Köpfe.

 

[valovalo]

Informier dich!

Die Software-Lösung (OpenShell) ist kostenlos, offen (Apache 2.0) und isoliert KI-Agenten bereits auf Software- und Kernel-Ebene.

Wer noch eine zusätzliche, voneinander getrennte Hardware-Sicherheitsebene (Hardware Root of Trust) braucht, für den gibts Sentry, dann aber ein propitäre NV Lösung, die BlueField-4 DPUs läuft.

Apache 2.0 schützt vor Lizenzklagen, aber nicht vor Kernel-Exploits. Eine Software-Sandbox auf demselben Kernel ist eher ein Einbruch durch die Trockenbauwand als ein echter Schutz. Eine Firewall ist immer dezidiert und niemals auf dem Host selbst, egal wie „toll“ man virtualisieren kann. Da brauchst du auch keine „Enterprise“-Lösung, sondern deckst das einfach mit Open-Source-Tools wie OpenWrt oder OPNsense ab.