News KI soll die KI kontrollieren: Wie Google die Agenten im Chrome-Browser absichern will

[Eternal]

Und welche Ki kontrolliert die Ki, die die Ki kontrolliert ?

Die KI die kontrolliert wird

 

[$t0Rm]

Ja ne, ist klar. Riskieren wir einfach mal die ersten 30 Lebensjahre unter russischer Besatzung zu existieren, weil einen der Technologie Fortschritt belastet.

Bist du aus Ostdeutschland?

In der Retrospektive habe ich als Westdeutscher nicht unter russischer Besatzung leiden müssen, ob der amerikanische Einfluss immer und unbedingt besser war, mag je nach Perspektive diskutabel sein.

Schön solche Beiträge zu lesen. Ich habe lange in der Gastronomie gearbeitet, auch in Deutschland. Die Ostdeutschen waren mit Abstand die angenehmsten Gäste, die ich je hatte. Irgendetwas scheint denen ja gut getan zu haben? ich mag solche Pauschalisierungen auch nicht.

@THreAD

Gut, dass ich nicht mehr mit Chrome fahre, und das schon lange nicht mehr. Bei mir läuft gar nichts mehr von Google, und deren Dienste werden seitens meiner blockert sofort gesperrt.

 

[KeinNutzerName]

Ja ne, ist klar. Riskieren wir einfach mal die ersten 30 Lebensjahre unter russischer Besatzung zu existieren, weil einen der Technologie Fortschritt belastet. 😢

Direkt oder indirekt ? Weil indirekt hab ich bis zu Wende schon erlebt. Lief ganz passabel, darum bitte etwas genauer

 

[LamaMitHut]

@$t0Rm

Ne, habe Verwandte die aus der Region geflüchtet sind. Die Mauertoten gibt's afaik auch nur in eine Richtung. 😏

 

[Relak]

Heeey. Warum nicht noch eine dritte KI? Dann nennen wir sie Casper, Melchior und Baltasar.

 

[moritzkatz]

Das ist bestimmt genauso clever, wie LLMs mit LLMs zu trainieren.

 

[BOBderBAGGER]

Ich Frage mich gerade bei Google wann und wo soll der eigentliche Nutzer dann die ganze Werbung sehen ?

 

[Botcruscher]

Der böse Russe war es natürlich wieder.

Ja der überwacht euch schon Jahrzehnte mit Echelon und saugt eure Daten inzwischen zu Palantir ab.

 

[hendrik.]

Was im Browser passiert, bleibt im Browser.
Quis custodiet ipsos custodes?

 

[Andy4]

Ist das noch so? Beim FF ist auch schon eine KI drinnen.

 

[Rock Lee]

Eine hierarchische Struktur bei autonomen Aktionen ist per se nichts ungewöhnliches. Oder seid ihr alle selbstständig und habt keine Vorgesetzten?
Es ist im Grunde nur ein Abbild gesellschaftlicher Wirtschaftsstrukturen auf technischer Ebene. Wenn KI - im Gegensatz zu von Menschen in jedem Schritt kuratierten Programmen - in der Lage ist agentisch vorzugehen und menschliche Korrektur fehlt, ist eine zweite Kontrollinstanz sicherlich nicht verkehrt.

Inwiefern diese jedoch prozessseitig fehlerfrei funktioniert kann hier - mangels entsprechender detaillierter Dokumentation - niemand mit Fug und Recht feststellen.
Auch nicht die üblichen Verdächtigen, die entweder gegen KI, EU oder beides hetzen.

 

[chillipepper]

Ich möchte keine KI im Browser. Völlig unnötig.

 

[Sebbi]

Ich habe da ja ne verwegene Idee für dieses Problem: lasst den KI Dreck doch ganz einfach weg

 

[AlphaKaninchen]

Ein potentiell fehleranfälliges System mit einem ebenso fehlerfälligem System absichern.
Da kann gar nichts schiefgehen.

Es geht darum es gegen einen ganz bestimmten Angriff abzusichern, und dagegen könnte es tatsächlich helfen wenn es wirklich keine Möglichkeit gibt über die Metadaten dort eine Promptinjektion durch das erste Model zu initiieren.

Ist halt wie mit Anti Viren Software, die kann die Signatur eines Virus ruhig keinen, wenn er in einem ZIP Verpackt ist das beim Entpacken den Process des Anti Virus übernimmt (Dagegen schützt sich das AV Programm mittels Sandboxing indem z.B. das entpacken in einem Seperaten Process stattfindet)

Aber auch ohne das wenn ich als Angreifer in eine Website mit einer zu überweisenden Rechnung eine Prompt Injektion einbaue die den Betrag von 100€ auf 1000€ erhöht hilft auch die Kontrolle nicht...

Wird wahrscheinlich wie ActiveX, Java (Applets) und ECMAScript regelmäßig neue Lücken

 

[Kaufmannsladen]

Heeey. Warum nicht noch eine dritte KI? Dann nennen wir sie Casper, Melchior und Baltasar.

Da muss ich sofort hieran denken:

 

[branhalor]

"Um die integrierten KI-Modelle abzusichern, will Google im Chrome-Browser ein weiteres KI-Modell einführen, das die KI-Aktivitäten kontrolliert."

Ich wäre dafür, unbedingt auch den Kontroll-KI-Agenten dann nochmal durch eine KI kontrollieren und absichern zu lassen - doppelt hält besser ☝️
Und damit da auch wirklich NIX schiefgehen kann, bitte noch zwei Leute vor nen Monitor setzen zur Überwachung - 4-Augen-Prinzip und so.

😂

Ich lach mich echt scheckig.

Ich will ja nicht bestreiten, daß diese "KI"-Agenten ganz praktisch sind - ich arbeite selbst seit zwei Monaten intensiv mit ChatGPT, nachdem ich in den vergangenen Jahren noch einen großen Bogen um all das Gedöns gemacht habe. Aber Fakt ist: Wenn man den derzeitigen "KI"-Systemen letztlich nicht alles haarklein vorbetet, was man genau braucht und wie und in welcher Form etc. pp, dann bauen die teilweise einen Mist, daß es nicht mehr feierlich ist - und das auch noch wiederholt!, obwohl man es schon mindestens zwei Mal korrigiert und richtiggestellt hat.

Von daher: Ja: KI mit KI abzusichern ist nach jetzigen Maßstäben definitiv der falsche Weg.

Wobei: All diese Systeme als "KI" zu bezeichnen, ist ja eh primär Marketing. Es mag sicher mehr dahinterstecken als einfach nur WENN-DANN-Abfragen, keine Frage - aber von KI im wortwörtlichen Sinne sind wir (zum Glück!!!) noch meilenweit entfernt und werden es hoffentlich!!! auch niemals schaffen, diese zu erschaffen.

 

[habla2k]

Ich wäre gerne 1960 geboren worden

Und du hättest die (natürlich gefälschte) Mondlandung live gesehen!

 

[Relak]

@Kaufmannsladen genau das! 🤣 wenn ich mich recht erinnere, wählen die Magi auch die Politiker in ihre Ämter. Wird bei uns am Ende auch so kommen.

 

[branhalor]

Und du hättest die (natürlich gefälschte) Mondlandung live gesehen!

Hängt natürlich davon ab, wie man es sieht:

Innerhalb der Matrix ist die Mondlandung selbstverständlich real gewesen! 😉😂

 

[mmdj]

Ja ne, ist klar. Riskieren wir einfach mal die ersten 30 Lebensjahre unter russischer Besatzung zu existieren, weil einen der Technologie Fortschritt belastet. 😢

ja dann geh weiter zurück in die 30er dort war die herrschaft in europa ja besser