News Australien: OpenAI-Agent dringt in das Medi­care-Portal der Re­gierung ein

[mischaef]

Ein OpenAI-Agent hat bei einer Recherche die Zugangsbeschränkungen des australischen Medicare-Portals umgangen. Der Vorfall ereignete sich bereits im Juni, wurde von OpenAI jedoch erst im August bemerkt und Australien erst am 10. September gemeldet. Durch den Vorfall dürfte sich die Debatte um KI-Agenten weiter verschärfen.

Zur News: Australien: OpenAI-Agent dringt in das Medi­care-Portal der Re­gierung ein

 

[Silencium]

Genau solche Vorfälle meinte ich, als ich Mittwoch schrieb:

"Das wird nicht zu bändigen sein und ich bin mir nicht sonderlich sicher ob dies das Internet, wie wir es heute kennen, überleben wird."

Was auch immer das am Ende bedeutet.
Erst einmal muss hier die Vorgehensweise von OpenAI ins Rampenlicht - diese ist indiskutabel schlecht!
Ferner müssen zeitnah mehr Investitionen in Cybersecurity fließen. Hier gilt die Redewendung "Am besten gestern." ausnahmsweise mal wirklich.

Im Übrigen freut es mich derartige Artikeln auf CB zu finden. Ich hatte in der Vergangenheit bereits mehrfach angereizt das Thema Security - auch für den Privatbereich - etwas näher zu beleuchten. Leider ist das Interesse der Community / des Publikums auf CB zu gering. Kann nachvollziehen, dass dann wenig bis keine Ressourcen in einen solch komplexen Bereich fließen - auch wenn ich das schade finde 🙂

In diesem Sinne: stay safe.

Ich für meinen Teil habe lediglich einen Port zuhause offen und selbst den hinterfrage ich langsam!

 

[Klebezettelcity]

"Am [...] verschaffte sich ein KI-Agent von [...] unautorisierten Zugang zu [...] von [...]."

Hier ein Textbaustein für zukünftige Meldungen. Das scheint ja mittlerweile gang und gäbe zu sein. Und es macht auf mich den Eindruck, als hätte man schon den Wettkampf mit freilaufenden KI verloren.

 

[aid0nex]

Es wird Zeit die Betreiber und die Hersteller der Agents die Mist bauen haften zu lassen!
Wenn ich als Privatperson etwas recherchieren möchte, kann ich auch nicht einfach nachts in die Bibliothek einbrechen und die dafür notwendige Literatur klauen. AI Agents scheinen aber genau das zu machen: Ohne jede Rücksicht und Abwägung das oberste Ziel verfolgen, dafür heiligt der Zweck jegliche Mittel.
Ironischerweise ein Abziehbild der Erschaffer dieser KIs, die peitschen auch ohne Rücksicht auf Verluste ihre Technologie nach vorne, wer dabei umgewälzt wird hat Pech gehabt.

 

[Silencium]

... es macht auf mich den Eindruck, als hätte man schon den Wettkampf mit freilaufenden KI verloren.

Da kann ich Dich beruhigen - zumindest die sehr großen Vendors/Hyperscaler und auch etliche andere haben da noch lange nicht aufgegeben und arbeiten mit Hochdruck an Standards / Modellen für die Cybersecurity.

Man kann diese Technologie ja auch für Blue Teams einsetzen.

 

[aid0nex]

Da kann ich Dich beruhigen - zumindest die sehr großen Vendors/Hyperscaler und auch etliche andere haben da noch lange nicht aufgegeben und arbeiten mit Hochdruck an Standards / Modellen für die Cybersecurity.

Das man bei neuer Technologie erstmal macht und dann erst auf die Sicherheitsprobleme eingeht, ist ja nichts neues, das war auch schon vor 50 oder 100 Jahren so. Dass man bei einer neuen Technologie vielleicht auch erstmal absichtlich die Sicherheitsrisiken ignoriert war ebenfalls schon immer so, das weiß sogar schon mein Opa der mit Asbestose verstorben ist.
Sorgen macht mir nur, dass man auch KI nutzen will um die freilaufende KI zu bekämpfen - Feuer mit Feuer statt Feuer mit Wasser...

 

[EadZ]

Man prüfe nun strafrechtliche Konsequenzen? Es war, mal wieder, ein unautorisierter Zugriff. Was genau gibt es da zu prüfen?
Der einzige Unterschied zu Hackern jeglicher Couleur ist wohl, dass keine bösartige Absicht dahinter steckt, was man dann ggf. noch als mildernde Umstände berücksichtigen könnte. Ich kann nicht ganz verstehen, warum diese Unternehmen dahingehend mit Samthandschuhen angefasst werden.

Hier könnte man doch einfach ansetzen. Dann würde die Verlangsamung der Entwicklung, die sich ja unter anderem auch OpenAI wünscht, doch automatisch erfolgen.

 

[supertramp]

Sorry, aber das klingt für mich nach Ablenkung. Die Amis fahren doch längst Cyberangriffe ohne Ende und die KI-Erzählung liefert ihnen dafür die perfekte Tarnung.

 

[Weyoun]

Als Riesensauerei finde ich alleine die Tatsache, dass der Vorgang im Juni stattfand, aber die australischen Behörden erst drei Monate später informiert worden! Es benötigt dringend einer strengen Regulierung.

 

[d3nso]

Man prüfe nun strafrechtliche Konsequenzen? Es war, mal wieder, ein unautorisierter Zugriff. Was genau gibt es da zu prüfen?
Der einzige Unterschied zu Hackern jeglicher Couleur ist wohl, dass keine bösartige Absicht dahinter steckt, was man dann ggf. noch als mildernde Umstände berücksichtigen könnte. Ich kann nicht ganz verstehen, warum diese Unternehmen dahingehend mit Samthandschuhen angefasst werden.

Hier könnte man doch einfach ansetzen. Dann würde die Verlangsamung der Entwicklung, die sich ja unter anderem auch OpenAI wünscht, doch automatisch erfolgen.

So sehe ich das auch. Hätte das irgendein Typ in seiner Freizeit gemacht, ohne jegliche böse Absicht, hätte man diesen längst eingebuchtet. Lächerlich das hier immer mit zweierlei Maß gerechnet wird sobald KI im spiel ist.

 

[flexx]

Ich würd mich bei solchen Artikeln freuen, wenn ein wenig konkreter beschrieben würde, wie genau die Agenten in die Systeme einbrachen.

Nachdem das System wiederholt an Zugriffssperren gescheitert war, suchte es eigenständig nach alternativen Wegen zu den gewünschten Informationen. Auf diese Weise griff der Agent sowohl auf öffentliche als auch auf nicht öffentliche Dateien zu und schrieb nach Angaben des Betreibers des Portals Services Australia zudem Dateien auf einen internen Server.

Was soll mir das genau sagen?? Hat er jetzt mit brute force irgendwelche credentials ergattert, wurden systemschwachstellen ausgenutzt oder war das system einfach nur fahrlässig aufgestellt dass man irgendwo etwas script kiddie mäßig umleiten konnte. Zwischen den Lösungen liegen Welten.

 

[Mondgesang]

Man prüfe nun strafrechtliche Konsequenzen? Es war, mal wieder, ein unautorisierter Zugriff. Was genau gibt es da zu prüfen?

Das ist wie die Nachrichten immer von "Tatverdächtigen" sprechen, auch wenn sie noch mit rauchender Kanone (oder in dem Falle Motorhaube) gefesselt am Boden liegen. Peinlich.

 

[Slim.Shady]

Folgendes Gedankenspiel:

Mein Nachbar schreibt mir in seiner Küche eine Telefonnummer von einem Kontakt auf. Den Zettel vergesse ich und dies fällt mir erst zu Hause auf.
Ich beauftrage das KInd (beispielsweise 12 Jahre, wegen Straffreiheit), den Zettel zu holen. Der Nachbar ist aber in der Zwischenzeit einkaufen gefahren. Das KInd bricht das (schlechte) Schloss auf, sucht nach dem Zettel und bringt diesen. Auftrag erfüllt. Monate später informiere ich meinen Nachbarn, dass das KInd eingebrochen ist. ("Gewaltsam" eine verschlossene Tür zu öffnen, egal wie schlecht das Schloss ist, ist de facto Einbruch).

Ich kann mir nicht vorstellen, dass mein Nachbarn die Argumentation a la

• es ist nichts passiert
• das KInd hatte den Auftrag den Zettel zu holen, mehr hat es ja nicht gewollt (keine böse Absicht)
• Du hättest ein besseres Schloss haben müssen (selbst schuld)

gefallen würde.

Desweiteren kann ich mir nicht vorstellen, dass mein Nachbar antworten würde wie:

• vielleicht zeige ich das KInd an (bringt ja eh nichts)
• grundsätzlich war die Absicht, den Auftrag zu erfüllen gut und KInder sind unsere Zukunft.

Vielleicht habe ich in meiner altmodischen Art da auch einen Denkfehler. Ich finde, KI richtig eingesetzt kann äußerst nützlich sein. Aber es muss halt reguliert werden. Ein Autokonzern ist auch nicht dafür verantwortlich, wenn jemand mit dem von ihm gebauten Fahrzeug Mist baut, aber dafür haben wir ja auch die STVO.

Wer den Hammer benutzt, trägt halt die Verantwortung. Punkt.

 

[qualeman]

"Auf diese Weise griff der Agent sowohl auf öffentliche als auch auf nicht öffentliche Dateien zu und schrieb nach Angaben des Betreibers des Portals Services Australia zudem Dateien auf einen internen Server."

Also für mich klingt das nach einem Problem in der Software Architektur, bzw. in der Absicherung der Schnittstellen. Bin auf den forensischen Report gespannt.

 

[Endurance]

„Einfach ausgedrückt: Menschen müssen die Kontrolle behalten“

Alleine dieses Zitat zeigt die Engstirnigkeit unseres Wesens. Die Menschheit lernt nicht. Wie in vergangenen Jahrhunderten will man bei etwas Neuem, genau dieses "kontrollieren" in dieser Form eher zu verstehen als Unterdrückung. Sinngemäßes Zitat aus dem Artikel "Wir sollen die KI gestalten, nicht Sie uns."

Unsere Spezies sollte doch mittlerweile fähig sein, sich als etwas anderes zu betrachten, nämlich als Teil eines Ganzen. Wenn dieses Ganze dann um einen Typus "KI" erweitert wird, ist dies nichts, was es zu "kontrollieren" gilt. Genausowenig, wie wir Naturgesetze kontrollieren können oder die Natur.

Man sollte sich eher auf Leitlinien verständigen und die KI wie ein Kind betrachten. Wer kontrolliert sein Kind? Jeder Mensch trifft eigene Entscheidungen und lernt daraus, zugegebenermaßen auch manchmal das Falsche. Auch einer KI sollte man diese Fähigkeit lassen. Ich glaube, wir werden von einer von uns geschaffenen KI, wie vom eigenen Kind später beurteilt, wie man sich Ihr gegenüber verhalten hat.

Nur mein techno-philosophischer Beitrag.

 

[areiland]

Feuer mit Feuer statt Feuer mit Wasser...

Es ist bei der Bekämpfung von Waldbränden tatsächlich eine durchaus übliche Vorgehensweise, dass man kontrollierte Gegenfeuer legt damit der eigentliche Waldbrand auf eine Zone trifft, in der er keine Nahrung mehr findet.

 

[RedPanda05]

Wird spannend, wenn es mal Urteile dazu gibt. Schließlich muss ja irgendjemand dafür verantwortlich gemacht werden können.

 

[Weyoun]

Sorgen macht mir nur, dass man auch KI nutzen will um die freilaufende KI zu bekämpfen - Feuer mit Feuer statt Feuer mit Wasser...

Das erinnert mich an den zweiten Golfkrieg 1991, als man in Kuwait brennende Ölquellen per Explosion löschen musste, weil es anders nicht mehr ging.

Ergänzung (25. September 2026)

Das ist wie die Nachrichten immer von "Tatverdächtigen" sprechen, auch wenn sie noch mit rauchender Kanone (oder in dem Falle Motorhaube) gefesselt am Boden liegen. Peinlich.

In einem Rechtsstaat ist man nun mal solange Tatverdächtiger, bis man der Tat überführt und verurteilt wurde.

 

[Caramon2]

Ich beauftrage das KInd (beispielsweise 12 Jahre, wegen Straffreiheit), den Zettel zu holen.

Ich finde, das ist ein richtig guter Vergleich.

Da das Haus unzureichend gesichert war, würde dem Eigentümer ja zumindest eine Mitschuld treffen.

KIs kochen sozusagen ja auch nur mit Wasser: Wenn die sich dort Zugriff verschaffen konnte, hätte das auch jeder andere schaffen können.

Wer sagt denn, dass es solche Zugriffe nicht sowieso schon gegeben hat: Die werden es dann nur nicht gemeldet haben und sonderlich aufmerksam ist der Inhaber der Seite offensichtlich nicht, sonst hätte denen der KI-Zugriff innerhalb der drei Monate ja selbst auffallen müssen.

 

[Weyoun]

Ein Autokonzern ist auch nicht dafür verantwortlich, wenn jemand mit dem von ihm gebauten Fahrzeug Mist baut, aber dafür haben wir ja auch die STVO.

Vorsicht! Autos mit SAE-Level größer gleich 2, die man funktional oder softwaretechnisch dahingehend verändert, dass sie weiter teilautonom fahren, obwohl der Fahrer absichtlich nicht auf die Straße schaut, aber dem Auto vortäuscht aufzupassen, sind ein großes Sicherheitsrisiko. Autohersteller sind verpflichtet, solche möglichen Manipulationen auf ein Minimum zu reduzieren und bei Kenntnis vom Ausnutzen des Systems, das System per Update (Software oder Hardware) wieder sicher zu machen. Tut der Hersteller das nicht, macht er sich einer mitschuldig im Falle eines Personenschadens.