News Autonom Exploits entwickeln: Anthropics neues Modell ist so stark, dass es nicht veröffentlicht wird

[0xffffffff]

Doch das passiert. Kann man schön vergleichen mit Fahrzeugen wie dem LaFerrari - den kannst du auch nur kaufen, wenn du schon diverse Ferrari vorher gekauft hast.

Jo, Halo-Produkt primär für's Image. Hier vermutlich nix anderes.

 

[swage]

Wer in die Informatik IT-Systeme so auslegt, dass diese über an Menschen gerichtete Formate (hier Bildschirmausgabe) erfolgen, hat das Berufsfeld grundlegend nicht verstanden.

Ja... bis jetzt.

 

[Blaexe]

Jo, Halo-Produkt primär für's Image. Hier vermutlich nix anderes.

Wenn große Unternehmen Mythos über die API nutzen können hat das nichts mit Halo Produkt fürs Image zu tun. Privat würde das sowieso niemand zahlen wollen.

Und da Anthropic momentan sowieso massiv mit den Ressourcen zu kämpfen hat (die Nutzungslimits sind in letzter Zeit deutlich spürbar eingeschränkt worden) geht's auch gar nicht anders. Sie können nicht alle bedienen. Zumal die normalen Pro und Max Pläne eh schon subventioniert werden.

 

[swage]

Wenn es wirklich so gut ist geht es vermutlich ans Militär und Ihr hört nie wieder etwas davon... oder einem hastig trainierten Ersatzmodell mit gleicher Bezeichnung. Obwohl Anthropic und Militär... naja... Patriot Act, ist ja Software also Information...

 

[gaym0r]

Unabhängig? Nein.

Warum nicht?

 

[swage]

Also einen GUTEN Coder ersetzen Ki'*s nicht. Das hat technische Gründe. Sie sind im Verständnis limitiert und zwar in Form von Tokens. Ab einer gewissen Größe ist einfach ende. Aber... außerdem werden sowieso ALLE arbeitslos. Klar bedeutet das auch Wissensverlust und das ist die eigentliche Gefahr. Was wenn es keine GUTEN Coder mehr gibt?

 

[ETI1120]

Also einen GUTEN Coder ersetzen Ki'*s nicht.

Coden ist überbewertet. Es geht um Softwareentwicklung und das umfasst weit mehr als Coden.

Das Internet quillt über von Statements die besagen, dass die Person noch nie so viel Software geschrieben hat und dabei nicht eine Zeile Code geschrieben hat. Darunter sind viele Leute, die verstehen was Softwareentwicklung ausmacht.


Wenn man die klassische Literatur zu Softwareentwicklung anschaut dann geht die davon aus, dass die Performance von den besten Softwareentwicklern um den Faktor 28 über dem der schlechtesten liegt. Und dieses Verhältnis wird sich durch den Einsatz von AI-Tools noch erheblich vergrößern.

 

[Kaufmannsladen]

Kein Mensch mit ein bisschen Intelligenz sagt, dass KI nutzlos ist.
Jedoch nicht in der Art und Weise, wie sie jetzt von 0815 DAU genutzt wird.

Arroganz einer Möchtegern-Intelligenzija. Am Ende entscheidet immer der Markt.

 

[ich_nicht]

Jetzt hat es für das sprengen der IT Sicherheit noch nicht mal einen quantencomputer gebraucht.

 

[SheepShaver]

Also einen GUTEN Coder ersetzen Ki'*s nicht.

Einen „Coder“ kann die KI mit Leichtigkeit ersetzen. Ein „Coder“ schreibt Code, aber entwirft keine Software-Systeme. „Coder“ sind schon jetzt zunehmend obsolet.

 

[grabeskuehle]

Der Ball kommt ins Rollen. Da werden wir wohl bald einige Überraschungen erleben.
Schlagwort des nächsten Jahrzehnts: Waffenfähig angereicherte KI.

 

[0xffffffff]

Wenn große Unternehmen Mythos über die API nutzen können hat das nichts mit Halo Produkt fürs Image zu tun.

Naja, wenn ich ein tolles neues Produkt habe und damit Werbewirksam an die Öffentlichkeit trete, dann aber Einschränke, dass es nur ein Handverlesener Cool-Club nutzen darf weil GeFäHrLiCh... was soll es anderes sein als ein PR-Stunt?

Passt auch ein wenig dazu, dass in den (Investment-)News zu AI gerade wohl etwas Unruhe herrscht, da muss man wohl wieder was hinwerfen

BTW: Wenn ich mir so die aufgeführten Beispiele aus dem Blog-Post ansehe, das scheint schon etwas Rosinenpickerei zu sein. Ich mein, beispielsweise rund $ 20.000 zu verjubeln um nen out-of-bounds beim TCP-Processing zu finden ist halt auch was wo ich mich frage, ob das Fuzzing im Wert von <= 20k auch geschafft hätte.

In den Beispielen wo am Ende kein funktionierender Exploit bei raus kam und man nur über die theoretische Ausnutzbarkeit in einer Exploit-Chain mutmaßt, wurde nie angegeben welche Kosten letztendlich entstanden sind um die zu finden. Dementsprechend ist es schwer überhaupt Kosten/Nutzen zu bewerten. Was theoretisch beeindruckend ist, wenn sie es wirklich geschafft haben die False-Positives massiv zu reduzieren.

 

[T3rm1]

Mittlerweile weiß man doch, dass Anthropic nicht zu trauen ist, und dass alles nur Marketing ist und nichts dahinter steckt. Siehe die Verarsche mit der Meldung zum C Compiler. Anthropic ist einfach völlig unglaubwürdig.

 

[Uzer1510]

Also einen GUTEN Coder ersetzen Ki'*s nicht. Das hat technische Gründe. Sie sind im Verständnis limitiert und zwar in Form von Tokens. Ab einer gewissen Größe ist einfach ende. Aber... außerdem werden sowieso ALLE arbeitslos. Klar bedeutet das auch Wissensverlust und das ist die eigentliche Gefahr. Was wenn es keine GUTEN Coder mehr gibt?

Nur bei Projekten die nicht in Unterelemente aufteilbar sind - bei allem anderen kann man mirt Agenten arbeiten und hat nahezu unbegerenzten Kontext und Tokens.

Die Haupt AI muss lediglich koordinieren und dann können untergordnete AIs entweder Teile implementireen oder weiter splitten und weitere Unter AIs koordinieren etc

 

[ReactivateMe347]

@Sinush

Das "KI ist und bleibt nutzlos" Kartenhaus darf ja nicht zusammenbrechen.

Nur hat das nie jemand behauptet. Schon vor ChatGPT haben KI-Algorithmen wertvolle Dinge geleistet. Nur ist der feuchte Traum "maximale Rechenleistung + maximale Datenmenge = AGI = Weltherrschaft" stumpfe PR.

 

[ETI1120]

Da schreibt sich ja der Witz von selbst:

Anthropic erzählt gerne dass die so hohe Ethische Ansprüche haben.

Wenn herauskommen sollte, dass Leute mit Mythos Exploids gebaut haben und Anthropic von der Gefahr wusste und nichts unternommen hat kommt das nicht gut.

Also ist diese Aktion doch schlicht und einfach genial. Man hat als Beta Tester die kompetentesten Leute die es gibt. Man hat eine sehr gute PR. Man sichert sich ab, falls doch jemand Mythos missbräuchlich verwendet und dies herauskommt.

Wenn das mal kein Mythos ist!

Wer Mythos als Produktname wählt sollte liefern, sonst wird es sehr peinlich. Mit dem Namen Mythos setzt sich Anthropic selbst unter Druck.

Wie es übrigens AMD mit EPYC gemacht hat.

 

[dernettehans]

ffmpeg hat doch schon bestätigt, dass Anthropics lügt. die eingereichten fixes stammten nicht von der "AI".

https://x.com/FFmpeg/status/2041782270801952886

 

[ETI1120]

@dernettehans Im Text steht nichts davon das FFmpeg sagt dass Athropic lügt:

 

[Aktaion]

Bei den immensen Kosten die entstehen und all die Kohle die verbrannt wird, muss das Geschäft laufen.
Ob das neue Modell besser ist als alle anderen, kann man ja nun glauben oder eben nicht.
Ich sehe da immer diesen hype bei noch nicht veröffentlichen Games vor mir, die dann nach dem erscheinen schnell wieder in der Versenkung verschwinden.

 

[aid0nex]

Sehr geehrte Firma Anthropic,

hiermit bewerbe ich mich bei Ihnen als CEO.
Ich würde Ihnen gerne meine Referenzen und Qualifikationen darlegen - leider sind diese derart erstklassig, dass ich sie Ihnen aus Sicherheitsgründen nicht nennen darf. Ich versichere Ihnen jedoch, dass es Sie umhauen würde, wenn Sie diese zu Gesicht bekämen.

Ich freue mich bereits auf Ihre Zusage.

Hochachtungsvoll