News DeepSeek und Co.: Anthropic wirft chinesischen KI-Startups vor, Claude-Fähigkeiten zu stehlen

[Andy]

Anthropic wirft den chinesischen KI-Firmen DeepSeek, Moonshot und MiniMax vor, unrechtmäßig den Output von Claude zu nutzen, um Vorteile beim Training und Entwickeln eigener Modelle zu erhalten. Es handelt sich demnach um eine großangelegte Distillation-Kampagne mit industriellem Ausmaß.

Zur News: DeepSeek und Co.: Anthropic wirft chinesischen KI-Startups vor, Claude-Fähigkeiten zu stehlen

 

[Termy]

Och, scraped da etwa jemand unerwünschterweise in großem Maßstab, um ein Modell zu trainieren? Das ist aber gemein

Schon etwas absurd, sich darüber jetzt aufzuregen, nachdem das gesamte Internet unter der hirn- und anstandslosen Scraping-Wut der AI-Firmen leiden muss....
Wobei Anthropic vermutlich sogar noch mit am "anständigsten" von der ganzen Bande ist.

Und über "Desinformationskampagnen und Massenüberwachung" dürfen sich die Amis definitiv auch nicht mokieren

Und

Würden entsprechende Modelle als Open-Source-Variante veröffentlicht, würde sich das Risiko laut Anthropic sogar vervielfachen, weil weder Firma noch eine Regierung die Kontrolle über die Verbreitung hätten.

sehe ich genau im Gegenteiligen. Keine Firma oder Regierung sollte so etwas "unter Kontrolle" haben, AI kann - ähnlich wie Software - nur als Open-Source "richtig" funktionieren!

 

[-Ps-Y-cO-]

Hmm dabei hat Antrophic eben erst von IBM die Übersetzung von COBOL geklaut ^^

Zitat; Die IBM-Aktie stürzt um über 13 % ein nach der Ankündigung des KI-Start-ups Anthropic, dass sein Tool „Claude Code“ die Modernisierung von COBOL-Systemen automatisieren kann. Dieser Schritt stellt ein Kerngeschäft von IBM, das auf Mainframes und Legacy-Systemen basiert, direkt in Frage.

Glashaus und Steinwürfe... Glaub das passt nicht so ganz, wenn man nicht vor der eigenen Haustür ordentlich kehrt.

 

[Elverado]

"verschärfte Urheberrechts- und Handelsvorgaben"...
Wie war das denn nochmal mit den Trainingsdaten?

Bin absolut kein Freund von der chinesichen Methode Wissen anzueignen, aber wer im Glashaus sitzt...

 

[jodd2021]

"Sagt der eine Hase zum anderen, Mensch hast du große Ohren."

 

[BAR86]

Wird den chinesischen Firmen völlig egal sein, das war dort schon immer so.

Die kopieren teilweise so genau, dass es beängstigend ist

 

[T3Kila]

Das klingt schon stark schizophren, selbst wenn man außer Acht lässt, dass jedes dieser Modelle mit "unrechtmäßigen" Daten gefüttert wurde:

"Laut Anthropic ist es ein weit verbreitetes und legitimes Verfahren, das auch die führenden KI-Firmen nutzen, um kleinere Ableger der Top-Modelle zu entwickeln.

Als nicht legitim bezeichnet es Anthropic aber, wenn konkurrierende KI-Firmen das Verfahren nutzen."

PS - Quod licet Iovi, non licet bovi

 

[Ben99]

No honor among thieves.

Ja sowas aber auch.

 

[NameHere]

Diese doppelte Standards kennen wir nicht nur von den KI-Buden.

@T3Kila da fehlt wahrscheinlich "von eigenen Modellen"


EDIT:

Why distillation matters​

Illicitly distilled models lack necessary safeguards, creating significant national security risks. Anthropic and other US companies build systems that prevent state and non-state actors from using AI to, for example, develop bioweapons or carry out malicious cyber activities. Models built through illicit distillation are unlikely to retain those safeguards, meaning that dangerous capabilities can proliferate with many protections stripped out entirely.

Foreign labs that distill American models can then feed these unprotected capabilities into military, intelligence, and surveillance systems—enabling authoritarian governments to deploy frontier AI for offensive cyber operations, disinformation campaigns, and mass surveillance. If distilled models are open-sourced, this risk multiplies as these capabilities spread freely beyond any single government's control.

Das würde die amerikanische Regierung und Unternehmen nie tun. Das tun nur andere, böse böse Firmen und Schurken Staaten^^ Maduro wurde mit Hilfe wessen KI entführt?

Distillation attacks and export controls​

Anthropic has consistently supported export controls to help maintain America’s lead in AI. Distillation attacks undermine those controls by allowing foreign labs, including those subject to the control of the Chinese Communist Party, to close the competitive advantage that export controls are designed to preserve through other means.

Without visibility into these attacks, the apparently rapid advancements made by these labs are incorrectly taken as evidence that export controls are ineffective and able to be circumvented by innovation. In reality, these advancements depend in significant part on capabilities extracted from American models, and executing this extraction at scale requires access to advanced chips. Distillation attacks therefore reinforce the rationale for export controls: restricted chip access limits both direct model training and the scale of illicit distillation.

Weil die Argumentation nicht reichen könnte, holen wir die Export Kontrollen (Sanktionen) und die amerikansche Patriotismuskeule raus. Und ausser dem könnten sich die bösen Kommunisten das aneignen.

 

[tomgit]

Nur dass Distillation-Attacks nur wenig bringen: https://arxiv.org/abs/2305.15717

 

[monstar-x]

Ach wie süß, da beschwert sich Anthropic das jemand ungefragt die Daten abgreift ohne dafür zu bezahlen.
Tja, fühlt sich blöd an, findet euch damit ab, mussten wir auch!

 

[Slowz]

Kann mich nur anschließen: Wer im Glashaus sitzt.
Immerhin werden die "gestohlenen" Daten für Open-Source Modelle genutzt.

 

[quakegott]

Open AI hat schärfere Urheberrechtsgesetze gefordert?
Ich finde es toll dass sich OpenAI jetzt für den Schutz der Künstler und deren geistigen Eigentum einsetzt! Weiter so!

 

[Eorzorian]

Ich lach mich kaputt. Es gibt kein KI-Unternehmen, welche ihre Daten auf dem legalen Weg erworben hat.
Es hat schon einen riesigen faden Beigeschmack, wenn der "Dieb" den "Massendieb" Diebstahl vorwirft. So kennt man die Gier in Kapitalismus.

 

[Araska]

Open AI hat schärfere Urheberrechtsgesetze gefordert?
Ich finde es toll dass sich OpenAI jetzt für den Schutz der Künstler und deren geistigen Eigentum einsetzt! Weiter so!

Tja... Open AI gehört eben zu den Guten^TM. Die dürfen auf anderer Leuts Wertschöpfung ungefragt zugreifen.

Scheint zumindest Open AI so zu sehen...

 

[Aureal_Vortex_2]

Diese Ironie ... von den Kleinen klauen , aber wehe jemand Größeres klaut von mir ...

Diese gierigen Menschenhasser. Hoffentlich ein langes Leben aber Ziegelsteine zum Scheißen.

 

[imperialvicar]

Morgen am 25 Feb um 20:15 im 3Sat könnt Ihr Euch chinesische Machenschaften ansehen

 

[_vicious_]

"verschärfte Urheberrechts- und Handelsvorgaben"...
Wie war das denn nochmal mit den Trainingsdaten?

Bin absolut kein Freund von der chinesichen Methode Wissen anzueignen, aber wer im Glashaus sitzt...

Was bedeutet "chinesische Methode"?

Eigene Kinder lernen von den Fähigkeiten der Eltern, die wiederum, wenn sie halbwegs was taugen, so ziemlich vieles von anderen lernen.

Dummes Gelaber, das biased ist, ist aber auch von schlechten Eltern.

 

[Spriti]

 

[NameHere]

Morgen am 25 Feb um 20:15 im 3Sat könnt Ihr Euch chinesische Machenschaften ansehen

Spoiler: Sponsored by