News Anthropic „AI Fluency“: Claude soll künftig Nutzer-Kompetenzen anzeigen

[the_IT_Guy]

"You're holding it wrong"

Ach verdammt 12h zu spät, war auch mein erster Gedanke.

Wenn "Ki" intelligent ist würde es nachfragen. Auch schon x mal betont. Nicht der Kunde muss sich an das Produkt anpassen, sondern wenn euer Produkt so toll ist passt es an die Bedürfnisse des Kunden an.

 

[User404]

Nicht der Kunde muss sich an das Produkt anpassen, sondern wenn euer Produkt so toll ist passt es an die Bedürfnisse des Kunden an.

Ist das ironisch gemeint?

 

[hardwärevreag]

Schau mal, als Mensch bist du Teil des Produkts. Nämlich eines Mensch-Maschine-Teams, was deinen Vorgesetzten dient. Lerne wie Humankapital zu denken, denn das ist alles, was wir sind.

 

[User404]

@hardwärevreag Ich stimme dem Beispiel einer dienstleistenden biologischen Maschinerie in Zusammenarbeit mit elektronisch basierender Maschinerie zur Profitmaximierung mit hoher Verschleißwahrscheinlichkeit und leichter Ersetzbarkeit zugunsten einer kapitalistischen Minorität mit Framing der Abnutzung als einen unreflektierten und durch besagte Minorität definierten Sollzustand zu. :'D

 

[M-X]

Antropic soll endlich mal die Userlimits anheben. Claude ist einfach viel zu teuer. Dann kann ich den Bot auch besser nutzen..

 

[riloka]

@M-X Du könntest dir auch die Konkurrenz ansehen, vielleicht sind ja Deepmind, ChatGPT oder Cursor günstiger für den Verwendungszweck und die Qualität die du brauchst.

 

[M-X]

Die ziehen alle langsam an weil sie Merken das der Kram nicht referenzierbar ist. Antropic ist nur gleich hoch gestartet. Aber selbst Google struggelt und MS hat den Github copilot auch massiv gedrosselt.

 

[hardwärevreag]

@hardwärevreag Ich stimme dem Beispiel einer dienstleistenden biologischen Maschinerie in Zusammenarbeit mit elektronisch basierender Maschinerie zur Profitmaximierung mit hoher Verschleißwahrscheinlichkeit und leichter Ersetzbarkeit zugunsten einer kapitalistischen Minorität mit Framing der Abnutzung als einen unreflektierten und durch besagte Minorität definierten Sollzustand zu. :'D

Wir leben in einer Demokratie. Daher zählt nur, was die oberen 0,0...1% wollen. Leider sind daher auch Steuern auf Vermögen und eine gerechtere Welt unmöglich. Das würde die Kapitalakkumulation an der Spitze gefährden. Und das ist in einer marktkonformen Demokratie leider alternativlos. Das wusste auch schon Merkel.

 

[the_IT_Guy]

Ist das ironisch gemeint?

Nein, bestes Beispiel das zitierte "You are holding it wrong"

 

[ReactivateMe347]

Bist du dumm oder so?

Schon spannend, du rechtfertigst von (zu) höflicher KI und bist selbst das volle Gegenteil.

Vermutlich weil manche Menschen fragen als Angriff interpretieren wie du meinen, als einfaches Beispiel.

Was bringt eine ressourcengierige KI, wenn sie "wissend" schlechte oder falsche Antworten gibt, nur um pseudo-höflich zu sein?

Warum Fragen Schüler nicht nach wenn sie etwas nicht verstanden haben? Genau, weil sie denken sie habens verstanden.

Willst du ernsthaft die Situation, wo ein Bewerter befragt wird mit der Situation gleichsetzen, in der eine (bezahlte) Maschine befragt wird?

frag doch einfach die Ki warum sie es nicht macht und ob man das ändern kann 🕊️

KI soll nützlich sein, nicht rücksichtsvoll. Es ist völlig offensichtlich, dass man wo nötig Rückfragen stellt. Machst du das Beruflich auch so? Triffst Du blind irgendwelche Annahmen und wunderst Dich, wenn Chef oder Kunde das ganz anders wollen?

Ergänzung (Gestern um 16:08)

@ReactivateMe347
Weil auf eine blöd gestellte Frage mehrere Rückfragen zur Konkretisierung notwendig sein können.

Ja und? Dann stellt du mehrere Rückfragen in einer Antwort. Und selbst wenn es mehrere sind, dafür ist das Ergebnis dann brauchbar. Was bringt ein höflich formuliertes unbrauchbares Ergebnis?

Kann ein Score aussagen, dass man als Mensch, mit dem angeblich so überlegenem Gehirn, die Fähigkeit der Selbstreflexion nutzen könnte und vernünftige Fragen stellen soll.

Das gibt ja ein Score nicht einmal her. Er sagt nur "so viel musst du besser machen". Das ist als würdest du in einer Klausur nur die Note bekommen. " Tja, da war wohl irgendwas falsch. Ich weiß zwar was, aber es ist nicht meine Aufgabe, das mitzuteilen" - wtf?

Also so "Score 40/100 - Du bist dumm" -- sehr nützlich ...

Man könnte auch sagen:
"Wer dumme Fragen stellt, bekommt dumme Antworten."

Man könnte auch dagrn: Es gibt keine dummen Fragen

 

[snowly]

Was hier nicht diskutiert wird: Der Score misst sichtbare Verhaltensstruktur, also Zielsetzung, Konversationsaufbau, explizite Qualitätskontrolle. Wer assoziativ, nicht-linear oder iterativ ohne sichtbare Struktur arbeitet, wird systematisch schlechter bewertet, nicht weil er schlechter mit KI arbeitet, sondern weil er anders denkt.

Das wäre noch verkraftbar, solange es ein persönliches Feedback-Tool bleibt. Aber sobald dieser Score in Bewerbungsprozesse einfließt (und der Weg dahin ist historisch kurz, siehe LinkedIn, GitHub-Aktivität, Klout) wird aus einem Kompetenzprofil ein Diskriminierungsinstrument. Systematisch benachteiligt würden neurodivergente Denkstile, kulturell anders strukturierte Kommunikation, und alle, die komplexe Probleme nicht in akademisch lesbaren Prozessschritten lösen.

Anthropics Ethik-Apparat sollte das vor dem Release klären, nicht danach.

 

[Zweite Sonja]

Ja und? Dann stellt du mehrere Rückfragen in einer Antwort. Und selbst wenn es mehrere sind, dafür ist das Ergebnis dann brauchbar. Was bringt ein höflich formuliertes unbrauchbares Ergebnis?

Ich sage nicht, dass es falsch ist.
Ich habe lediglich geschrieben, was der Score ausdrücken soll, damit man sich als Mensch in Zukunft verbessert und vollständige, präzise Fragen stellen kann, ist diese Kennzahl nicht wertlos.

Das gibt ja ein Score nicht einmal her. Er sagt nur "so viel musst du besser machen". Das ist als würdest du in einer Klausur nur die Note bekommen. " Tja, da war wohl irgendwas falsch. Ich weiß zwar was, aber es ist nicht meine Aufgabe, das mitzuteilen" - wtf?

Doch, denn der Score, wie auch eine Note in der Klausur, sagt aus, dass man noch Fehler macht.
Wie es richtig geht, wird über 10 Jahre in Schulen unterrichtet und nebenbei als Lebenserfahrung durch Kommunikation mit anderen Menschen gelernt.
Dies kann zwar eine Teilaufgabe der KI sein, insbesondere wenn man noch zur Schule geht, aber als Erwachsender sollte man die Grundlagen bereits beherrschen.

Im Laufe des Lebens sollte der Mensch lernen, wie man immer bessere Fragen stellt.
Der Score würde ausdrücken, ob bzw. welches Potential - im Vergleich zu anderen Menschen - noch verfügbar sein könnte.

Also so "Score 40/100 - Du bist dumm" -- sehr nützlich ...

Wenn der Durchschnitt ein Score von 60/100 erreicht und man selbst nur 40/100, bedeutet es nicht, dass man dumm ist, sondern dass man etwas beim Umgang mit der KI noch nicht gelernt hat.
Über Social Media (z.B. ComputerBase, YouTube, etc.) wird man also lernen können, wie man diesen Score verbessern kann.

Und falls man durch einen besseren Score auch bessere Ergebnisse erhält, wird es eine nützliche Kennzahl werden, woran man seine KI-Kompetenz messen kann.

Man könnte auch dagrn: Es gibt keine dummen Fragen

Es gibt definitiv dumme Fragen.

Es war aber nur ein Spruch zur Simplifizierung.
Ich hätte genauso schreiben können: "Wie man in den Wald ruft, so schallt es heraus."

Ungenaue Fragen führen zu ungenauen Antworten.
Und je mehr Interpretationsspielraum eine Frage hat, desto höher die Wahrscheinlichkeit, dass nicht die passende Antwort erstellt wird.

Beispiele für Low-Score-Fragen könnten sein:

Wie viel sind X in Badewannen? -> Welche Art von Badewanne? Ist X auch eine Variable? etc.

Wie lange braucht man zum Mond? -> Womit? Hypothetisch zu Fuß, Auto, Satellit, (bemannte) Rakete, etc.?

Welche Steine sind essbar? -> Für den Mensch ohne Risiko? Art? Menge? Ist wirklich "essen" gemeint, weil die Steine leicht zerbröseln oder eher schlucken wie es Tiere tun? Wenn für Tiere: Welche Tiere genau?


Mit einem regelmäßig geringem Score wird man als Mensch hoffentlich verstehen, dass man die Fragen konkretisieren sollte. Die KI ist womöglich gar nicht so dumm, sondern die Fragestellung zu ungenau oder unvermeidlich falsch interpretiert worden.

 

[tree-snake]

Ich denke mir immer mehr: Um Ergebnisse wirklich beurteilen zu können muss jemand mindestens auf der „Bildungsstufe“ sein, auf der die Anfrage war, um das Ergebnis valide zu bewerten.

Seh ich auch so, hoffentlich sehen es auch die Chefs so. Du braucht weiterhin ein paar Leute im Laden die sich in dem Thema auskennen, alles überwachen und validieren. Und du musst auch Nachfolger von diesen Leuten hochziehen.

 

[User404]

Nein, bestes Beispiel das zitierte "You are holding it wrong"

Erstmal danke für die Auflösung.

Vielleicht bin ich gerade auf einer anderen Spur unterwegs als Du, aber KI agieren nach RLHF.
Das ist die Anpassung an die durchschnittliche Norm mit Ausschluss von Neurodivergenz, die leider zur Korrektur nötig wäre - das Problem: ND sind eine Minorität und werden statistisch als Ausläufer herausgerechnet. Außerdem agieren sie gegenteilig zum RLHF.

Viele Probleme der KI Handlung, z.B. Halluzinationen, Confirmation Bias, u.a. lassen sich durch RLHF erklären.

Ergänzung (Heute um 08:04)

Schon spannend, du rechtfertigst von (zu) höflicher KI und bist selbst das volle Gegenteil.

Hier möchte ich kurz mein Verständnis als Außenstehender wiedergeben:

Das Beispiel "Bist du dumm" war eine Veranschaulichung und sollte eine psychische Blockade simulieren, um für den Lesenden einen Anschluss zum Folgetext zu ermöglichen.

Das war nicht als abwertender Angriff gemeint gewesen, sondern diente als Einleitung der Nachvollziehbarkeit des nächsten Satzes - daß manche Menschen Fragen als Angriff werten könnten.

 

[G!N]

Oh man, eine neue Metrik um Produktivität von Entwicklern zu messen.