Sebbi schrieb:
oder ist mal endlich jemand aufgewacht und hat bemerkt, das immer selbstständigere und leistungsfähigere KI / AI ein globales Problem werden kann, wenn sie sich wirklich komplett verselbstständigt und keine Technik davor sicher ist.
Das könnte die Menschheit wieder in die 50er zurückkatapultieren.
Die Lore der Xenon aus der X-Reihe ist keine reine Fantasie mehr, sondern ein Szenario, welches in Betracht gezogen werden sollte.
Ich sehe auch Gefahren in KI, am Ende gehen diese aber immer noch von Menschen aus, die diese benutzen. Von allem anderen sind wir aus mehreren Gründen noch ein gutes Stück weg.
Ohne jetzt alle davon auszuführen ist davon der wichtigste: Was wir heute als KI bezeichnen, ist mitnichten im klassischen Sinne "intelligent". Mag einem zwar anders vorkommen, wenn man mit einem Frontier-Modell interagiert.
Es hat aber schon Gründe, warum LLMs bestimmte "Tendenzen" aufweisen, wenn man sie beispielsweise einen Text verfassen lässt. Am Ende des Tages entscheidet es sich dabei schrittweise anhand von aus seinen Trainingsdaten ermittelten statistischen Mittelwerten für das jeweils nächste Wort. Man könnte sagen, dass es so schreibt, wie es "glaubt" menschlicher Sprache am ehesten nahekomme zu können.
Der Anwender mag sich dann denken "Wow, das hätte ich selbst ja nicht besser hinbekommen, wie macht es das bloß?" Und ja, es ist schon beeindruckend, will ich gar nicht verneinen. Aber am Ende steht dahinter kein "Denkprozess", wie ein Mensch ihn durchliefe, es steht kein "Bewusstsein" dahinter. Es sind "nur" Berechnungen. Mehr nicht. Im Grunde also etwas, das Computer schon lange können. LLMs machen es dem Benutzer nur deutlich leichter, die unterliegende Rechenleistung produktiv zu nutzen, da er das nun mittels natürlicher Sprache tun kann.
Ja, technologisch ist diese Art von "Computer-Intelligenz" natürlich dennoch eine bedeutende und aus manchen Perspektiven auch bedrohliche Entwicklung. Man sollte es aber nicht überinterpretieren, wenn Berichterstattung und Tech-Branche in diesem Zusammenhang von "Intelligenz", "Reasoning" und co. sprechen. Das, was Sci-Fi-Autoren im Laufe der Zeit alles erdacht haben, ist das hier nämlich dennoch nicht.
animelover schrieb:
Ich halte das für eine kalkulierte Flucht nach vorne, um Kritiker später entgegen zu können "Aber wir haben doch von uns aus mehr Strenge gefordert, etc." und um den moralisch guten Konzern darzustellen, dass man sich doch um die Sicherhit sorgen würde. Es würde mich daher nicht wundern, wenn das ganze als Nebelkerze gedacht ist, um einer weiteren medial breit getretenen KI-Sicherheitsdebatte zuvor zu kommen, bei der man nur reagieren aber nicht von Beginn an gezielt den Diskurs steuern kann.
Das da auch das gezielte Ausschließen potenziell neuer Konkurrenz mit enthalten ist, wie einige schon angesprochen haben, halte ich zusätzlich für naheliegend.
Kurzum, ich stehe dem Move kritisch gegenüber.
Eine kritische Haltung ist sicher auch richtig. Am Ende ist es sicher so, dass ein sinnvoller regulatorischer Rahmen - eng genug, um Gefahren abzumildern, jedoch nicht so eng, dass er Innovation komplett abwürgt - im Sinne des Verbrauchers ist. Man darf aber auch nicht vergessen, dass ein solcher auch Unternehmen nützen kann, insbesondere solchen, die ihre Technologiebasis für das regulierte Produkt noch in Abwesenheit solcher Regularien entwickeln konnten.
Es muss dabei also gar nicht unbedingt um ein präventives Verschieben der Verantwortung für etwaige Vorfälle auf andere Entitäten gehen. Auch die Absicherung der eigenen Position kann ein Hintergedanke sein. Die chinesische Konkurrenz ist stark, OpenAI, Anthropic, Google und co. können indes nicht kontrollieren, ob eigene, teuer erkaufte Innovation genutzt wird, um entsprechende Konkurrenzmodelle zu verbessern. Die KI-Landschaft ist zunehmend undurchsichtig und Wildwuchs ist vorprogrammiert.
Würde eine gesetzliche Rahmensetzung durch die Trump-Administration oder die Regierungen der US-Bundesstaaten Rivalen aus dem Ausland entsprechend einschränken, könnte das den aktuellen Platzhirschen daher nur recht sein. Es müssen, so muss man ja mittlerweile sagen, schließlich Billioneninvestitionen (!) geschützt werden, die teils sowieso schon auf buchhalterisch fragwürdigen Füßen stehen. Einen zweiten "Deepseek-Moment" kann man da nicht noch zusätzlich brauchen.
Termy schrieb:
Ich finde nicht, dass diese Forderung überrascht. Überbordende Regulierung kommt eigentlich immer primär den Platzhirschen und Branchengrößen zugute, da es ein enormer Hemmschuh für neue Marktteilnehmer sein kann.
Genau. Und wie beschrieben ist ggf. auch ein Hemmschuh für bereits jetzt starke ausländische Konkurrenz erwünscht.
theGucky schrieb:
Das ist clever. Hier geht es um Schuldumkehr.
Open AI kann dann sich in Zukunft aus der Schlinge ziehen und sagen das nicht die Firma, sondern der Staat versagt hat, sollte was passieren.
Wirkt erstmal naheliegend, scheint mir persönlich aber zu einfach gedacht. Man kann sich am Ende schließlich nicht auf Gesetze berufen, die nie gemacht wurden. Haftet man nach geltendem Recht, haftet man. Der Versuch der Schuldumkehr wäre da allenfalls PR-seitig relevant.
Steht ein Rechtsrahmen aber erstmal, kann er zweifellos Sicherheit bieten. Was auch für weitere Investitionen nicht ohne Bedeutung ist. Denn was, wenn die rapide Entwicklung plötzlich nicht mehr in dieser Form weitergehen dürfte? Unter Umständen würde der eine oder andere Investor sich dann überlegen, ob weiter viel Geld fließen kann.
w1ldr3dx schrieb:
Da hat jemand Angst, dass sie von China Innovationen wie z.B. Qwen, GLM und Co. überrollt werden.
Halte ich auf jeden Fall auch für ein wahrscheinliches Motiv. Regulatorische Rahmenbedingungen können auch bereits starke Marktteilnehmer schützen oder Märkte abschirmen.
Man denke an den deutschen Staat, der angesichts potenzieller Konkurrenz durch Uber und co. seine schützende Hand über die Taxi-Branche hält, Sinn und Unsinn dahingestellt. Man denke auch an den europäischen Automarkt, der gegen Elektromodelle aus China abgeschirmt wird, um hiesige Konzerne wettbewerbsfähig zu halten (wobei der Plug-In-Hybrid dummerweise ausgespart wurde, wodurch diese Nische gerade für VW und co. immer mehr wegbricht). Viel hängt von der Ausgestaltung ab, aber auf genau solche Bedingungen könnte OpenAI ohne Weiteres abzielen. Man hat schließlich mit Anthropic schon genug zu tun
