Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsPerplexity Computer: Automatische Aufteilung zwischen lokaler und Cloud-KI
Perplexity arbeitet laut eigenen Angaben an einer neuen Hybrid-Funktion für Perplexity Computer, bei der Aufgaben automatisch zwischen lokalen KI-Modellen und leistungsstärkeren Cloud-Modellen aufgeteilt werden. Dadurch sollen sensible Daten besser geschützt werden, ohne die Fähigkeiten großer Frontier-Modelle einzubüßen.
Wenn die Daten wirklich sensibel sind, wäre es mir aber zu heikel, einem kleinen lokalen Modell die Entscheidung zu überlassen, was "raus" gehen darf und was nicht.
Human-in-the-loop rauszunehmen ist natürlich komfortabler für den Anwender, bringt aber eben meistens auch ein gewisses Risiko mit sich.
Mal eine andere Frage:
Warum sind Cloudasysteme leistungsstärker?
Klar, die Rechner sind stärker, aber dafür greifen mehr Leute darauf zu, d.h. die Leistung muß geteilt werden.
Für den Privatmann dürfte es doch gar nicht auffallen, oder?
Zumal ich schon öfter die Sanduhr bei ChatGPT (bezahlt) und Copilot sehen konnte vei,verhältnismäßig einfachen Dingen.
Liegt es daran, daß bei der Cloud das Datenmaterial umfangreicher ist? Zwar auch unspezifischer in der Masse, dafür aber auch Fälle abdecken, die in den lokalen Daten noch nicht vorlagen.
Klar, die Rechner sind stärker, aber dafür greifen mehr Leute darauf zu, d.h. die Leistung muß geteilt werden.
Für den Privatmann dürfte es doch gar nicht auffallen, oder?
Auf den stärkeren Systemen kann man bessere Modelle laufen lassen. Das funktioniert insgesamt, weil du niemals vollzeit (24/7) Rechenleistung benötigst. Man kann also als Anbieter die Kapazität zwischen den Kunden aufteilen. Lokal ist die Anschaffung dür dich dagegen viel zu teuer. Es profitieren also alle davon: du hast bessere Ergebnisse und der Anbieter verdient Geld mit der Dienstleistung.
@Tzk
Das ist klar. Was ich nur meine ist, ist es HW oder LLM Basis? Wenn man privat ein System hat mit Leistung x, dann braucht der Anbieter die 1000fach stärkere Leistung, wenn er 1000 Kunden gleichzeitig anbieten möchte.
Aber selbst wenn er 2000fachs Leistung hat, macht sich das beim Anwender im privaten Bereich bemerkbar? Also ist es ein Unterschies, ob ich 5 oder 10 Sekunden warten muß?
Wenn die Daten wirklich sensibel sind, wäre es mir aber zu heikel, einem kleinen lokalen Modell die Entscheidung zu überlassen, was "raus" gehen darf und was nicht.
Human-in-the-loop rauszunehmen ist natürlich komfortabler für den Anwender, bringt aber eben meistens auch ein gewisses Risiko mit sich.
Denke eine Zwischenstufe bzw. Konfigurierbarkeit wäre ganz gut. Während man vorher alles manuell machen soll und zukünftig alle automatisch sein soll, finde ich eigentlich Hybrid-Modelle ganz gut, bei dem automatisch analysiert und vorgeschlagen wird, der Anwender aber final drüberschauen und genehmigen muss (bzw. an der Stelle auch manuell noch Korrekturen vornehmen kann).
