Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsPerplexity Computer: Neuer Hybrid-Modus für Macs soll in Vorbereitung sein
Perplexity soll für Computer auf dem Mac einen neuen Hybrid-Modus vorbereiten, der Cloud-KI mit lokal ausgeführten Modellen kombiniert und Teilaufgaben automatisch an ein installiertes KI-Modell weiterreicht. Das soll Kosten senken und zugleich sensible Daten ausschließlich auf dem Mac belassen.
Der neue Modus soll sich über die Modellauswahl von Computer aktivieren lassen. Ist noch kein lokales Modell vorhanden, können Anwender die lokale Inferenz dort einrichten. Dafür soll Perplexity dem Bericht zufolge derzeit drei herunterladbare Modelle unterschiedlicher Größe vorbereiten. Als empfohlene Option soll ein nicht näher beschriebenes Perplexity-Modell mit einer Download-Größe von rund 19 GB zur Auswahl stehen, das allerdings mindestens 32 GB Arbeitsspeicher voraussetzt. Daneben soll ein etwa 17,4 GB großes Qwen-32B-Modell mit ähnlichen Speicheranforderungen angeboten werden. Für Macs mit 16 GB Arbeitsspeicher ist außerdem ein kleineres, auf Gemma basierendes Modell mit rund 5,6 GB vorgesehen.
Wundere mich ein wenig, dass es zwei lokale Modelle für 32GB RAM und eins für 16GB RAM gibt. Ich unterstelle, viele (insb. neuere) Macs haben 24GB RAM..?
Mich würde mal Interessieren wie hoch die Subscriber Zahlen für Perplexity Computer bis jetzt waren. Die ersten Demos waren ja Interessant, dann eben Monatelange Totenstille.
KaHaKa schrieb:
Wundere mich ein wenig, dass es zwei lokale Modelle für 32GB RAM und eins für 16GB RAM gibt. Ich unterstelle, viele (insb. neuere) Macs haben 24GB RAM..?
Andere haben 8/48/64/96/128gb Konfigurationen. Ein LLM für jede Konfiguration anzubieten macht wenig Sinn. Non Binary DRAM gibts erst seit DDR5. Davor gab es nur die klassischen Zweierpotenzdesigns 8/16/32 etc. Gefühlt geht halt auch die hälfte davon auf Apples Buckel. Wenn 24gb Ram dann "Pro" sind müssen 32gb Ram "Pro Max Ultra" usw. sein
@steirerblut Ich denke, über lokale KI-Modelle für Macs mit 8GB RAM brauchen wir nicht wirklich zu diskutieren, oder..? Gibt aber sicherlich einige Leute, die sich in den letzten 1-2 Jahren einen neuen Mac mit bewusst mehr als den 16GB "Basiskonfiguration" geholt haben, eben um AI-ready zu sein..? Wer 48+GB RAM in seinem Mac hat wird sehr genau wissen, wozu, und ist nicht auf solche "Hybrid-Lösungen" angewiesen.
Das hört sich nach einem Markting Feature an und erkenne wenig technische Belastbarkeit dahinter. Es ist vorprogrammiert, dass es reihenweise Falsch-Interpretationen der lokalen KI geben wird. Wäre wünschenswert wenn Apple für potentielle Schäden aufkommt.
Finde die App unterirdisch programmiert und habe nach 1 Jahr mein Abo gekündigt. App ging stets in Computer, obwohl ich nur schnell recherchieren wollte; Reiter mit mehreren Quellenangaben änder Fenstergröße je nach Textanzeige und das Fenster "rutscht" unter meinem Mauszeiger weg - und wird ausgeblendet. Jedesmal Zirkusaktionen, um Quellenseite 2, 3 usw. ansehen zu können. Klick auf Quellenangabe öffnet intern ein Mini-Seitenfenster als Webvorschau, völlig unübersichtlich für mich und unsinnig, aber die App hat kaum Präferenzen. Nope, gekündigt.
