Perplexity hat die Hybridverarbeitung für seine Agentenplattform Computer eingeführt. Das System ermöglicht es einem einzelnen KI-Agenten, Aufgaben zwischen fortschrittlichen Modellen in der Cloud und kleineren Open-Weight-Modellen aufzuteilen, die lokal auf Apple silicon Macs ausgeführt werden. Sensible Daten verlassen das Gerät nicht.
Das Unternehmen gibt an, dass es sich um das erste System handelt, das eine Aufgabe in der Cloud beginnen und vertrauliche Abschnitte innerhalb derselben Aufgabe an das Modell auf der Hardware des Nutzers übertragen kann, ohne die Arbeit neu zu starten oder den Kontext zu verlieren. Die Funktion ist auf Apple silicon Macs mit macOS 15 oder einer neueren Version optional für Unternehmenskunden sowie für Pro- und Max-Abonnenten verfügbar.
Die Architektur funktioniert, indem ein Modell in der Cloud die Aufgabe in Teilaufgaben aufteilt und sie weiterleitet. Während Webrecherche, langfristige Planung und rechenintensives Schlussfolgern in der Cloud ausgeführt werden, werden private Dateien, lokale Daten und Vorgänge auf dem Gerät an den Unteragenten auf dem Mac übertragen. Der auf dem Gerät ausgeführte Privacy Gate-Klassifikator von Perplexity durchsucht persönliche Informationen wie Namen, Adressen, Kontonummern und Geheimnisse. Wird sensibler Inhalt erkannt, entscheidet der Nutzer, ob der Vorgang lokal ausgeführt oder geteilt werden soll.
Für lokal generierte Tokens werden keine Gebühren erhoben; Credits werden nur für die Koordination und Weiterleitung in der Cloud verwendet. In Demonstrationen wurde gezeigt, wie ein Anwalt unter Verwendung privilegierter Falldateien öffentlich zugängliche Rechtsprechung recherchierte. Außerdem wurde gezeigt, wie ein Private-Equity-Analyst das Modell mit vertraulichen Finanzprognosen aktualisierte und die fünfte Version einer Präsentation für das Investmentkomitee erstellte.
Warum das wichtig ist
Diese Struktur führt bei AI-Agenten statt einer Wahl zwischen Cloud-Kapazität und Datenschutz auf dem Gerät ein aufgabenbezogenes Modell der Datenfreigabe ein. Besonders für Nutzer, die mit sensiblen Inhalten wie juristischen Akten und Finanzprognosen arbeiten, ist entscheidend, dass die Entscheidung darüber, welcher Teil der Daten das Gerät verlassen darf, dem Nutzer überlassen wird. Die Trennung personenbezogener Daten durch Privacy Gate bietet zwar eine zusätzliche Kontrolle, doch es wird nicht ausdrücklich dargelegt, wie die Verantwortung in Fällen geteilt wird, in denen die Klassifizierung fehlerhaft ist. Die Beschränkung der Nutzung auf bestimmte Bedingungen hinsichtlich Betriebssystem, Hardware und Abonnement schränkt zudem die Zugänglichkeit der Funktion ein. Dass für lokale Vorgänge keine Gebühren erhoben werden, bedeutet, dass bei der Kostenberechnung letztlich die Nutzung von Cloud-Koordination und -Weiterleitung ausschlaggebend sein wird.