Perplexity представила функцию гибридной обработки для агентской платформы Computer. Система позволяет одному AI-агенту распределять задачи между передовыми моделями в облаке и небольшими моделями с открытыми весами, работающими локально на Mac с Apple silicon. Конфиденциальные данные не покидают устройство.
Компания заявляет, что это первая система, позволяющая начать выполнение задачи в облаке, а затем передать конфиденциальные части той же задачи модели на устройстве пользователя без перезапуска работы и потери контекста. Функция доступна на Mac с Apple silicon под управлением macOS 15 или более новой версии, опционально для корпоративных клиентов и подписчиков Pro и Max.
Архитектура работает таким образом, что модель в облаке разбивает задачу на подзадачи и распределяет их. Веб-исследования, долгосрочное планирование и сложные рассуждения выполняются в облаке, а конфиденциальные файлы, локальные данные и операции на устройстве передаются субагенту на Mac. Работающий на устройстве классификатор Privacy Gate от Perplexity сканирует персональную информацию, такую как имя, адрес, номер счёта и секреты. Если обнаруживается конфиденциальное содержимое, пользователь решает, выполнить ли операцию локально или поделиться данными.
За токены, сгенерированные локально, плата не взимается; кредиты используются только для облачной координации и маршрутизации. В демонстрациях, как сообщается, адвокат исследовал общедоступную судебную практику, работая с привилегированными материалами дела, а аналитик частной инвестиционной компании обновлял модель с использованием конфиденциальных финансовых прогнозов и готовил пятую версию презентации для инвестиционного комитета.
Почему это важно
Эта архитектура вместо выбора между облачными мощностями и конфиденциальностью на устройстве в ИИ-агентах предлагает модель распределения по задачам. Для пользователей, работающих с конфиденциальным содержимым, например юридическими материалами и финансовыми прогнозами, ключевым моментом является то, что решение о том, какая часть данных покинет устройство, остается за пользователем. Хотя разделение персональных данных с помощью Privacy Gate обеспечивает дополнительный уровень контроля, не уточняется, как будет распределяться ответственность в случаях ошибочной классификации. Ограничение использования определенными условиями, связанными с операционной системой, оборудованием и подпиской, также сужает доступность этой функции. Отсутствие платы за локальные операции означает, что главным фактором при расчете затрат будет использование облачной координации и маршрутизации.