Perplexity 为其代理平台 Computer 推出了混合处理功能。该系统允许单个 AI 代理在云端的先进模型与 Apple silicon Mac 上本地运行的较小型开放权重模型之间分配任务。敏感数据不会离开设备。
该公司表示,这是首个能够让任务在云端开始后,将同一任务中的机密部分传输给用户硬件上的模型,同时无需重新启动任务且不会丢失上下文的系统。该功能面向运行 macOS 15 或更高版本的 Apple silicon Mac 提供,企业客户以及 Pro 和 Max 订阅用户可选择使用。
该架构的运行方式是,由云端模型将任务拆分为多个子任务并进行调度。网络研究、长期规划和高强度推理在云端执行,而私人文件、本地数据和设备端操作则交由 Mac 上的子代理处理。Perplexity 在设备上运行的 Privacy Gate 分类器会扫描姓名、地址、账号和机密信息等个人数据。如果检测到敏感内容,用户可以决定是在本地完成处理,还是将其共享出去。
本地生成的 token 不收取费用;额度仅用于云端协调和调度。演示显示,一名律师在处理受特权保护的案件文件时研究公开判例;此外,一名私募股权分析师使用机密财务预测更新模型,并准备投资委员会演示文稿的第5版。
为何重要
这种架构并非让用户在 AI 代理的云端能力与设备端隐私之间二选一,而是引入了按任务进行分配的模式。对于处理法律文件和财务预测等敏感内容的用户而言,关键在于由用户决定哪些数据部分会离开设备。尽管 Privacy Gate 对个人信息进行隔离能够提供额外的控制,但对于分类出错时责任应如何分担,目前尚未作出明确说明。将使用限制在特定的操作系统、硬件和订阅条件下,也缩小了该功能的可访问范围。不收取本地处理费用,则意味着成本核算的主要决定因素将是云端协调与调度的使用情况。