对隐私、定制化和低成本的追求，正在提升人们对可在本地硬件上运行的人工智能模型的兴趣。[Tim] 开发了一款可在 RP2350 微控制器上运行的图像生成模型。Waveshare RP2350 开发板上的系统只能生成人脸；分辨率为 128×128，每张图像的生成时间约为二十秒。输出可以通过 USB 获取，也可以通过 VGA 适配器板显示。该模型并非直接生成图像，而是在潜在空间中生成分布；变分自编码器的解码器会将其转换为图像。潜在流扩散变换器从噪声开始，逐步生成图像。[Tim] 使用 8-bit 整数对两个模型进行了量化，其中一个模型更大，另一个模型速度更快；两个模型和推理程序都能装入 4 MB 闪存。
为什么重要
这项工作表明，图像生成并不只依赖强大的显卡或远程服务器，在资源有限的微控制器上也可以在特定范围内运行。由于处理在设备上完成，生成的人脸图像无需发送到云端，因此可能会吸引重视隐私和希望摆脱网络连接运行的用户。较低的内存和存储需求表明，在将模型适配到小型嵌入式硬件方面，技术限制是可以被突破的。然而，系统只能生成人脸、分辨率较低，并且生成一张图像需要约二十秒，这些因素限制了其应用范围。因此，悬而未决的问题是，类似的方法能否扩展到更多样化的内容，并缩短生成时间。