O interesse por modelos de inteligência artificial capazes de funcionar em hardware local está aumentando devido à busca por privacidade, personalização e baixo custo. [Tim] desenvolveu um modelo de geração de imagens capaz de funcionar no microcontrolador RP2350. O sistema na placa de desenvolvimento Waveshare RP2350 gera apenas rostos humanos; a resolução é de 128×128 e o tempo por imagem é de aproximadamente vinte segundos. A saída pode ser obtida via USB ou exibida com uma placa adaptadora VGA. Em vez de criar a imagem diretamente, o modelo gera uma distribuição no espaço latente; o decodificador do autocodificador variacional a transforma em uma imagem. O transformador de difusão de fluxo latente cria a imagem passo a passo, partindo do ruído. [Tim] quantizou dois modelos, um maior e outro mais rápido, usando inteiros de 8 bits; os dois modelos e o programa de inferência cabem em uma memória flash de 4 MB.
Por que isso é importante
Este trabalho mostra que a geração de imagens não depende exclusivamente de placas gráficas potentes ou de servidores remotos e que também pode ser realizada, dentro de um escopo específico, em microcontroladores com recursos limitados. Como o processamento é feito no dispositivo, as imagens de rostos geradas não precisam ser enviadas para a nuvem, o que pode atrair usuários que buscam privacidade e desejam trabalhar independentemente de uma conexão. Os baixos requisitos de memória e armazenamento indicam que foi possível superar um limite técnico na adaptação do modelo a hardwares pequenos e embarcados. No entanto, o fato de o sistema gerar apenas rostos, permanecer em baixa resolução e exigir aproximadamente vinte segundos por imagem restringe sua área de uso. Por isso, a questão em aberto é saber se uma abordagem semelhante poderá ser aplicada a conteúdos mais variados e a tempos de geração mais curtos.