Eloquent
A Google AI Edge expande o Eloquent para desktop em 10 dias e escala sua suíte local de IA com Flutter
Métricas de sucesso
10
dias para adaptar o app iOS para desktop
60%
stack de infraestrutura compartilhada com o Foresight
80%
de tempo inicial de engenharia economizado no Foresight
A maioria das pessoas fala mais rápido do que digita quando não precisa planejar cada frase com antecedência, mas as ferramentas tradicionais de ditado transcrevem literalmente cada pausa, palavra de preenchimento e correção no meio da frase. Google AI Edge Eloquent resolve esse problema para quem pensa falando, transformando pensamentos falados, sem filtro, em texto limpo e estruturado direto no dispositivo do usuário. Diferente dos apps de transcrição dependentes da nuvem, o Eloquent roda o reconhecimento de fala e os modelos de linguagem localmente, sem precisar de conexão com a internet, mantendo as notas de voz rápidas, privadas e disponíveis offline.
Criado pelo Google AI Edge Labs, o Eloquent e seu app irmão Foresight servem como apps de referência principais, mostrando o que devs podem criar com os SDKs de IA no dispositivo do Google. Depois que o Eloquent foi lançado na App Store, a adoção real decolou: o app subiu para o Top 20 da App Store, recebeu mais de 100 menções na imprensa e já economizou milhões de minutos de digitação para os usuários. O padrão de uso também surpreendeu o time, já que os usuários começaram a gravar sessões de 30 a 60 minutos em vez de notas de voz curtas, o que levou a uma atualização que liberou duração de ditado ilimitada. Pouco depois, o time foi convidado a mostrar o modelo Gemma 4 12B no Eloquent no dia do lançamento. Como um modelo de 12 bilhões de parâmetros é grande demais para rodar em um celular, atender ao lançamento exigiu transformar o app iOS em um app de desktop de produção em uma janela de 10 dias.
Conectando pipelines nativos de IA no dispositivo com Flutter
Quando a equipe começou a construir o Eloquent, nenhum dos engenheiros tinha experiência prévia com Flutter ou Dart. Graças à sintaxe acessível do Dart, ao modelo declarativo de widgets do Flutter e à documentação completa, o time ficou produtivo logo de cara, usando o Flutter para orquestrar pipelines complexos de IA no dispositivo junto com interfaces responsivas e interativas.
No centro da inteligência local do Eloquent está o LiteRT-LM,
o framework de inferência no dispositivo do Google para rodar modelos Gemma de forma eficiente
em hardware de consumo.
Os pipelines de transcrição, embedding e recuperação do Eloquent e do Foresight
rodam sobre o mesmo código que alimenta o MediaPipe Tasks recém-lançado pelo Google,
incluindo Audio Transcriber, Universal Embedder e SemanticRetriever.
Em vez de manter camadas nativas separadas de UI e de execução de modelos
para cada sistema operacional,
o time usou o Flutter e dart:ffi
como uma única ponte para a API nativa em C++.
Essa arquitetura permitiu que uma única biblioteca Dart compartilhada cuidasse do gerenciamento de modelos,
da transcrição de áudio e do estado da UI em todas as plataformas,
e qualquer dev Flutter pode construir sobre a mesma base
com o pacote Flutter MediaPipe,
que oferece suporte a todas as 22 tarefas do MediaPipe.
Lançando no desktop em 10 dias
Quando a contagem regressiva de 10 dias para a demo do Gemma 4 12B começou, a base em Flutter do time valeu a pena imediatamente. Construindo direto sobre a base de código do iOS, designers e engenheiros adaptaram a interface para telas maiores de desktop, adicionaram redimensionamento de janela e atalhos de teclado de desktop, e integraram a execução local do modelo de 12B no macOS a tempo do dia do lançamento.
O Flutter também facilitou a criação de interações de UI expressivas e customizadas, que tornam a IA no dispositivo transparente. Um exemplo marcante é a animação de diff do Eloquent, que destaca visualmente as diferenças entre as palavras faladas cruas do usuário e a versão polida gerada pelo modelo local.
Essa arquitetura modular do Flutter virou a base para o próximo app do time, Google AI Edge Foresight, um companheiro de reuniões e anotações com IA, alimentado por EmbeddingGemma 2 e Gemma 4. O Foresight permite que o usuário rabisque anotações resumidas durante uma reunião e as expanda em notas completas e estruturadas, junto com transcrições ao vivo e resumos.
Como o Eloquent foi construído como pacotes Dart e Flutter reutilizáveis, o Eloquent e o Foresight compartilham cerca de 60% de toda a stack de infraestrutura. O Foresight reutilizou toda a biblioteca de design do Eloquent, incluindo a animação de diff, junto com pacotes de camada intermediária para download de modelos, criptografia local e orquestração do LiteRT-LM, economizando cerca de 80% do tempo inicial de engenharia em comparação com construir do zero toda essa infraestrutura de FFI em C++, gerenciamento de modelos e UI.
"O Flutter não serve só para UI, você também pode usá-lo como uma ponte única para pipelines nativos. Não se limite a pensar no Flutter como uma ótima ferramenta de UI para criar apps multiplataforma, pense também em formas de otimizar toda a sua stack usando Flutter."
- Equipe de engenharia do Google AI Edge
Resultados principais e impacto nos negócios
Ao escolher o Flutter, a equipe do Google AI Edge entregou os seguintes resultados:
- De mobile para desktop em 10 dias: Adaptaram o app iOS para layouts de desktop no macOS, gerenciamento de janelas, atalhos de teclado e inferência local do Gemma 4 12B dentro de uma janela de lançamento de 10 dias.
- Stack de infraestrutura 60% compartilhada: Reaproveitaram o design system em Flutter do Eloquent, os componentes interativos de UI e a camada intermediária Dart-para-C++ como base do Google AI Edge Foresight.
- Quase 80% do tempo de engenharia economizado: Aceleraram o desenvolvimento do Foresight compartilhando bibliotecas de gerenciamento de modelos, fala e UI, em vez de reconstruir a infraestrutura de baixo nível do zero.
- Forte adoção na App Store e iteração rápida: Chegaram ao Top 20 da App Store, com mais de 100 menções na imprensa e milhões de minutos de digitação economizados, lançando suporte a ditado ilimitado em três semanas, mesmo tendo começado sem nenhuma experiência prévia com Flutter.
-
Uma única ponte multiplataforma para runtimes de ML em C++:
Conectaram o LiteRT-LM,
MediaPipe,
e modelos Gemma locais por meio de
dart:ffie de uma biblioteca Dart compartilhada em alvos mobile e desktop.
Pronto para criar experiências de IA no dispositivo nos seus próprios apps Flutter?
Comece com o pacote flutter_mediapipe no pub.dev,
explore o código-fonte no repositório flutter-mediapipe no GitHub,
e consulte a documentação do Google AI Edge e do LiteRT-LM.
Para conhecer os apps de vitrine do Google AI Edge Labs na prática, acesse o Google AI Edge Eloquent, baixe o Eloquent na App Store ou explore o Google AI Edge Foresight.