Avatares gerados por IA lucram com seguidores e expõem riscos

Avatares hiper-realistas gerados por inteligência artificial têm se multiplicado em redes sociais e se transformado em um mercado lucrativo, com perfis que simulam pessoas reais para vender produtos, influenciar públicos e ampliar alcance de canais automatizados.

Esses personagens, embora inexistentes no mundo físico, acumulam seguidores em plataformas como TikTok, YouTube e Instagram e monetizam suas presenças de diversas formas: receita por visualizações, comissões por vendas em marketplaces, promoção de produtos digitais e valorização de perfis que podem ser revendidos ou reutilizados para outros fins.

Pesquisadores e organizações que monitoram o fenômeno identificam uma produção em escala industrial, alimentada por ferramentas de automação cada vez mais acessíveis. Roteiros padrão são traduzidos e reproduzidos por dezenas de avatares para atingir diferentes países e públicos, segundo mapeamentos feitos por grupos de pesquisa.

Como funciona a operação

O modelo comercial se apoia em algoritmos que direcionam vídeos a audiências específicas, convertendo atenção em receita. Criadores usam automação para gerar conteúdo em massa — vídeos genéricos conhecidos como slop — que ajudam canais a cumprir exigências de monetização e engajar usuários vulneráveis com narrativas sensacionalistas.

Um mesmo roteiro pode ser adaptado para vários idiomas e encenado por diferentes avatares, ampliando o alcance sem custo proporcional ao aumento de produção. A automação também permite dar voz e rosto a esses personagens, tornando mais difícil para o público identificar campanhas ou conteúdos financiados.

Alvos e técnicas de persuasão

Os nichos explorados vão de conteúdos históricos e infantis a narrativas apelativas, como histórias sentimentais fabricadas. Em comum, os perfis sintéticos exploram emoções básicas — medo, curiosidade e esperança — e, em temas de saúde, criam senso de urgência para induzir ações imediatas.

Em muitos casos, os avatares promovem tratamentos e soluções sem comprovação científica. Comentários de usuários relatam abandono de terapias tradicionais em favor de indicações vindas desses perfis, o que eleva o risco sanitário decorrente da desinformação.

Impactos na percepção social

Especialistas alertam que a proliferação de personagens sintéticos altera a percepção da realidade: padrões estéticos e interações afetivas fabricadas aumentam inseguranças; modelos corporais inviáveis e influenciadores que não existem aprofundam comparações prejudiciais entre usuários e uma realidade artificialmente produzida.

Responsabilidade das plataformas e propostas de regulação

Pesquisadores defendem sinalização clara e obrigatória para conteúdos gerados por IA e maior atuação das plataformas na moderação de materiais monetizados. Atualmente, muitas redes baseiam-se na autodeclaração dos criadores, sem mecanismos eficazes de verificação, o que, segundo especialistas, desloca indevidamente a responsabilidade para o usuário final.

As plataformas informam que possuem diretrizes que incluem regras contra desinformação médica e exigem que criadores divulguem o uso de mídia sintética. Também dizem empregar tecnologia e revisão humana para identificar conteúdos que deveriam ser rotulados e aplicar medidas quando as regras são violadas.

Consequências jurídicas

Do ponto de vista legal, a utilização de avatares sintéticos não exime os responsáveis por condutas ilícitas. Advogadas e especialistas em cibersegurança apontam que atos como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica podem ser praticados por meio desses perfis, e continuam configurando crime independentemente da tecnologia utilizada.

Riscos e recomendações

Além dos prejuízos econômicos e legais, a disseminação de conteúdos gerados por IA acarreta riscos à saúde pública e à integridade informacional. Pesquisadores e ativistas sugerem combinar rotulagem visível, fiscalização das plataformas, e mecanismos legais que responsabilizem tanto os criadores quanto as empresas que amplificam esses conteúdos por recomendação algorítmica.

Medidas de verificação e transparência, acompanhadas de políticas que restrinjam a monetização de conteúdos enganosos, são apontadas como passos necessários para reduzir danos e proteger usuários de manipulação e crimes cometidos com o auxílio de inteligência artificial.