A Advocacia-Geral da União (AGU), a Secretaria de Comunicação Social (Secom) e o Ministério da Saúde notificaram o Google para remover 97 canais do YouTube que simulavam profissionais de saúde com inteligência artificial. As contas promoviam tratamentos e e-books sem comprovação científica, principalmente para o público idoso.
A notificação estabeleceu prazo de 72 horas para a derrubada das contas. O caso ampliou a discussão sobre a responsabilidade das plataformas digitais na prevenção de fraudes e na moderação de conteúdos produzidos por inteligência artificial.
Avatares e limitações da moderação
A investigação identificou o uso de softwares de síntese de voz e imagem para criar perfis hiper-realistas, com aparência de consultório. A automação e os custos reduzidos permitem a publicação em grande escala por redes de desinformação.
“Os conteúdos usam avatares de aparência humana apresentados como médicos ou especialistas, atribuem qualificações profissionais fictícias e recorrem a linguagem alarmista para conferir credibilidade às informações”, afirmou o Ministério da Saúde em nota.
Os sistemas de moderação, originalmente desenvolvidos para detectar pirataria e violações tradicionais dos termos de uso, têm dificuldade para verificar se uma identidade virtual é real. Com isso, os vídeos podem permanecer disponíveis até o recebimento e o processamento de denúncias formais pelas plataformas.
Identificação e novas regras
A legislação brasileira prevê que as empresas atuem majoritariamente depois da notificação de irregularidades, sem exigir uma filtragem prévia ampla de todo o conteúdo publicado. Entre as propostas em discussão estão a verificação obrigatória de registro profissional para canais que ofereçam orientações de saúde e o uso de rótulos claros em produções geradas por inteligência artificial.
A identificação dos criadores dos 97 canais também enfrenta obstáculos técnicos. Redes privadas e meios de pagamento descentralizados dificultam o rastreamento dos responsáveis pelas autoridades policiais. Entidades de defesa do consumidor afirmam que a prevenção depende do alerta aos usuários enquanto o processo administrativo e judicial avança.
A moderação não faz cruzamento direto com os bancos de dados do Conselho Federal de Medicina, e os vídeos seguem o fluxo normal de exibição de anúncios até o bloqueio definitivo das contas. Propostas de regulamentação da inteligência artificial tramitam no Congresso Nacional.
