Discord e Meta: quando o algoritmo chega antes do socorro

Duas notícias chamaram minha atenção nessa semana. Uma, no Brasil, outra nos Estados Unidos. Separadas por um oceano, elas contam praticamente a mesma história: a de plataformas que sabiam do risco que representavam para crianças e adolescentes, tinham como agir, e, mesmo assim, chegaram tarde.

No Brasil, é o processo aberto pela Autoridade Nacional de Proteção de Dados contra o “Discord”, depois da morte de uma adolescente em julho. Nos Estados Unidos, é a condenação da Meta a mais de meio bilhão de dólares numa ação sobre segurança infantil. Casos diferentes, sistemas jurídicos diferentes — mas o mesmo ponto cego: a distância entre o que as “big techs” dizem fazer pelos menores e o que efetivamente fazem quando o risco já está batendo à porta.

A ANPD abriu fiscalização contra o “Discord” para apurar se a plataforma falhou na prevenção e no combate a conteúdos de automutilação e suicídio — a multa pode chegar a R$ 50 milhões.

Por trás da apuração está a morte de uma adolescente, associada ao que investigadores descrevem como uma campanha de violência extrema orquestrada em várias plataformas ao mesmo tempo.

De acordo com o Ministério Público, integrantes desses grupos chegavam a oferecer dinheiro para que atos de automutilação fossem gravados e compartilhados.

Mas, o detalhe que mais marcou, nesse caso, foi o do relógio. A própria empresa informou às autoridades que a Polícia Civil de São Paulo avisou o “Discord” sobre a transmissão, às 3h50 da madrugada. A sala só saiu do ar às 4h15 — vinte e cinco minutos depois do alerta — e a “live”, quando isso aconteceu, já rodava havia quase duas horas. Vinte e cinco minutos parecem pouco, até lembrarmos do que estava em jogo.

Foi, justamente esse intervalo, entre a autoridade avisar e a plataforma agir, que, agora, a ANPD investiga, à luz do ECA Digital, lei que não se contenta com políticas de proteção no papel: exige que funcionem, e que funcionem rápido.

Do outro lado do mapa, a Meta somou, em poucos meses, mais de US$ 940 milhões em condenações ligadas à segurança de menores: US$ 375 milhões em março e outros US$ 567 milhões definidos por uma corte do Novo México, num processo que discutiu como o Instagram e o Facebook afetam a saúde mental de usuários adolescentes.

A sentença não parou na indenização. Determinou mudanças práticas — limite de uso mensal para contas de menores, corte de notificações à noite, barreiras mais duras contra contato indevido entre adultos e crianças, e um sistema de denúncia de abuso sexual infantil mais eficiente.

E o Novo México é só a parte visível de algo bem maior. Mais de 40 estados americanos e cerca de 1.300 distritos escolares já processam plataformas de mídia social por danos à saúde mental de crianças e adolescentes — tudo reunido numa disputa multidistrital, na Califórnia, que soma milhares de ações. O argumento, apoiado em documentos internos da própria Meta, é direto: recursos como rolagem infinita, notificações e recomendação por algoritmo foram construídos para prender a atenção de usuários jovens, mesmo com a empresa sabendo dos riscos que isso trazia.

O que os dois casos têm em comum?

Não é o tipo de dano nem o valor da multa que aproximam o “Discord” e a Meta. É a lógica, por trás da responsabilização.

Nos dois casos, o risco não pegou ninguém de surpresa — havia sinal, alerta, histórico.

E, nos dois casos, quando a plataforma reagiu, foi tarde demais. Esse é o fio que une o ECA Digital, aqui, e a onda de processos de segurança infantil, lá: a ideia de que proteger crianças e adolescentes no ambiente digital não pode depender de repercussão na imprensa ou de decisão judicial.

Precisa estar na arquitetura do serviço, do desenho ao dia a dia da operação.

Isso muda a pergunta que empresas de tecnologia — e negócios brasileiros que operam em ambientes digitais voltados, mesmo que indiretamente, a menores — precisam se fazer.

Não basta ter uma política de segurança infantil escrita. É preciso saber se ela responde em minutos, não em horas; se é possível auditá-la; e se, diante de um alerta concreto de uma autoridade, a moderação está realmente pronta para agir com a urgência que o momento pede. “Compliance digital” deixou de ser vitrine reputacional. Virou obrigação legal, com consequências financeiras e regulatórias pesadas — aqui e lá fora.

*Advogada, sócia do escritório Terra Rocha Advogados, e presidente da Comissão de Proteção de Dados, Direito Digital e Compliance da OAB/RJ.