Plataformas digitais ainda podem se esconder atrás do Marco Civil da Internet para não responder por conteúdo ilícito criado por terceiros? Para a 6ª Turma Recursal Cível do Tribunal de Justiça de São Paulo, o caso merece exame acurado. Foi o que se decidiu.

Em julgamento relatado pelo juiz Carlos Alexandre Böttcher, o colegiado reconheceu a responsabilidade da empresa X Brasil Internet pela veiculação de imagens de nudez simulada da autora, produzidas com o uso de ferramentas de inteligência artificial e divulgadas em rede social.

Nudez digital é risco do próprio negócio

O ponto central do acórdão foi tratar a circulação de imagens íntimas manipuladas por IA como fortuito interno — isto é, um risco inerente à própria atividade econômica desenvolvida pela plataforma. Na prática, isso significa que: quem lucra com a difusão massiva de conteúdo digital também assume o risco da sua utilização abusiva,  especialmente quando falha em impedir a exposição da intimidade de usuários.

Segundo o voto, permitir que a imagem da usuária fosse manipulada e exibida em ambiente virtual sob gestão da própria empresa evidencia omissão no dever de controle dos danos gerados por sua tecnologia.

Notificação extrajudicial já impõe dever de agir

A empresa alegou que não poderia ser responsabilizada sem ordem judicial específica para retirada do conteúdo, com base no art. 19 do Marco Civil da Internet. A Turma afastou o argumento.

Com base na tese fixada pelo Supremo Tribunal Federal no Tema 533, o relator destacou que a exigência de decisão judicial prévia não pode servir de blindagem automática à plataforma quando: há notificação do usuário lesado; e persistência na manutenção de conteúdo ilícito. No caso, a autora comprovou que notificou a rede social, sem que houvesse remoção imediata das imagens adulteradas.

Violência digital de gênero

As imagens manipuladas ainda foram acompanhadas de comentários de cunho sexual depreciativo, o que levou o colegiado a reconhecer que a conduta pode, em tese, configurar: violência psicológica contra a mulher, nos termos do art. 147-B do Código Penal. O dispositivo, inclusive, prevê aumento de pena quando o crime é cometido mediante uso de inteligência artificial para alterar imagem da vítima.

Indenização foi reduzida, mas mantida

Embora tenha confirmado a responsabilidade da plataforma e a ocorrência de dano moral, a Turma deu parcial provimento ao recurso apenas para reduzir o valor da indenização fixada em primeiro grau. O montante foi ajustado para R$ 30 mil, considerado suficiente para: compensar o abalo emocional decorrente da exposição pública; e cumprir função punitivo-pedagógica sem gerar enriquecimento indevido.

Na prática, a decisão sinaliza uma inflexão importante: a falha na moderação de conteúdo sexual falso gerado por inteligência artificial pode gerar responsabilidade civil da plataforma mesmo antes de ordem judicial, desde que haja notificação e inércia na remoção.

RECURSO CÍVEL Nº 1029948-82.2024.8.26.0016/SP