Como identificar vídeos feitos com IA e evitar golpes?

Aparência da imagem e contexto podem indicar uma falsificação; homem viajou mais de 2 mil quilômetros em busca de romance, mas pretendente era feita por IA

Um homem percorreu mais de 2 mil quilômetros para encontrar uma mulher que, na realidade, nunca existiu. Ela havia sido criada por inteligência artificial.

O caso ganhou repercussão nacional e expõe uma questão que merece atenção: à medida que a inteligência artificial torna mais difícil distinguir o real do artificial, quais são os limites da responsabilidade de quem utiliza essa tecnologia?

Conversei com o jornalista Jairo Nascimento, da CNN Brasil, sobre os aspectos jurídicos do uso de deepfakes e as consequências para quem produz ou compartilha esse tipo de conteúdo.

A questão central é que a utilização de inteligência artificial, por si só, não configura crime. O enquadramento jurídico depende da conduta praticada. Quando um deepfake é utilizado para aplicar um golpe, por exemplo, pode configurar fraude eletrônica, cuja pena prevista é de quatro a oito anos de reclusão, além de multa.

E há uma distinção importante: mesmo quando a conduta não configura crime, pode existir o dever de indenizar pelos prejuízos causados.

A tecnologia avança em uma velocidade que desafia os mecanismos tradicionais de fiscalização e identificação dos responsáveis. Mas isso não significa ausência de responsabilidade.

A ferramenta pode ser nova. As consequências jurídicas de seu uso, nem sempre.