TikTok rotulará imagens e vídeos gerados por inteligência artificial

O TikTok anunciou nesta quinta-feira (09) que começará a usar uma tecnologia destinada a identificar imagens e vídeos gerados por inteligência artificial (IA). Com isso, os vídeos passarão a carregar rótulos marcando que foram feitos com o uso da tecnologia.

A rede social explicou que adotará “Credenciais de Conteúdo“, uma marca d’água digital que indica como as imagens foram criadas e editadas. A tecnologia foi liderada pela Adobe, mas está aberta para uso de outras empresas e já foi adotada por companhias como a OpenAI, criadora do ChatGPT.

Pesquisadores têm expressado preocupação com o fato de que o conteúdo gerado por IA pode ser usado como arma de desinformação principalmente em períodos eleitorais. Os Estados Unidos terão eleições no final deste ano, por exemplo, enquanto o Brasil terá as eleições municipais.

O TikTok já faz parte de um grupo de 20 empresas de tecnologia que, no início deste ano, assinou um acordo comprometendo-se a combater a prática de propagação de informações falsas.

YouTube e a Meta, dona do Instagram e do Facebook, também disseram que planejam usar a tecnologia de “Credenciais de Conteúdo”.

Para que o sistema funcione, tanto o criador   quanto a plataforma usada para distribuir o conteúdo devem concordar em usar o padrão. Se uma pessoa usa a ferramenta Dall-E da OpenAI para gerar uma imagem, por exemplo, a OpenAI anexa uma marca d’água à imagem resultante. Se essa imagem for carregada no TikTok, ela será automaticamente rotulada como gerada por IA.

O TikTok já rotula o conteúdo gerado por IA feito com ferramentas dentro do aplicativo, mas a última medida aplicará um rótulo ao conteúdo gerado fora do serviço.

“Também temos políticas que proíbem o uso de IA realista que não esteja rotulada, portanto, se a IA realista (conteúdo gerado) aparecer na plataforma, nós a removeremos por violar nossas diretrizes da comunidade”, disse Adam Presser, chefe de operações e segurança do TikTok.