YouTube ganha função para marcar vídeo alterado por IA

O YouTube lançou uma ferramenta no Estúdio de Criação para informar se o canal usou IA para modificar um vídeo. A medida, quando usada, exibe um aviso de “conteúdo alterado ou sintético”.

• YouTube na TV terá novo visual para tela de comentários
• YouTube deixa de recomendar vídeos se você não estiver logado

A intenção da plataforma é aplicar o alerta para ajudar a comunidade em conteúdos realistas, descritos pela própria empresa como um “conteúdo em que o espectador pode facilmente confundir uma pessoa, lugar ou evento real”. Inicialmente, a marcação aparece na descrição do post, mas também fica presente no reprodutor do vídeo em temas mais delicados, como saúde, notícias, eleições e finanças.

A empresa listou alguns exemplos que exigem que o canal informe a presença de IA:

–
Participe do GRUPO CANALTECH OFERTAS no Telegram e garanta sempre o menor preço em suas compras de produtos de tecnologia.
–

• Simular a aparência de uma pessoa real, como usar um deepfake ou clonar a voz da pessoa com IA para narrar um vídeo;
• Mudar gravações de eventos ou locais reais, como mostrar um edifício real em chamadas ou mudar a paisagem de uma cidade;
• Gerar cenas realistas de eventos fictícios, como um tornado rumando em direção a uma cidade.

Por outro lado, a companhia não proíbe o uso de inteligência artificial em outros aspectos da produção do vídeo, como a geração do texto do roteiro ou a criação de legendas automáticas. Não é necessário usar a marcação em filtros de embelezamento, ajustes de cores ou vídeos que claramente não seguem propostas realistas, como um universo fantástico.

A mudança já estava prevista pela empresa desde novembro do ano passado, quando atualizou diretrizes sobre conteúdos sintéticos e anunciou um mecanismo para identificá-los. A princípio, o aviso está disponível no app do YouTube para celulares, mas a intenção é expandir o serviço para computadores e TVs nos próximos meses.

É bom, mas há uma brecha

A nova marcação de conteúdo é importante para conter a desinformação, especialmente pensando nas eleições previstas para 2024, que devem marcar o primeiro grande impacto da IA generativa nos processos eleitorais de vários países. 

Porém, a novidade tem uma brecha: depende da índole de cada usuário porque o dono do canal precisa ativar o aviso de IA manualmente no Estúdio de Criação no momento do upload do vídeo. O YouTube diz que trabalha em medidas futuras para punir quem omite essa informação, inclusive com um aviso de que o conteúdo é adulterado e não foi mencionado pelo autor.

Aos poucos, mais empresas anunciam formas para denunciar conteúdos criados por IA. A Meta também já anunciou que vai aplicar uma marcação para Facebook e Instagram com o mesmo objetivo, por exemplo, e mais plataformas podem seguir o caminho durante este ano.

Leia a matéria no Canaltech.

Trending no Canaltech:

• Ciência define a partir de qual idade a pessoa é “velha”
• Meta consegue liminar para seguir com este nome no Brasil
• Atriz de Harry Potter volta a provocar fãs e desdenha da Marvel: “Cresçam!”
• Google Fotos agora separa prints de recibos e outros documentos
• Instagram pode aumentar limite do carrossel para 15 fotos
• Recorde na expectativa de vida humana vai ser quebrado em 2060