A indústria criativa está passando por uma grande transformação com o avanço da Inteligência Artificial (IA) generativa, que está remodelando a maneira como os criadores desenvolvem e compartilham conteúdo. Esta tecnologia permite uma gama ampla de aplicações, desde a geração de ideias de storyboard até o aprimoramento de ferramentas que facilitam o processo criativo. No entanto, o aumento da utilização de conteúdo realista criado ou alterado por IA suscitou preocupações sobre a transparência e a autenticidade do material que os espectadores consomem online.
Com o objetivo de enfrentar essas preocupações, foi anunciada a introdução de uma nova ferramenta no Estúdio de Criação, que obriga os criadores a informar os espectadores quando estiverem visualizando conteúdo realista — aquele que poderia ser facilmente confundido com pessoas, lugares ou eventos reais — que tenha sido criado ou alterado utilizando mídia sintética, incluindo a IA generativa. Esta decisão surge como um esforço para manter a integridade e a transparência na plataforma, garantindo que os usuários possam discernir entre conteúdo autêntico e aquele modificado digitalmente.
Nova ferramenta no YouTube
Os rótulos de divulgação serão visíveis na descrição expandida ou diretamente no player de vídeo, dependendo do contexto do conteúdo. Essa medida não se aplica a conteúdos claramente fictícios, como animações ou aqueles que utilizam efeitos especiais, nem a situações em que a IA generativa serve apenas como uma ferramenta de assistência à produção, como na geração de roteiros ou na criação de legendas automáticas.
A exigência de divulgação se concentra principalmente em situações onde a imagem de uma pessoa realista é usada ou modificada, eventos ou locais reais são alterados de maneira significativa, ou cenas realistas são geradas para representar eventos fictícios de grande escala. Exemplos específicos incluem a alteração digital do rosto de uma pessoa, a modificação de uma paisagem urbana para parecer diferente da realidade ou a criação sintética da voz de uma pessoa para narrar um vídeo.
A implementação desses rótulos será feita progressivamente em todas as plataformas e formatos disponíveis no YouTube, iniciando com o aplicativo para smartphones e se expandindo para desktops e televisões nas semanas seguintes. A medida visa não apenas aprimorar a transparência para com os espectadores, mas também fortalecer a confiança entre os criadores de conteúdo e seu público.
Além disso, o YouTube destacou sua participação como membro diretor da Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA), reiterando seu compromisso com a promoção da transparência no ambiente digital. Esta iniciativa faz parte de um esforço contínuo para adaptar a plataforma às inovações tecnológicas, garantindo ao mesmo tempo que os usuários possam confiar na autenticidade do conteúdo que consomem.
Por fim, foi mencionado um processo de privacidade atualizado que está sendo desenvolvido, o qual permitirá que indivíduos solicitem a remoção de conteúdo gerado por IA ou alterado de forma sintética que os represente, abrangendo aspectos como rosto ou voz. Mais detalhes sobre este processo serão compartilhados em breve, marcando mais um passo na direção de uma maior responsabilidade e respeito pela privacidade individual no universo digital.
