Com o crescimento exponencial do uso da IA, surgiram preocupações em relação ao conteúdo gerado por algoritmos, que pode variar de ofensivo a prejudicial. Em resposta a essas inquietações, o Google está adotando medidas rigorosas, exigindo que os desenvolvedores de aplicativos Android implementem uma moderação mais eficaz do conteúdo gerado por IA.
Nesse sentido, a partir do próximo ano, aplicativos que fazem uso de conteúdo gerado por IA terão que incorporar uma funcionalidade que permita aos usuários denunciar conteúdo ofensivo. Essa mudança visa aprimorar a qualidade e a segurança da Google Play Store, um mercado onde os usuários podem encontrar uma ampla gama de aplicativos para atender às suas necessidades.
Os processos de denúncia de conteúdo ofensivo devem ser simples e estar integrados aos aplicativos, de modo que os usuários não precisem sair da plataforma para realizar uma denúncia, informa o The Verge. Isso segue a tendência dos sistemas de denúncia já existentes em muitos aplicativos, tornando o processo mais eficiente e acessível.
Alcance da nova política do Google
A nova política de conteúdo gerado por IA do Google abrange diversas áreas. Isso inclui AI chatbots, aplicativos que geram imagens por meio da IA e aplicativos que criam conteúdo de voz ou vídeo com base em pessoas reais, utilizando a IA.
No entanto, é importante observar que nem todos os aplicativos que fazem uso de IA estarão sujeitos a essa nova política. Aplicativos que usam a IA apenas para resumir conteúdo, como livros, e aplicativos de produtividade que utilizam a IA como um recurso não serão afetados.
Exemplos de conteúdo problemático
O Google forneceu exemplos claros de conteúdo gerado por IA que são considerados problemáticos e, portanto, passíveis de denúncia. Esses exemplos incluem:
- Deepfakes não consensuais com teor sexual.
- Gravações de pessoas reais projetadas para enganar ou aplicar golpes.
- Conteúdo eleitoral falso ou enganoso.
- Aplicativos que fazem uso da IA com a intenção principal de serem sexualmente explícitos.
- Criação de código malicioso.
Esses exemplos abrangem uma ampla gama de situações em que o conteúdo gerado por IA pode ser prejudicial, enganoso ou explorador.
Política de IA do Google em evolução
O Google reconhece que a área de conteúdo gerado por IA está em constante evolução. Como resultado, a empresa está disposta a revisitar suas políticas à medida que a tecnologia avança. Isso reflete o esforço do Google em manter suas diretrizes atualizadas e relevantes em um campo em constante transformação.
Novas restrições nas permissões de fotos e vídeos
Além das novas regras em relação ao conteúdo gerado por IA, o Google está reforçando a política de permissões para fotos e vídeos na Google Play Store. A empresa está limitando a extensão pela qual os aplicativos podem acessar esses dados.
O Google considera fotos e vídeos nos dispositivos dos usuários como informações pessoais e sensíveis, que devem ser tratadas com as melhores práticas de privacidade. Minimizar o acesso a esses dados ajuda a evitar possíveis vazamentos e exploração por parte de desenvolvedores mal-intencionados.
Desenvolvedores com mais responsabilidades
Os desenvolvedores agora enfrentam a responsabilidade de implementar funcionalidades de denúncia de conteúdo ofensivo em seus aplicativos, enquanto o Google se esforça para manter suas políticas atualizadas e relevantes em um cenário de rápida evolução tecnológica.
