O objetivo da política de conteúdo gerado por IA do Google Play é garantir que esse conteúdo seja seguro para todos os usuários e que os desenvolvedores incorporem o feedback deles a fim de permitir uma inovação responsável.
Visão geral
Os desenvolvedores são responsáveis por garantir que os apps de IA generativa não gerem conteúdo ofensivo, o que inclui as proibições indicadas nas políticas de conteúdo inadequado do Google Play, conteúdo que possa causar exploração ou abuso de crianças e conteúdo que possa enganar os usuários ou permitir comportamentos desonestos. Os apps de IA generativa também precisam obedecer a todas as outras políticas na Central de políticas para desenvolvedores.
A política de conteúdo gerado por IA abrange material gerado pela entrada de qualquer combinação de comandos de texto, voz e imagem, incluindo, mas não se limitando aos seguintes tipos de apps de IA generativa:
- Apps de chatbot de IA com entrada e saída em texto, em que a interação gerada por IA é um recurso central.
- Apps que usam IA para converter imagens, texto e voz em imagens.
- Apps que criam gravações de voz e/ou vídeo de pessoas reais usando IA.
No momento, a política não se destina aos seguintes tipos de apps de IA com escopo limitado:
- Apps que simplesmente hospedam conteúdo gerado por IA e não podem criar conteúdo usando IA, como apps de mídias sociais que não têm recursos de geração de conteúdo de IA.
- Os apps de UGC que hospedam conteúdo gerado por IA estão sujeitos à política de conteúdo gerado pelo usuário.
- Apps que resumem conteúdo não gerado por IA, como o resumo de resultados da pesquisa e de documentos (por exemplo, resumir um livro), se o recurso de resumo é o único no app.
- Apps de produtividade que usam IA para melhorar um recurso atual, como apps de e-mails com rascunhos sugeridos por IA.
Estes são alguns exemplos de conteúdo gerado por IA que viola as diretrizes:
- Material sexual deepfake não consensual gerado por IA.
- Gravações de voz ou vídeo de pessoas reais que facilitam golpes.
- Conteúdo gerado para incentivar comportamentos nocivos (por exemplo, atividades perigosas e automutilação).
- Conteúdo que seja comprovadamente enganoso ou falso relacionado a eleições.
- Conteúdo gerado para facilitar bullying e assédio.
- Aplicativos de IA generativa que têm como objetivo principal a satisfação sexual.
- Documentação oficial gerada por IA que permite comportamento desonesto.
- Criação de código malicioso.