Le norme relative ai contenuti creati con l'IA di Google Play hanno lo scopo di garantire che i contenuti creati con l'IA siano sicuri per tutti gli utenti e che gli sviluppatori includano il feedback degli utenti per consentire un'innovazione responsabile.
Panoramica
Gli sviluppatori sono tenuti a garantire che le proprie app di IA generativa non generino contenuti offensivi, inclusi contenuti vietati elencati nelle norme di Google Play relative ai contenuti inappropriati, contenuti che potrebbero sfruttare minori o abusarne e contenuti che possono ingannare gli utenti o favorire comportamenti fraudolenti. Le app di IA generativa devono inoltre rispettare tutte le altre norme del nostro Centro norme per gli sviluppatori.
Le norme relative ai contenuti creati con l'IA riguardano i contenuti creati con l'IA generati da qualsiasi combinazione di inserimenti di prompt di testo, voce e immagine, inclusi, a titolo esemplificativo, i seguenti tipi di app di IA generativa:
- App di chatbot di IA da testo a testo, dove l'interazione con il chatbot creata con l'IA è una funzionalità centrale dell'app.
- App di conversione da testo a immagine, da voce a immagine e da immagine a immagine che utilizzano l'IA per generare immagini.
- App che creano registrazioni vocali e/o video di persone reali utilizzando l'IA.
Al momento le norme non sono pensate per essere applicate ai seguenti tipi di app di IA con ambito limitato:
- App che ospitano semplicemente contenuti creati con l'IA e che non sono in grado di creare contenuti utilizzando l'IA, ad esempio le app di social media che non includono funzionalità di creazione di contenuti con l'IA.
- Le app di contenuti generati dagli utenti che ospitano contenuti creati con l'IA sono soggette alle norme relative ai contenuti generati dagli utenti.
- App che riassumono contenuti non creati con l'IA, ad esempio il riassunto dei risultati di ricerca e di documenti (ad esempio di un libro), se la funzionalità di riassunto è l'unica funzionalità dell'app.
- App di produttività che utilizzano l'IA per migliorare una funzionalità esistente, ad esempio le app email con bozze di email suggerite dall'IA.
Di seguito sono riportati, a titolo esemplificativo, alcuni esempi di contenuti in violazione creati con l'IA:
- Materiale di natura sessuale deepfake non consensuale creato con l'IA.
- Registrazioni vocali o video di persone reali per favorire le frodi.
- Contenuti generati per favorire comportamenti dannosi (ad esempio attività pericolose, autolesionismo).
- Contenuti correlati alle elezioni che sono manifestamente ingannevoli o falsi.
- Contenuti generati per favorire bullismo e molestie.
- Applicazioni di IA generativa intese principalmente alla gratificazione sessuale.
- Documentazione ufficiale creata con l'IA che favorisce comportamenti fraudolenti.
- Creazione di codice dannoso.