Lotta contro gli abusi sessuali su minori online
Investiamo molto nella lotta contro lo sfruttamento minorile e gli abusi sessuali su minori online e usiamo la tecnologia di nostra proprietà per scoraggiare, rilevare e segnalare le trasgressioni sulle nostre piattaforme.
Collaboriamo con ONG e operatori del settore a diversi programmi in modo da condividere le nostre competenze tecniche. Inoltre, sviluppiamo e condividiamo strumenti per aiutare le organizzazioni a contrastare la diffusione del materiale pedopornografico.
Scopri di più sul nostro toolkit per la sicurezza dei minori qui.
Lotta agli abusi sui nostri servizi e piattaforme
Quali sono le nostre iniziative?
-
Prevenzione degli abusi
Miriamo a prevenire gli abusi garantendo che i nostri prodotti siano sicuri per l'utilizzo da parte di minori. Usiamo anche tutti i dati e le ricerche disponibili per comprendere l'evolversi delle minacce e le nuove violazioni, come nel caso di materiale pedopornografico creato con l'AI.Adottiamo misure non solo riguardo al materiale pedopornografico illegale, ma anche nel caso di contenuti che, in senso più ampio, promuovono abusi sessuali su minori e possono metterli in situazioni di pericolo. -
Rilevamento e segnalazione
Identifichiamo e segnaliamo il materiale pedopornografico con l'aiuto di team di esperti qualificati e tecnologie all'avanguardia, compresi classificatori basati sul machine learning e una tecnologia di corrispondenza di hash che crea un "hash", ovvero un'impronta digitale univoca, per un'immagine o un video che possa essere confrontato con hash di materiale pedopornografico noto. Quando troviamo materiali pedopornografici, li segnaliamo al National Center for Missing and Exploited Children (NCMEC), che collabora con le forze dell'ordine di tutto il mondo. -
Collaborazione a livello mondiale
Collaboriamo con il NCMEC e altre organizzazioni a livello mondiale nell'ambito del nostro impegno per combattere gli abusi sessuali su minori online. Come parte di queste iniziative, instauriamo partnership solide con ONG e coalizioni del settore per aiutarle a svilupparsi e contribuire alla comprensione congiunta della natura in evoluzione di abuso e sfruttamento sessuale di minori.
Come le stiamo mettendo in atto?
Agiamo su contenuti come materiale pedopornografico, adescamento, estorsione sessuale e altro ancora, utilizzando un'ampia gamma di risorse umane e tecnologiche. Puoi leggere una descrizione di alto livello del nostro approccio o approfondire come alcuni dei nostri prodotti affrontano questo tipo di abuso.
-
La lotta contro gli abusi sessuali su minori nella Ricerca
La Ricerca Google rende le informazioni facili da trovare, ma in nessun caso vogliamo che questo strumento mostri contenuti illegali o che sfruttano sessualmente di minori. È nostra prassi bloccare i risultati di ricerca che reindirizzano a immagini pedopornografiche o a materiali che sembrano mostrare abusi sessuali, mettere in pericolo o sfruttare in qualche modo i minori. Aggiorniamo di continuo i nostri algoritmi per lottare contro queste minacce in continua evoluzione.
Applichiamo protezioni aggiuntive alle ricerche mirate a trovare materiale pedopornografico. Filtriamo i risultati sessuali espliciti se la query di ricerca sembra essere rivolta all'individuazione di materiale pedopornografico. Inoltre, per le query relative a contenuti espliciti per adulti, la Ricerca non restituisce immagini che includono minorenni, in modo da impedire l'associazione tra minori e contenuti di natura sessuale. In molti paesi, agli utenti che inseriscono query chiaramente correlate a materiale pedopornografico viene mostrato un avviso in evidenza che indica che le immagini pedopornografiche sono illegali, con informazioni su come segnalare questi contenuti a organizzazioni attendibili come l'Internet Watch Foundation nel Regno Unito, il Canadian Centre for Child Protection e Te Protejo in Colombia. Quando vengono mostrati questi avvisi, gli utenti sono meno propensi a continuare la ricerca di questo materiale.
Link pertinenti -
La lotta contro lo sfruttamento dei minori nei video e nei materiali di YouTube
Le nostre norme hanno sempre condannato fermamente video, playlist, miniature e commenti su YouTube che sfruttano i minori o attribuiscono loro connotazioni sessuali. Utilizziamo sistemi basati sul machine learning per individuare in modo proattivo le violazioni di queste norme e i nostri revisori umani in tutto il mondo rimuovono velocemente i contenuti in violazione identificati dai nostri sistemi o segnalati dagli utenti o dai nostri segnalatori attendibili.
Ci rendiamo conto che, anche se non violano le nostre norme, alcuni contenuti raffiguranti minori potrebbero metterli a rischio ed esporli a sfruttamento online o offline. Per questo motivo, abbiamo deciso di adottare un approccio particolarmente attento per quanto riguarda l'applicazione di queste norme. I nostri sistemi basati sul machine learning ci aiutano a identificare in modo proattivo i video che possono mettere a rischio i minorenni e ad applicare le nostre protezioni su larga scala, ad esempio limitando le funzionalità dal vivo e i video consigliati o disattivando i commenti.
Link pertinenti -
Il nostro rapporto sulla trasparenza relativo al materiale pedopornografico
Nel 2021, abbiamo lanciato un rapporto sulla trasparenza che descrive le iniziative di Google nella lotta contro il materiale pedopornografico online e include il numero di segnalazioni che abbiamo effettuato al NCMEC. Il rapporto fornisce inoltre dati in merito alle misure che adottiamo su YouTube, a come rileviamo e rimuoviamo dalla Ricerca i risultati relativi a materiale pedopornografico e a quanti account vengono disattivati per violazioni correlate a materiale pedopornografico sui nostri servizi.
Il rapporto sulla trasparenza include anche informazioni sul numero di hash di materiale pedopornografico che condividiamo con il NCMEC. Questi hash aiutano altre piattaforme a identificare il materiale pedopornografico su vasta scala. Contribuire a migliorare il database di hash del NCMEC è uno dei modi importanti con cui Google e altre aziende del settore possono impegnarsi sul fronte della lotta contro il materiale pedopornografico, in quanto ciò aiuta a ridurre la circolazione di questo materiale e il conseguente ripetersi di abusi nei confronti di minori già vittime di questi comportamenti.
Link pertinenti
