Google Messaggi introduce un filtro contro i contenuti espliciti

Google Messaggi introduce una nuova funzione progettata per schermare automaticamente immagini esplicite o comunque inopportune. Questo strumento, paragonabile a un filtro per contenuti sensibili, oscura le foto considerate sospette prima che siano visibili, riducendo il rischio di esposizione involontaria a materiale non consensuale o offensivo.

Secondo quanto emerso, il meccanismo dovrebbe attivarsi in background: quando un messaggio con allegato multimediale viene ricevuto da Google Messaggi, l’algoritmo di Google analizza il contenuto in tempo reale, identificando elementi riconducibili a nudità, contenuti sessualmente espliciti o altri materiali sensibili.

Se rileva potenziali violazioni della policy, l’immagine viene immediatamente offuscata, accompagnata da un avviso che ne sconsiglia l’apertura. L’utente mantiene comunque il controllo finale, potendo decidere se visualizzare il contenuto o ignorarlo.

Filtro contro i contenuti espliciti: una funzione da non sottovalutare

Questa novità risponde a un’esigenza concreta: secondo studi recenti, il 15-20% degli utenti di app di messaggistica ha ricevuto almeno una volta materiale esplicito non richiesto, con conseguenze psicologiche (e non solo). Google, già attiva con strumenti come la protezione RCS e la crittografia end-to-end, rafforza così il suo impegno verso un ecosistema digitale più rispettoso.

A differenza dei semplici filtri spam o delle opzioni di blocco manuale, questa soluzione sfrutta l’Intelligenza Artificiale per un’analisi contestuale, distinguendo tra contenuti espliciti consensuali (ad esempio tra ex partner) e quelli indesiderati. Inoltre, l’integrazione con le policy di Google assicura aggiornamenti continui, adattandosi a nuove forme di abuso o a tattiche di elusione.

L’iniziativa potrebbe influenzare anche l’operato di altri colossi tecnologici, spingendo verso standard più rigorosi. Apple, ad esempio, ha già introdotto funzioni simili in iMessage, ma il passo di Google è significativo per la sua portata globale: Messaggi è infatti preinstallato su milioni di dispositivi Android in tutto il mondo.

Va comunque detto come un sistema così innovativo possa comportare il rischio relativo a falsi positivi. Per esempio, l’algoritmo potrebbe bloccare innocui screenshot medici o opere d’arte, creando disagi agli utenti. Google assicura che il sistema è stato “addestrato” al fine di minimizzare questi errori, ma invita gli utenti a segnalare eventuali problemi tramite feedback diretti.