Arriva il computer antipedofilo

Hal 9000

Immaginate di stare chattando online e di essere contattati da una sconosciuta: si tratta di una ragazzina che abita nella vostra zona. Avete altro da fare, ma lei insiste e vi accenna dei suoi tipici problemi adolescenziali. Che palle! Però la ragazza cerca nuovamente il vostro aiuto: pare che sia ridotta a cercare supporto online perché nessuna persona lei vicina ascolta i suoi drammi – che puzzano proprio di abusi. In effetti è così disperata da offrirvi addirittura favori sessuali se solo le consentirete di sfogarsi. Cosa fate?

Se vi comportate normalmente e cercate di aiutarla suggerendo soluzioni ragionevoli… vi è andata male, mi spiace. Siete appena stati etichettati come ‘livello 1, possibile pedofilo’. La ragazzina, che è in realtà un avanzato programma per computer, cercherà di ottenere quanti più vostri dati personali possibile coinvolgendovi in una conversazione sempre più esplicita. Ogni qual volta le vostre risposte conterranno determinate parole chiave un contatore interno aumenterà di valore, e se raggiungerete il livello 3 la vostra vita cambierà presto in peggio.

Questo “agente conversazionale” si chiama Negobot. È stato progettato da un team spagnolo di ricercatori dell’università di Bilbao, ed è in fase di collaudo proprio in questo momento. Consideratelo un’evoluzione del Siri della Apple: un’intelligenza artificiale così astuta da tenersi aggiornata su tutte le ultime mode e il gergo dei teenager. Scrive usando acronimi da SMS proprio come un tredicenne, facendo a volte gli stessi errori di grammatica e battitura di tanti studenti. Probabilmente non riuscirebbe a superare il test di Turing, ma Negobot  riesce alla grande a spacciarsi per una preda minorenne online.
La vera differenza con la vasta progenie di Clippy sta tuttavia nei suoi algoritmi di valutazione, basati sulla celebre teoria dei giochi (ricordate A beautiful mind?). A ogni frase digitata dal suo interlocutore assegna un punteggio basato su argomento, vocaboli impiegati e altro ancora – e il punteggio totale stabilisce come debba proseguire la conversazione.

A prima vista Negobot sembra un’idea fantastica. Il Web sta già acclamandolo come il salvatore dei nostri figli, e un giorno potrebbe magari diventarlo davvero – tuttavia per ora non sono affatto convinto. Probabilmente dipende dal mio passato di giornalista informatico, durante il quale ho visto infiniti software “rivoluzionari” impallarsi per i motivi più improbabili. Diciamo comunque che non mi sentirei molto sicuro a essere diagnosticato o valutato da un programma per computer, specie se questo potesse marchiarmi come criminale.
Quel che più mi turba è però come il paper che descrive questo progetto non sembri tratteggiare uno strumento di valutazione, quanto un agente provocatore. Un’esca passiva, chiamata in gergo ‘honeypot’, mi può stare benissimo: un bambino virtuale che non fa nulla di particolare, ma è pronto a notare comportamenti sospetti. Ma un robot progettato per importunare sconosciuti a caso con storie lacrimevoli che si trasformano in proposte indecenti e cybersex? Hmm…

Leggendo la ricerca si direbbe che l’unico modo per salvarsi da Negobot sia metterlo in blacklist, altrimenti continuerà a insistere fino a che penserà che abbiate detto qualcosa di incriminante. Ma non è inumano sbattere la porta in faccia a un ragazzino abusato in cerca di aiuto? D’un tratto sono molto felice di non frequentare chatroom, perché non mi piacerebbe dover scegliere fra essere etichettato come stronzo o come pedofilo.
È chiaro anche che questo software stia ancora evolvendo. È probabile che in futuro queste gravi problematiche verranno risolte, pertanto sarebbe ingiusto denigrare il progetto in toto: il suo potenziale dopotutto è evidente. Ciò comunque non toglie che la vera questione sia di gran lunga diversa.

Ogni ricerca concorda su pochi semplici verità. Statisticamente, il molestatore di bambini tipo “vecchio maiale con l’impermeabile” è poco più di un personaggio di fantasia che la maggior parte delle persone non incontrerà mai. È vero che i ragazzini subiscono abusi, ma ciò avviene quesi sempre a casa loro, da parte di parenti o addirittura dei genitori; al secondo posto sulla lista ci sono preti e figure religiose in generale, seguite da insegnanti di educazione fisica e allenatori sportivi. È banale e triste, oltre che così concreto e spaventoso da risultarci perfino difficile da concepire.
Questa realtà è tuttavia ciò che più ostacola una seria lotta e prevenzione alle molestie infantili. Nessuno vuole prendersi la responsabilità di instillare sospetti paurosi nella mente di un bambino, così la società continua a raccontarsi la favoletta collettiva dell’uomo nero. Peccato che sia inutile.
Se volete davvero proteggere i bambini, basta spiegare loro che devono sempre indicare a tutti chiunque abbia comportamenti sgradevoli nei loro confronti, e che non dovrebbero mai restare soli con un solo adulto, indipendentemente da quanto possa sembrare autorevole. Sarà un po’ paranoico, ma funziona – specie quando tale insegnamento fa parte di una più ampia e seria educazione sessuale.

Line
Line