pexels-photo-1111370

Online Harassment

Riflettevo su un post su facebook, riguardante i messaggi inappropriati sulle piattaforme social. Un fenomeno che coinvolge le donne per vero e proprio sexual harassment, e gli uomini, perseguitati da bot sexy e account falsi, con coinvolgimenti ricattatori e criminali.

Risolvere la questione dal punto di vista dell’Intelligenza Artificiale potrebbe essere plausibile, ma si pongono come al solito dei problemi di privacy e di etica dell’uso dei dati.

Il primo problema che si pone è il dataset: occorrerebbe raccoglierne uno dai messaggi privati degli utenti, anonimizzarlo ed utilizzarlo per addestrare un paio di AI, una per i messaggi e una per le foto.

Le AI potrebbero mettere in “SPAM” direttamente le richieste contenenti messaggi sconvenienti e ridurre così l’impatto del fenomeno.

La stessa AI potrebbe intervenire proattivamente evidenziando al mittente che il messaggio con quei termini o quelle immagini sarà inviato in spam e forse andrà perduto. Questo potrebbe convincere l’utente a desistere.

La funzionalità per il ricevente dovrebbe essere disattivabile per tutti o alcuni utenti, in modo di consentire a chi vuole di scambiarsi i messaggi che entrambi desiderano.

Cosa ne pensate? Dareste il permesso alle piattaforme di usare le vostre chat e le vostre segnalazioni per addestrare un’AI del genere? La funzionalità è troppo ispirata al grande fratello?

Riflettiamoci.

Lascia un commento