pexels-photo-3586873

Combattere contro i bias

Riflettevo su un parallelo interessante tra le Intelligenze Artificiali e la vita in azienda. In entrambi sono tenuto, per etica del lavoro e personale, a stare attento ad eventuali bias e correggerli.

Nei dataset delle AI, i bias non sono rari e spesso si manifestano nel peggiore dei modi: discriminando qualcuno.

Gli esempi sono all’ordine del giorno nelle cronache: sistemi di HR che valutando curriculum escludevano donne o persone di colore, sistemi di gestione del credito che facevano la stessa cosa, tra quelli più eclatanti.

Oggi quando creiamo un piano per l’adozione dell’AI in una nuova nicchia dell’azienda in cui lavoriamo, o quando creiamo un prodotto per aziende che faccia uso dell’Intelligenza Artificiale, dobbiamo, in analisi, anche tenere conto dei possibili bias a cui andremo incontro ed evitare che questi inquinino i nostri dati.

Ragionandoci però occorre essere onesti con noi stessi e valutare quali bias abbiamo in azienda, o presso il nostro cliente se i dati sono i suoi, e concretamente testare i dati per capire se sono soggetti a bias discriminatori nelle decisioni che prenderà l’AI.

Se per esempio il nostro sistema è addestrato con le nostre assunzioni precedenti, e finora abbiamo assunto solo uomini, milanesi, trentenni, non possiamo aspettarci che l’AI crei da sola un modello più inclusivo e che tenga conto della necessaria diversità in azienda.

Se l’AI è per il sales e finora abbiamo venduto a “maschio, etero, bianco”, non possiamo pensare che l’AI proverà a migliorare i lead rivolgendosi ad altri target di pubblico.

Questa analisi però mostra anche il lato oscuro aziendale: e ci permette di apportare le necessarie misure correttive: come mai non abbiamo curato meglio la diversità? Come mai le donne sono poche? È un’azienda o il club della caccia ottocentesco?

E quando si inizia a pensare a tutto questo: quali sono gli esempi virtuosi e quelli cattivi in azienda? Qualcuno ha atteggiamenti razzisti, misogini, sessisti in azienda? Dobbiamo assolutamente correggerli ed evitare che si propaghino sia all’interno che all’esterno. Parliamo di questioni minime, non di brand purpose. Parliamo di civiltà.

E dall’azienda una mente analitica non può che passare al sé. Io di che reati mi macchio? Sono una persona civile e corretta sempre? Ce l’ho con qualche categoria di persone, siano essi gli androidiani o gli juventini? Posso correggere questa mia deviazione?

Pensiamoci tutti e le nostre AI, le nostre aziende, il nostro mondo, sarà migliore, di quel millimetro di cui parlo sempre.

Aggiungo un link che mi è stato segnalato da Leo Cascio discutendo di questo articolo e che reputo molto interessante: A proposito di bias

One thought on “Combattere contro i bias

Lascia un commento