Sarah Cen, studentessa del Laboratory for Information and Decision Systems (LIDS), ricorda la lezione che l’ha portata a una domanda a monte.
In una conferenza sull’intelligenza artificiale etica, il relatore ha sollevato una variazione sul famoso problema del carrello, che delinea una scelta filosofica tra due esiti indesiderati.
Scenario dell’oratore: supponiamo che un’auto a guida autonoma stia percorrendo un vicolo stretto con una donna anziana che cammina da un lato e un bambino piccolo dall’altro, e non c’è modo di infilarsi tra i due senza una fatalità. Chi dovrebbe colpire l’auto?
Poi l’oratore ha detto: facciamo un passo indietro. È questa la domanda che dovremmo anche porci?
È allora che le cose sono scattate per Cen. Invece di considerare il punto di impatto, un’auto a guida autonoma avrebbe potuto evitare di scegliere tra due esiti negativi prendendo una decisione in precedenza – l’oratore ha sottolineato che, entrando nel vicolo, l’auto avrebbe potuto determinare che lo spazio era stretto e rallentato a una velocità tale da tenere tutti al sicuro.
Riconoscendo che gli attuali approcci alla sicurezza dell’IA spesso assomigliano al problema del carrello, concentrandosi sulla regolamentazione a valle come la responsabilità dopo che qualcuno è rimasto senza buone scelte, Cen si è chiesto: e se potessimo progettare migliori salvaguardie a monte ea valle per tali problemi? Questa domanda ha informato gran parte del lavoro di Cen.
“I sistemi di ingegneria non sono dissociati dai sistemi sociali su cui intervengono”, afferma Cen. Ignorare questo fatto rischia di creare strumenti che non sono utili una volta implementati o, cosa più preoccupante, dannosi.
Cen è arrivato a LIDS nel 2018 attraverso un percorso leggermente circolare. Si è appassionata alla ricerca per la prima volta durante la sua laurea all’Università di Princeton, dove si è laureata in ingegneria meccanica. Per il suo master, ha cambiato corso, lavorando su soluzioni radar nella robotica mobile (principalmente per auto a guida autonoma) presso l’Università di Oxford. Lì, ha sviluppato un interesse per gli algoritmi di intelligenza artificiale, curiosa di sapere quando e perché si comportano male. Quindi, è venuta al MIT e alla LIDS per la sua ricerca di dottorato, lavorando con il professor Devavrat Shah nel Dipartimento di ingegneria elettrica e informatica, per una più solida base teorica nei sistemi informativi.
Controllo degli algoritmi dei social media
Insieme a Shah e ad altri collaboratori, Cen ha lavorato a un’ampia gamma di progetti durante il suo periodo in LIDS, molti dei quali si collegano direttamente al suo interesse per le interazioni tra umani e sistemi computazionali. In uno di questi progetti, il Cen studia le opzioni per la regolamentazione dei social media. Il suo recente lavoro fornisce un metodo per tradurre i regolamenti leggibili dall’uomo in audit implementabili.
Per avere un’idea di cosa significhi, supponiamo che le autorità di regolamentazione richiedano che qualsiasi contenuto di salute pubblica, ad esempio sui vaccini, non sia molto diverso per gli utenti politicamente di sinistra e di destra. In che modo gli auditor dovrebbero verificare che una piattaforma di social media sia conforme a questo regolamento? È possibile rendere una piattaforma conforme al regolamento senza danneggiarne i profitti? E in che modo la conformità influisce sul contenuto effettivo che gli utenti vedono?
Progettare una procedura di auditing è in gran parte difficile perché ci sono così tante parti interessate quando si tratta di social media. Gli auditor devono ispezionare l’algoritmo senza accedere ai dati sensibili dell’utente. Devono anche aggirare segreti commerciali complicati, che possono impedire loro di dare un’occhiata da vicino all’algoritmo stesso che stanno controllando perché questi algoritmi sono protetti legalmente. Entrano in gioco anche altre considerazioni, come il bilanciamento della rimozione della disinformazione con la protezione della libertà di parola.
Per far fronte a queste sfide, Cen e Shah hanno sviluppato una procedura di auditing che non richiede altro che l’accesso da una scatola nera all’algoritmo dei social media (che rispetta i segreti commerciali), non rimuove i contenuti (che evita problemi di censura) e non richiede accesso agli utenti (che preserva la privacy degli utenti).
Nel processo di progettazione, il team ha anche analizzato le proprietà della propria procedura di auditing, scoprendo che garantisce una proprietà desiderabile che chiamano solidità decisionale. Come buona notizia per la piattaforma, mostrano che una piattaforma può superare l’audit senza sacrificare i profitti. È interessante notare che hanno anche scoperto che l’audit incentiva naturalmente la piattaforma a mostrare agli utenti contenuti diversi, che è noto per aiutare a ridurre la diffusione della disinformazione, contrastare le camere d’eco e altro ancora.
Chi ottiene buoni risultati e chi ottiene cattivi?
In un’altra linea di ricerca, il Cen esamina se le persone possono ottenere buoni risultati a lungo termine quando non solo competono per le risorse, ma non sanno anche in anticipo quali sono le risorse migliori per loro.
Alcune piattaforme, come le piattaforme per la ricerca di lavoro o le app per la condivisione di corse, fanno parte di quello che viene chiamato mercato di corrispondenza, che utilizza un algoritmo per abbinare un insieme di individui (come lavoratori o motociclisti) con un altro (come datori di lavoro o conducenti ). In molti casi, gli individui hanno preferenze corrispondenti che apprendono attraverso tentativi ed errori. Nei mercati del lavoro, ad esempio, i lavoratori apprendono le loro preferenze sui tipi di lavoro che desiderano e i datori di lavoro apprendono le loro preferenze sulle qualifiche che cercano dai lavoratori.
Ma l’apprendimento può essere interrotto dalla concorrenza. Se ai lavoratori con un background particolare viene ripetutamente negato il lavoro nel settore tecnologico a causa dell’elevata concorrenza per i lavori tecnologici, ad esempio, potrebbero non ottenere mai le conoscenze di cui hanno bisogno per prendere una decisione informata sull’opportunità di lavorare nel settore tecnologico. Allo stesso modo, i datori di lavoro tecnologici potrebbero non vedere e imparare mai cosa potrebbero fare questi lavoratori se venissero assunti.
Il lavoro di Cen esamina questa interazione tra apprendimento e competizione, studiando se è possibile che gli individui su entrambi i lati del mercato di abbinamento se ne vadano felici.
Modellando tali mercati di corrispondenza, Cen e Shah hanno scoperto che è effettivamente possibile ottenere un risultato stabile (i lavoratori non sono incentivati a lasciare il mercato di corrispondenza), con scarso rimpianto (i lavoratori sono contenti dei loro risultati a lungo termine), equità ( la felicità è equamente distribuita) e un elevato benessere sociale.
È interessante notare che non è ovvio che sia possibile ottenere contemporaneamente stabilità, basso rimpianto, equità e benessere sociale elevato. Quindi un altro aspetto importante della ricerca è stato scoprire quando è possibile raggiungere tutti e quattro i criteri contemporaneamente ed esplorare le implicazioni di tali condizioni.
Qual è l’effetto di X su Y?
Per i prossimi anni, però, il Cen ha in programma di lavorare su un nuovo progetto, studiando come quantificare l’effetto di un’azione X su un risultato Y quando è costoso – o impossibile – misurare questo effetto, concentrandosi in particolare sui sistemi che hanno comportamenti sociali complessi.
Ad esempio, quando i casi di Covid-19 sono aumentati durante la pandemia, molte città hanno dovuto decidere quali restrizioni adottare, come mandati di mascherine, chiusure di attività o ordini di soggiorno. Dovevano agire rapidamente e bilanciare la salute pubblica con le esigenze della comunità e delle imprese, la spesa pubblica e una serie di altre considerazioni.
Tipicamente, per stimare l’effetto delle restrizioni sul tasso di infezione, si potrebbero confrontare i tassi di infezione nelle aree che hanno subito diversi interventi. Se una contea ha un mandato di mascheramento mentre la contea vicina no, si potrebbe pensare che confrontare i tassi di infezione delle contee rivelerebbe l’efficacia dei mandati di maschera.
Ma ovviamente, nessuna contea esiste nel vuoto. Se, ad esempio, le persone di entrambe le contee si riuniscono per guardare una partita di football nella contea senza maschera ogni settimana, le persone di entrambe le contee si mescolano. Queste interazioni complesse sono importanti e Sarah intende studiare questioni di causa ed effetto in tali contesti.
“Siamo interessati a come le decisioni o gli interventi influiscano su un risultato di interesse, ad esempio come la riforma della giustizia penale influisca sui tassi di detenzione o come una campagna pubblicitaria potrebbe cambiare i comportamenti del pubblico”, afferma Cen.
Cen ha anche applicato i principi della promozione dell’inclusività al suo lavoro nella comunità del MIT.
In qualità di una delle tre co-presidenti del gruppo studentesco Graduate Women in MIT EECS, ha contribuito a organizzare il vertice di ricerca GW6 inaugurale con la ricerca delle studentesse laureate, non solo per mostrare modelli positivi agli studenti, ma anche per evidenziare i numerosi successi donne laureate al MIT da non sottovalutare.
Sia nell’informatica che nella comunità, un sistema che adotta misure per affrontare i pregiudizi è un sistema che gode di legittimità e fiducia, afferma Cen. “Responsabilità, legittimità, fiducia: questi principi svolgono ruoli cruciali nella società e, in definitiva, determineranno quali sistemi dureranno nel tempo”.
