Le intelligenze artificiali stanno diventando sempre più presenti nelle decisioni di ammissione alle università. Però, se i dati su cui si allenano contengono pregiudizi, anche gli algoritmi li ripropagano, creando ingiustizie verso gruppi vulnerabili. Per affrontare questo problema, un team di ricercatori ha sviluppato un metodo interattivo che permette a chi usa il modello di “regolare” i bias in tempo reale.
Il progetto parte da un dataset di ammissioni di sei anni di una grande università urbana. I ricercatori hanno addestrato diversi modelli di machine learning per prevedere chi sarebbe stato accettato. Poi hanno analizzato come questi modelli trattavano tre gruppi sensibili: genere, etnia e studenti di prima generazione.
La novità sta nel coinvolgere l’utente: attraverso un’interfaccia, l’operatore può vedere le metriche di bias (ad esempio la disparità di tasso di accettazione) e modificare i parametri di addestramento. Ogni aggiustamento genera un nuovo modello, più equilibrato secondo i criteri scelti. In tre scenari di prova, il sistema è riuscito a ridurre significativamente le disparità, senza compromettere troppo l’accuratezza delle previsioni.
Questo approccio dimostra che la trasparenza e la partecipazione umana possono rendere le AI più affidabili, soprattutto in ambiti delicati come l’istruzione superiore. L’interazione continua tra esperti e algoritmo apre la strada a decisioni più consapevoli e meno discriminatorie.
