Kada je nešto loše, algoritmom se ne popravlja

Kada je izgledalo da zbog Covid-19  pandemije đaci i studenti ne mogu lično da polažu ispite, u Velikoj Britaniji su pokušali da nađu alternativu za polaganje prijemnog ispita na univerzitete. Nastavnici su već predvideli ocene svojih učenika, ali prethodne studije su pokazale da bi one mogle biti pristrasne na osnovu starosti, pola i etničke pripadnosti. Posle niza stručnih panela i konsultacija, odlučeno je da Kancelarija za regulaciju kvalifikacije i ispita (The Office of Qualifications and Examinations Regulation)  primeni svojevrsni algoritam sa zadatkom da proceni rezultate ispita (ocene) za svakog učenika.

Rezultat: Skoro 40% učenika dobilo je ocene niže u odnosu na predviđanja nastavnika, preteći da će ih to koštati mesta na univerzitetima. Analiza algoritma je takođe otkrila da je negativnu pristrasnot za učenike iz radničkih klasa i zajednica, dok je  naduvao rezultate učenika iz privatnih škola.

16. avgusta, stotine su skandirale „“Fuck the algorithm” ispred zgrade resornog ministarstva (UK’s Department of Education) u znak protesta zbog rezultata.

Sutradan je Kancelarija poništila svoju odluku – „After reflection, we have decided that the best way to

Reakcija – izdvojiću objavu Kraljevskog statističkog društva (The Royal Statistical Society) koje je pozvalo na hitnu reviziju statističkih postupaka koji se koriste u Engleskoj i Škotskoj, a koju bi trebalo da sprovedu stručnjaci njihovog  „zavoda za statistiku“ (UK Statistics Authority).

Joy Mustafi, Chief Data Scientist of Aviso

Ranked as one of India’s 10 top data scientists by Analytics India Magazine,  Joy Mustafi has led data science research at tech giants including Salesforce, Microsoft, and IBM, winning 50 patents and authoring over 25 publications on AI.

He was associated with IBM for a decade as Data Scientist involved in a variety of business intelligence solutions, including IBM Watson. He worked as Principal Applied Scientist at Microsoft, responsible for AI research. Most recently, Mustafi was the Principal Researcher for Salesforce’s Einstein platform.