Vest iz Danasa za danas: San Francisko prvi rekao NE tehnologiji prepoznavanja lica
Piše: BBC News na srpskom 15. maja 2019. 09.06, https://www.danas.rs/bbc-news-serbian/san-francisko-prvi-zabranio-tehnologiju-prepoznavanja-lica/
Pristupljeno 15.5.2019
Na predavanjima iz uvoda u Big Data (vidi na ovom blogu pod NASTAVA), navedeno je da video analitika može da se klasifikuje unutar Big Data analitike.
Video analitika uključuje različite tehnike za kontrolu, analizu i ekstrakciju informacija iz nestrukturiranih video podataka (video streams).
Vrhunski automatizovani sistemi za video analizu integrišu i uče na osnovu setova podataka koji su im dostupuni iz različitih (Big Data) izvora (senzora i kamera, pre svega).
Napredniji sistemi mogu da prikupljaju demografske informacije o pojedincima, kao što su starost, pol i etnička pripadnost
Glavni izazov pri implementaciji ovih sistema predstavlja automatsko video indeksiranje i pronalaženje objekata (uključujući i lica), koje se može izvršiti na osnovu različitih nivoa informacija dostupnih na fotografijama, u video sadržaju, uključujući metapodatke, zvučni zapis, transkripte i vizualni sadržaj videa u (gotovo) realnom vremenu.
Reference:
- Hakeem A. et al. (2012). Video Analytics for Business Intelligence. In: Shan C., Porikli F., Xiang T., Gong S. (eds) Video Analytics for Business Intelligence. Studies in Computational Intelligence, vol 409. Springer, Berlin, Heidelberg
- Shan, C. F. Porikli, T. Xiang, S. Gong (Eds.) (2012). Video analytics for business intelligence, Springer, Berlin, Heidelberg (2012). pp. 309-354
Posebno je intrigantna primena sistema za prepoznavanja lica, koja podrazumeva utvrđivanja identiteta pojedinca na osnovu specifičnih detalja njegovog lica.
Intrigantnost se ogleda u dve dimenzije:
- pitanje (zloupotrebe) privatnosti
- pitanje greške u identifikovanju
Pitanje zloupotrebe i zaštite kako bi se onemogućio pristup podacima od strane neovlašćenih lica, na nivou Evropske unije uređuje Uredba (EU) 2016/679 Evropskog parlamenta i Saveta, iz aprila 2016 (General Data Protection Regulation). Uredba o zaštiti fizičkih lica u odnosu na obradu podataka o ličnosti i o slobodnom kretanju takvih podataka se od 25.05.2018. primenjuje i u Republici Srbiji.
Pitanje greške u identifikovanju (lica) je mnogo kompleksnije i ne može se lako urediti. Ovde se otvara Pitanje pristrasnosti, generalno u primeni analitičkih metoda u domenu veštačke inteligencije (VI).
Pred nama je jednostavan, a dovoljno ilustrativan primer te pristrasnosti (greške).
Suštinski, rešenje (sistem, program, softver) za (automatsko ili automatizovano) prepoznavanje lica radi tako što beleži specifične detalje jednog lica, kao što su: razmak između očiju, oblik nosa, brade i sl. koje “meri” i upoređuje sa postojećim podacima koji se čuvaju u bazama podataka, i tako “prepoznaje” određeno lice.
Već je intuitivno jasno da su potencijalni izvori grešaka u identifikovanju lica značajni i mnogostruki. Posebno što analitika na kojoj se rešenje bazira ostaje crna kutija za (stručnu) javnost.
Vidi više o pitanju pristrasnosti (bias):
https://www.rand.org/pubs/research_reports/RR1744.html
https://towardsdatascience.com/what-is-ai-bias-6606a3bcb814
Zato ne iznenađuje korak na koji su se rešili zakonodavci San Franciska izglasavši zabranu korišćenja tehnologije prepoznavanja lica. U obrazloženju se navodi da je “tehnologija puna nedostataka, da je nepouzdana i da se uz pomoć nje nepotrebno krši privatnost i sloboda ljudi.
Sistem je sklon greškama, posebno kada se radi o ženama ili muškarcima koji imaju tamniju boju kože”. Pretpostavljajući u kom pravcu je išla pristrasnost, možemo da razumemo odlučnost čelnika San Franciska. Met Kejgl iz Američkog udruženja za građanske slobode u severnoj Kaliforniji ukazao je na sukob demokratije i tehnologije: „Ovakvim glasanjem San Francisko je jasno pokazao da je tehnologija za prepoznavanje lica nespojiva sa demokratijom i da građani zaslužuju da kažu šta misle o ovakvoj vrsti nadzora“.
Naravno, evidentan je žal onih koji su protiv jedne ovakve odluke, što je vidljivo iz navoda da je „… ovim potezom ugrožena sigurnost ljudi i da će se stopa kriminala povećati. Umesto zabrane, mislimo da bi odlaganje bilo prikladnije”.
Kao opšti zaključak ove storije navešću izjavu Džoela Engardiona, potpredsednika organizacije „Stop kriminalu“ San Franciska: „Tehnologija bi mogla da se unapredi i bila bi korisna za javnu bezbednost, ukoliko se s njom radi pravilno“.
Na kraju dodajmo da se nova odluka o zabrani korišćenja tehnologije prepoznavanja lica (koja će postati deo zakona nakon drugog kruga glasanja koje se održava sledeće nedelje) neće primenjenivati na aerodromu i u luci u San Francisku. Izgleda da i (ne) pristrasnost ima svoje granice.
P. S. Prema natpisima u štampi, u Beogradu je početkom 2019. godine instaliran „jedan broj“ novih kamera za “video-nadzor saobraćaja” koje mogu da snime i lica ljudi za volanom. Ovim je otpočeo projekat koji realizuje kompanija “Huavej”, a u skladu sa međudržavnim ugovorom, čije su potpisnice Srbija i Kina.