Rezultati novog istraživanja otkrili su da umjetna inteligencija (AI) može identificirati nečiju rasu samo na temelju rendgenskih snimki. Tako nešto ne mogu iz tih slika iščitati ni liječnici, piše Science Alert.
Ti rezultati zabrinuli su znanstvenike jer su se postavila pitanja o ulozi umjetne inteligencije u medicinskoj dijagnozi, procjeni i liječenju, poput onog: "Može li računalni softver nenamjerno primijeniti rasnu pristranost prilikom proučavanja slika poput ovih?".
Nakon što je međunarodni tim zdravstvenih istraživača iz SAD-a, Kanade i Tajvana "podučio" umjetnu inteligenciju koristeći stotine tisuća postojećih rendgenskih snimki označenih detaljima rase pacijenta, testirao ga je na rendgenskim slikama koje računalni softver do tada nije vidio, niti je imao ikakve informacije o njemu.
Umjetna inteligencija jasno je odredila rasni identitet pacijenta s iznenađujućom točnošću, čak i na snimkama koji su uzeti od ljudi iste dobi i istog spola. AI je završio ispitivanje s točnošću od 90 posto.
Sporna rasna pristranost
"Namjeravali smo provesti sveobuhvatnu procjenu sposobnosti umjetne inteligencije da prepozna pacijentov rasni identitet s medicinskih slika", istaknuli su istraživači.
"Pokazali smo da se standardni AI modeli metodom dubokog učenja mogu osposobiti za predviđanje rase na temelju medicinskih slika", kazali su.
Nakon revolucionarnih rezultata koje je pokazalo istraživanje, postavilo se pitanje "Može li računalni softver nenamjerno primijeniti rasnu pristranost prilikom proučavanja slika poput ovih?".
Istraživači su podsjetili na rezultate prethodne studije koja je otkrila da će skenovi rendgenskih snimaka koje je napravila umjetna inteligencija Najvjerojatnije zanemariti znakove bolesti kod crnaca. Kako bi se to spriječilo, znanstvenici moraju razumjeti zašto se to uopće događa.
Nužna su daljnja istraživanja
Umjetna inteligencija oponaša ljudsko razmišljanje kako bi brzo uočila obrasce u podacima. Ipak, to također znači da može nesvjesno podleći istim vrstama predrasuda. Da stvar bude još gora, zbog njihove složenosti iznimno je teško iz njih otkloniti te predrasude.
Znanstvenici trenutno nisu sigurni zašto je AI tako dobar u prepoznavanju rase na slikama koje ne sadrže informacije o tome. Pretpostavljaju da je to zato što sustav možda pronalazi znakove melanina, pigmenta koji koži daje boju, a koji su znanosti još nepoznati.
Ovo novo istraživanje dalo je još jedan u nizu dokaza da sustavi umjetne inteligencije mogu često odražavati pristranosti i predrasude ljudskih bića, poput rasizma, seksizma ili nečeg drugog.
"Moramo napraviti pauzu", istaknuo je jedan od istraživača, znanstvenik i liječnik Leo Anthony Celi. "Ne smijemo žuriti s uvođenjem algoritama u bolnice i klinike dok ne budemo sigurni da ne donose rasističke ili seksističke odluke."
