FaceApp i varmt vann for å utvikle en rasistisk AI

Da Wireless Lab - et russisk selskap - lanserte FaceApp, trodde de åpenbart at folk ville elske det. Helt ærlig har appen mange ting som gjør det, med AI-basert bildebehandling som kan gi fantastiske fotorealistiske effekter til dine selfies..

På ansiktet (ingen ordspill ment), høres FaceApp ut som en fantastisk app. Brukere kan bare klikke på en selfie, eller importere et bilde fra galleriet sitt, og bruke de forskjellige AI-assisterte filtre for å endre uttrykk, se eldre eller yngre ut osv. Pokker, det er til og med et filter for å bytte kjønn (som fungerer ganske bra, for å være ganske ærlig).

Appen kom imidlertid under skudd på Twitter og andre sosiale medier, da brukere begynte å rapportere at “Hotness” -filteret i appen lette brukernes hud. Det er utrolig rasistisk, og har noen urovekkende konnotasjoner om den underliggende ideen om "hotness" i samfunnet ... eller hos Wireless Lab, siden de brukte sitt private datasett for å trene AI, i stedet for et offentlig datasett.

Til sin kreditt var Wireless Lab raskt på opptaket, og sendte en e-posterklæring som beklaget algoritmen, med grunnlegger og administrerende direktør “Yaroslav Goncharov” går så langt som å kalle det “Et utvilsomt alvorlig problem”, men å forsvare appen ved å hevde at problemet oppstod på grunn av "treningssett bias", og at det ikke var en forsettlig oppførsel.

Wireless Lab har endret navnet på det aktuelle filteret fra "Hotness" til "Spark" som en midlertidig løsning, med en mer permanent løsning snart. Det som er rart, er imidlertid at mens FaceApp har kommet under ubarmhjertig ild på sosiale medier, er Play Store fremdeles full av folk som lurer på hvorfor "hotness" -filteret er fjernet, og går så langt som å be utviklerne om å "ignorere hatere ”. Det er klart at menneskeheten må fikses.