Google Maps i India viser sjokkerende jenteskoler, herberger når du søker etter tisper

Google Maps er åpenbart den mest populære kart- og navigasjonsappen, ikke bare på Android, men også på iOS. Det er go-to-appen for å få veibeskrivelse og se etter bensinpumper, restauranter eller sykehus i nærheten. En Twitter-bruker har imidlertid snublet over et nedsettende søk som setter Googles søkealgoritme i tvil, spesielt fordi det etterlater små barn sårbare.

Som rapportert av Twitter-bruker @AHappyChipmunk, hvis du åpner Google Maps og søker etter "tisper i nærheten av meg", og søkeresultatet er forferdelig. Plattformen tar opp denne nedsettende slangen (som vi fordømmer) og viser jenteskoler, høyskoler, herberger og betalende gjesteleiligheter, noe som gjør at du bare tar en pause. I et land som India hvor det nedsettende N-ordet brukes av uvitende deler av befolkningen for å vise frem, er ikke søkeord som tisper vanskelig å forestille seg.

Google, kan du forklare hvorfor denne jævla eksisterer pic.twitter.com/w0eslFoVSz

- 🌻compañero avalakki ✨ (@Woolfingitdown) 25. november 2018

Denne tweeten kommer som en forferdelig overraskelse, men å se logoen til en troll-Twitter-konto (@trollenku) gjorde meg skeptisk til ovennevnte tweet, og jeg trodde først at det var en vits. Bare ved å bruke det samme søkeordet selv, innså vi at det ikke bare er skoler - Googles algoritme returnerer hvert sted i nærheten av deg som er relatert til jenter - inkludert kun utleie av jenter og andre herberger.. 

Det samme gjelder for Google-søk etter denne setningen:

Man trenger å forstå at ingen personer i Google er ansvarlige for dette. Googles algoritme ser ut til å korrelere tisper til jenter, noe som igjen setter spørsmålstegn ved skjevheten til AI. Tross alt vil en maskin bare lære det du lærer den.

De søkeresultat viser den mørke siden av AI og hvordan popkultur kan føre til at du forbinder visse begreper med et bestemt kjønn. Det fremhever også hvordan menneskene som lager disse søkealgoritmene tenker. Google bør være spesielt forsiktig etter masseansattes walkout relatert til seksuell trakassering på kontorene sine tidligere denne måneden. Den påståtte 'brokulturen' hos Google har også tjent det en søksmål eller to. Og denne siste AI-gaffe kommer på et tidspunkt hvor synligheten forsterkes takket være # MeToo-bevegelsen i India.

Mange har twitret til Google for mer informasjon om denne algoritmen. Vi vil gi deg oppdateringen når vi får svar fra selskapet.