Teknologier

Amerikanske skoler bruker AI for å overvåke studenter

Amerikanske skoler bruker AI for å overvåke studenter

I løpet av de siste 10 årene har USA vært vitne til 180 skuddkonkurranser med svimlende 356 ofre. Med svakere våpenkontrollove i landet, vender skolene seg mot Kunstig intelligens (AI) for å beskytte studentene. Men et nylig AI-system som er installert i nesten 9 amerikanske offentlige skoler, ifølge Recode, ga noen personvernproblemer.

Den AI-baserte programvaren heter Appearance Search og er utviklet av et selskap som heter Avigilon. Programvaren er i stand til å finne en student på et skolecampus, basert på utseende, alder, kjønn, klær og visse ansiktsegenskaper.

Programvaren lar skoleadministrasjonen finne en student og finne mulige steder der de har vært inne på campus der det er overvåkingskameraer. Den bruker fysiske beskrivelser som alder, kjønn og hårfarge på personen. Ved å analysere egenskapene søker programvaren etter treff fra de andre videoopptakene. Så verktøyet kan ikke fortelle hvem personen akkurat er, men det kan fortelle hvor de kan ha vært i løpet av sin tid i skoleområdet.

Hvordan utseende søk fungerer

Programvaren er integrert i overvåkningssystemet til skolen. Så hvis en skoleansvarlig er vitne til mistenkelig studentaktivitet, kan han / hun klikke på den aktuelle elevens kropp for å få mer informasjon om eleven. Programvaren vil analysere studentens fysiske egenskaper som klær, kjønn, hårfarge og hva Avigilon sier noen ansiktsegenskaper. Etter å ha analysert de nevnte funksjonene, vil programvaren deretter matche bildet med et hvilket som helst bilde som har lignende egenskaper til andre kameramater.

Personvernet

Som vanlig, med AI-programvare, kommer åpenbare personvernproblemer, og denne programvaren er ikke annerledes. Mange sikkerhets- og personverneksperter har stilt spørsmålstegn ved Avigilons utseende.

"Folk oppfører seg ikke det samme når de blir overvåket," minner Brenda Leong, direktør for AI og etikk i Forum for privatlivets fred. "Vil vi virkelig at både unge studenter og videregående studenter, og noen andre, føler at de opererer i det miljøet hele tiden?"

Selv om denne programvaren skal øke sikkerheten og redusere volden i skolene, brukes den på en annen måte. Skoleadministratorer bruker dette verktøyet til å overvåke mobbing, oppførselskoder for studenter og også for å hjelpe etterforskning av skoleansatte.

Denne teknologien er ikke fullt ansiktsgjenkjenning basert, det er imidlertid en programvare som kan gjenkjenne visse funksjoner i ansiktet. Varoon Mathur, en lærer som studerer maskinlæring ved AI Now Institute, anser Appearance Search for å bruke "objektgjenkjenning". Mens Logan Koepke fra digital rights nonprofit upturn kaller det en "personoppdagelses" -programvare da den analyserer andre funksjoner hos personen og ikke utelukkende ansiktet.

Med denne programvaren i bruk på de fleste av skolene i USA, kan studentene aldri ha privatliv. Skoleadministratorer rapporterte at det ikke har vært rapporter om personverninngrep angående programvaren.

Men tidligere Marjory Stoneman Douglas videregående skole (en skole der programvaren allerede er installert), sa Koerber, ”En skoleskyting kan skje når som helst og hvor som helst. Vi vet det. Men trenger vi å invadere personvernet til hver person som melder seg på en bestemt skole for å forhindre det? Jeg tror ikke det er tilfelle. ”

Steve Jobs hjemme i 1982 [PIC]
“Dette var en veldig typisk tid. Jeg var singel. Alt du trengte var en kopp te, et lys og stereoanlegget ditt, vet du, og det var det jeg hadde. ” -...
Topp 10 mest retweetede bilder denne uken
Millioner av bilder legges ut på Twitter hver uke, og blant dem fremstår noen som de mest retweetede. Her deler vi topp 10 mest retweetede bilder i d...
Slik skjuler du apper på iPhone eller iPad uten tredjepartsapper
Vi har alle våre hemmeligheter, ikke sant? Og noen av disse hemmelighetene er skjult inne i smarttelefonene våre. Det er mange apper som inneholder vå...