Google forsikrer assistenten om å fortelle virksomheter at det ikke er menneskelig i tosidig samtale

Google bedøvet verden med demoen til Google Duplex på Google I / O. Duplex er et assistentdrevet AI-system som kan ringe for å foreta reservasjoner og andre bestillinger på dine vegne. Samtalene skjer i bakgrunnen og avslører ikke ditt personlige nummer for virksomheten.

Men den mest strålende delen er hvordan naturlig og menneskelig Suplex høres ut, og det er derfor det er noen store bekymringer rundt avsløring av samtalens natur og bedrager folk til å tro at de snakker med mennesker. Spørsmålene rundt etikk har vært like mange som de som ble overrasket av Duplex-samtaler.

Jeg er oppriktig plaget og forstyrret over hvor moralsk galt det er for Google Assistent-stemmen å oppføre seg som et menneske og lure andre mennesker på den andre linjen av en telefonsamtale, ved å bruke upspeek og andre språkspråk. "Hei um, har du noe tilgjengelig den 3. mai?" # io18

- Bridget Carey (@BridgetCarey) 8. mai 2018

At de mange i Google ikke brøt ut i full panikk og avsky ved det første forslaget om dette ... er utrolig for meg. Hva med Googles berømte diskusjonstavler? Hva diskuterer dere alle hvis ikke dette?!?! Dette er fryktelig og så åpenbart feil. SÅ GJELDIG GALT. * headdesk *

- zeynep tufekci (@zeynep) 9. mai 2018

Google har nå ryddet luften rundt det etiske dilemmaet og forsikrer det AI-systemet vil identifisere seg selv som ikke-menneskelig når det ringer. Google sier at menneskene i den andre enden av linjen vil vite nøyaktig hvem de snakker med.

“Vi forstår og verdsetter diskusjonen rundt Google Duplex - som vi har sagt fra begynnelsen, er gjennomsiktighet i teknologien viktig. Vi designer denne funksjonen med innebygd avsløring, og vi vil sørge for at systemet er riktig identifisert. Det vi viste på I / O var en tidlig teknologidemo, og vi ser frem til å innlemme tilbakemeldinger når vi utvikler dette til et produkt ”, en talsmann fra Google ble sitert av Verge.

Duplexs vokalsvar er mer flytende og menneskelige sammenlignet med de øyeblikkelig gjenkjennelige robotstemmene som brukes av de fleste assistenter. Det er kanskje en av grunnene til at det er så mye furore om implikasjonene av en slik funksjon i vanlige Android-telefoner.

Forsikringen fra Google bør berolige noen nerver, og Google sier at den også bygger sikkerhetsforanstaltninger for å sikre at teknologien ikke blir misbrukt. Det er noen spørsmål rundt hvordan assistenten kan reagere på sinte utvekslinger eller verbale overgrep fra misfornøyde forretningsmedarbeidere som tar samtaler.

I alle fall, hvis du gikk glipp av kunngjøringen fra Google, kan du sjekke ut den 10-minutters oversikten som er delt av selskapet. Og gi oss beskjed om hvilken favorittmelding din fra I / O 2018 var.