Etter en rekke ganske tvilsomme videoer som gikk viral på plattformen, har YouTube vært offensiv for å stoppe spredningen av kontroversielt innhold. Fra Logan Paul-videoen som viste en død kropp i Japans 'Suicide Forest' til de nyere Tide Pod-utfordringsvideoene, har YouTubes moderatorer hatt mye på fatet siden begynnelsen av året.
Nå, ifølge en fersk artikkel fra Buzzfeed Nyheter, YouTube planlegger å sette opp en 'Intelligence Desk' som vil oppdage kontroversielle videoer på plattformen før de blir virale. Det nye initiativet er en del av selskapets press for å forbedre systemet for innholdsmoderering, som ikke har prestert godt sent. Intelligence Desk vil samle inn data fra Google, brukerrapporter, sosiale medietrender og tredjepartskonsulenter for å flagge kontroversielt innhold før det går ut av hånden.
En YouTube-talsmann bekreftet til Buzzfeed Nyheter om oppstarten av etterretningsskranken og sa:
“Som vi skisserte i en blogg i desember, utvider vi vårt arbeid mot dårlige skuespillere som prøver å misbruke plattformen vår. Dette inkluderer å ansette flere som jobber for å adressere potensielt krenkende innhold og øke bruken vår av maskinlæringsteknologi. Vi kan bekrefte at en del av denne innsatsen vil omfatte å samle nye team dedikert til å beskytte plattformen vår mot nye trender og trusler. ”
Plattformen har vært under skudd i flere ting, inkludert å la vanlige annonser vises ved siden av ekstremistisk innhold og ikke klarer å gjenkjenne det urovekkende misbruket av barn i visse videoer. YouTube ble også kritisert for måten den håndterte Paul-situasjonen på, da den krenkende videoen nådde topp 10-trendlisten før den ble fjernet.
En annonsør briefing innhentet av Buzzfeed Nyheter indikerte også at plattformen vil samarbeide med over 100 frivillige organisasjoner, offentlige organisasjoner og akademikere for å håndtere kontroversielt innhold med større kompetanse.