Facebook i kampen mot hat

Nyhetsartikkel - Susanna Mathea Arsky

Facebook har utført en intern studie med mål om å kartlegge hatmeldingene på deres plattformer. Til tross for en velutviklet kunstig intelligens, har de på bakgrunn av en egen definisjon på “hat” utført studien med hjelp av representanter, fordi den kunstige intelligensen ikke har nok kulturell forståelse.

Facebook deltar i kampen mot hat Foto: Unsplash / sushilnash

Når andre bølge av pandemisk klimaks stadig slår kraftig rundt seg, har hjemmekontor og sosial distansering igjen blitt hverdagskost for folk rundt om i verden. Dette har en sommerfugleffekt på all sosial kontakt, og når interaksjoner i større grad skjer bak en anonymisert skjerm, eller kjennes mindre personlige gjennom en profil, er risikoen for at hatefulle ytringer tar en plass i sosiale sfærer. 

Metoden

Facebook tar nå grep om dette, ved å analysere innholdet på sine plattformer. For å måle utbredelsen av støtende ord, har de hentet en viss mengde ytringer på deres plattformer, for så å bemerke seg hvor mange av ytringene inneholder diksriminerende ytringer. Dette har de gjort med representanter som kan flere språk, og de mener derfor at de har fått et dypt innblikk i  realiteten av hatefulle ytringer. De har også tatt hensyn til kulturell kontekst for mål av funnene. Resultatene viste at mellom juli 2020, og september 2020, var 0.1-0-11 % av innholdet på Facebook hatefulle ytringer. Med tanke på at det ikke finnes tall fra andre plattformer om prosentvise innlegg med diskriminerende innhold, er det vanskelig å trekke en sltuning på hvorvidt dette er mye eller lite.

Ytringene ble også målt ut ifra hvor mange som så postene, noe som i større grad er viktig, etter som at Facebook har tatt ansvar for å stoppe spredningen av slike innlegg. 

Slik definerer Facebook hat

Sosiale medier er plattformer som både akselererer, og bekjemper hat. Foto: Unsplash / Cool Milo

For å ha utført studien har Facebook måttet tatt en filosofisk tilnærming til operasjonaliseringen av hva en hatefull ytrning er:

Based on input from a wide array of global experts and stakeholders, we define hate speech as anything that directly attacks people based on protected characteristics, including race, ethnicity, national origin, religious affiliation, sexual orientation, sex, gender, gender identity or serious disability or disease, skriver Facebook

Rollen til algoritmene og kunstig intelligens 

Studien ble gjort av mennesker, noe Facebook forklarer med at kunstig intelligens ikke vil ha full forståelse for kulturell kontekst, men at de stadig utvikler algoritmene i den retning at de skal ha stadig større innsikt i hva som konstituerer hatefulle meldinger. Altså er arbeidet et samarbeid mellom de 35 000 menneskene Facebook har ansatt for å styrke sikkerheten til brukerne sine, i tillegg til den kunstige intelligensen. 

Nå som selskapet er bevisst på mengden hatefulle ytringer blir det spennende å se om de utvikler mer effektive tiltak som kan forhindre dem i fremtiden.