Giphy kom tilbake til både Snapchat og Instagram etter at den ble fjernet raskt og uhøytidelig forrige måned etter oppdagelsen av en eksplisitt rasistisk GIF som skildret en økende 'N-word-kriminalitetsdød' -teller som ble sveivet av en gorilla.
I følge The Verge , Sa Giphy at GIF gled igjennom på grunn av 'en feil i innholdsmoderasjonsfiltrene som spesielt påvirker GIF-klistremerker,' slik at den kan omgå plattformens regler som forbyr brukere å legge ut slikt innhold. Giphy fikset feilen, og Instagram og Snapchat la den til igjen.
Selv om denne hendelsen ble løst da publikum fanget den, er den spesielt annerledes enn tidligere falske pas. Instagram og Snapchat dro appen umiddelbart, og offentlig. Det var ingen rasjonalisering, ingen påkallelse av den første endringen - bare en fast, kortfattet unnskyldningogkorreksjon.
Hvert sosialt mediauttak - fra Facebook til Twitter til Reddit - har stått overfor det uunngåelige spørsmålet om hvordan man skal håndtere giftig og skadelig innhold, mest etter offentlig skrik. Facebook har behandlet en rekke personvernproblemer sent, men har ennå ikke kjempet med rasisme og hatytringer på sine plattformer. Facebook antydet nylig at det var det opp til brukerne å bestemme seg for å fordømme pedofili via en spørreundersøkelse, mens du i det stille tillater annonsører å målrette mot “jødehatere” og andre hatgrupper i Amerika og i verden, ifølge nyere funn av ProPublica. De New York Times rapporterer at denne politikken til og med vekket spenninger i Myanmar, der Facebook aksepterte annonser som angrep minoritets-Rohingya-befolkningen der. I sammenheng har Facebook utestengt kvinner for å snakke om deres personlige erfaringer, ifølge Dazed .
Vil Facebook gjøre noe med hatytringer på plattformen? Passende kunstig intelligens er ikke 'der ennå', sier administrerende direktør Mark Zuckerberg. Han sa at det kan ta fem til ti år å fikse programvaren som skal identifisere hatytringer, ifølge hans vitnesbyrd før den amerikanske kongressen 10. april. Mens Zuckerberg nevner språklige nyanser som en årsak til AI-svikt, Facebook skal angivelig ha presset ytringsfriheten ved å hjelpe den vietnamesiske regjeringen med å fjerne dissidentinnhold. Og som Skifer forklart i fjor , 'Fem til ti år' har en tendens til å være den viktigste setningen fra teknologirelaterte organisasjoner som lover alt fra å eliminere cellegift til flygende biler.
Facebook står overfor ubehagelige spørsmål akkurat nå, men det er ikke den eneste. Reddit, en uten tvil lysere del av internett, la En fra New York inn på kontorene for å se avgiftningens fremgang, bestående av et menneskelig personale som kammer seg gjennom underreddits for å bestemme hvor ille noe må være for å stenge det. Reddit oppdaterte retningslinjene i fjor rundt det tidspunktet det fant voldelig kvinnehat i innholdet i r / incels subreddit, i henhold til Vice .
Twitter må fortsatt svare på hvorfor brukere som spytter nynazistilknyttet innhold, får være på plattformen, mens andre brukere angivelig finner ut at de står opp mot misbruk på internett kan få dem utestengt i stedet for overgriperen. I fjor startet Twitter fjerne den bekreftede haken fra populære brukere assosiert med alt-høyre bevegelser, men hvite supremacists som Richard Spencer brukte allerede appen til å spre voldelige meldinger. Nå ser Twitter på å eliminere botkontoer som sprer splittende feilinformasjon .
Publikums frustrasjon er til å ta og føle på - og kanskje den eneste drivkraften bak enhver endring. Unilever, en av de største annonsørene i verden, fløt i februar muligheten for å skrubbe annonser fra Facebook hvis den ikke følger med på å regulere hatytringer. The Washington Post rapporterte at mangelen på føderale forskrifter om teknologiindustrien presser statlige myndigheter til handling. California, hvor de fleste teknologibedrifter har hovedkontor, utarbeider lovgivning for å takle sosiale medier. Maryland, New York og Washington følger tett etter, og presser regninger som gjør online politiske annonser mer gjennomsiktige for velgerne etter Facebooks Analytica-skandale.
Selv om Instagram eies av Facebook, taklet den raskt det rasistiske GIF-problemet. Snapchats aksjer har i stor grad falt etter hvert som kjendiser uttrykte klager om det Kylie Jenner spør om noen brukte det lenger og Rihanna slippe appen etter at en annonse spurte brukerne om de heller ville slå henne eller slå Chris Brown.
GIF-hendelsen markerer et øyeblikk av regning for sosiale medieplattformer som tidligere har brukt den første endringen som et skjold. Oppløsningshastigheten signaliserer et maktskifte, spesielt ettersom brukere av sosiale medier sletter kontoer og begynner å overvåke sine egne personverninnstillinger. Når folk trekker seg tilbake fra internett, er det viktig å se på hvordan store teknologi- og medieselskaper takler sin plass i samfunnet og hva brukerne krever av dem. De har tjent penger på oss altfor lenge. Det er tid for ansvarlighet.
[Foto: Getty Images]
