Kaip turinys auga, kaip platformos gali apsaugoti vaikus nuo neapykantos kurstymo?

Kaip turinys auga, kaip platformos gali apsaugoti vaikus nuo neapykantos kurstymo?

Kas minutę į „YouTube“ įkeliama daugiau nei 500 valandų vaizdo įrašų, todėl turinio įvairovė yra beveik begalinė: spalvoti XX a. 9-ojo dešimtmečio miestų kadrai, pasivažinėjimai „Blue Angels“, Jimi Hendrixas grojantis atsargine gitara, pamokos, kaip valgyti suši, veiskite peles, užsiriškite batus, auginkite figas, raižykite kanoją ar rieskite vairo ūsus.

Ir tada yra komentarai. Nuo 2019 m. liepos iki rugsėjo „YouTube“ pašalino maždaug pusę milijardo komentarų, pažeidžiančių bendrovės neapykantos kurstymo politiką – tai dvigubai daugiau nei praėjusį ketvirtį. Tais pačiais metais „YouTube“ pristatė nustatymą automatiškai slėpti nuodingus komentarus, kol kanalo savininkai galės juos peržiūrėti.

„Socialinėje žiniasklaidoje dažnai kalbame apie virusinių vaizdo įrašų ar virusiškumo idėją“, – sakė jis rinkodaros profesorius MIT Sloan. „Mus domino tamsioji to pusė: kiek virusiška yra neapykanta? Kiek paplitęs įžeidžiančios kalbos vartojimas vaikų atžvilgiu?

Naujame darbo dokumente, kurį parašė Vašingtono universiteto docentė Uttara Ananthakrishnan, Tuckeris nagrinėja įvairius toksiškus ir neapykantą kurančius komentarus ir tai, kaip jie plinta vaikams skirtuose vaizdo įrašuose. Rezultatai parodo, kaip pirminis neapykantą kurstantis komentaras atveria duris kitiems – problemos, kurios būtų galima išvengti, teigia tyrėjai, jei turinio platformos automatiškai pažymėtų ir nuslėptų galimai neapykantą skatinančius komentarus prieš juos peržiūrėdamos.

Savo tyrime Tuckeris ir Ananthakrishnanas surinko maždaug 110 milijonų komentarų iš 55 000 vaizdo įrašų, kuriuos sukūrė 200 skirtingų vaikų ar paauglių, turinčių savo „YouTube“ kanalą. Komentarai buvo surinkti 2017 m. Jie iš pradžių išanalizavo šiuos komentarus naudodami kelis tūkstančius raktinių žodžių, nurodančių atvirą arba neapykantą kurstančią turinį; po to jie naudojo natūralios kalbos programą neapykantos ar toksiško turinio klasifikavimui. Galiausiai jie išsiaiškino, kad viename iš 20 komentarų buvo kažkas netinkamo – šis poveikis ypač ryškus kanaluose, kuriuos sukūrė paaugliai, turintys daugiau nei 1,5 mln. sekėjų. Be to, vienas neapykantos kupinas komentaras padidino tikimybę, kad atsiras panašūs komentarai.

„Tai, ką matėme, nebuvo tiesiog išankstinė vieno įžeidžiančio komentaro kaina“, – sakė Ananthakrishnanas. „Kai „YouTube“ nesiėmė veiksmų, viskas greitai paplito, nes buvo nustatytos naujos socialinės normos; Kai vienas žmogus sulaužė normą, atrodė, kad žmonės jautėsi patogiai ir pokalbis pasidarė bjaurus.

Tyrėjai pabrėžia išskirtinį šių rezultatų reikšmingumą tarp vaikų, kuriuos abu traukia „YouTube“ – maždaug 30 % amerikiečių ir britų vaikų teigia norintys, kad „YouTube“ vaizdo įrašų kūrimas taptų savo karjerą – ir ypač pažeidžiami neapykantos kupinų komentarų. Kibernetinių patyčių poveikis vaikų psichinei sveikatai yra gerai aprašytas medicinos literatūroje, o tarp aukų padaugėjo depresijos, savęs žalojimo ir minčių apie savižudybę.

Tuckeris ir Ananthakrishnanas pateikia aiškų šios problemos sprendimą: Techninės platformos turėtų būti atsargios veikdamos greitai (su algoritmais), kad paslėptų galimai žalingus komentarus. Tai ypač svarbu kalbant apie trolius, kurie linkę apnuodyti „YouTube“ komentarų skiltį per pirmąsias kelias dienas po vaizdo įrašo paskelbimo; po to jų aktyvumas staigiai krenta. Kai komentaras yra pažymėtas šiame siaurame, bet kritiniame lange, algoritmai arba rankinė peržiūra gali nustatyti, kas turėtų būti ir ko ne.

susiję straipsniai

2019 m. birželio mėn. „YouTube“ pristatė funkciją, kai netinkami komentarai automatiškai pažymimi ir saugomi, kad kūrėjai galėtų juos peržiūrėti. Tai įvyko po ginčų dėl seksualinio grobuoniškų komentarų, paskelbtų po vaikų vaizdo įrašais. 2020 m. birželio mėn. ši funkcija tapo numatytoji visuose kanaluose, nors kūrėjai gali ją išjungti savo kanale.

„Kaip ir „YouTube“, įmonės pirmiausia turėtų paslėpti šiuos komentarus, o paskui juos peržiūrėti“, – sakė Ananthakrishnanas. „Technologijos įmonės nori būti teisus, kai kalbama apie cenzūravimą ir turinio pašalinimą – jos kasdien priima milijonus tokių sprendimų, tačiau matome, kad politikos, kuri orientuota tik į tikslumą, sąnaudas matome eksponavimo sąskaita.

Tyrėjai perspėja, kad vaikų padarytų vaizdo įrašų komentarai didmeniniu būdu nepašalinami. Pirma, klasifikacija kaip „skirta vaikams“ yra šiek tiek neaiški, ypač jei vaizdo įrašuose yra visa šeima arba jei vaizdo įrašą sukūrė suaugusieji vaikams. Antra, šios politikos įgyvendinimą sunku pritaikyti. Trečia, kūrėjai pasikliauja savo žiūrovų įtraukimu, o įtraukimas dažnai ateina per komentarus.

Galų gale tai yra sudėtinga problema, tačiau Ananthakrishnan teigia, kad ji greitai neišnyks. „Technologijų įmonės mėgsta tikėti, kad jos paprasčiausiai suartina žmones. Taip nutiko daugelyje kontekstų, tačiau šios platformos egzistuoja visuomenėje, pripildytoje žmonių, kurie turi savo šališkumą, o anonimiškumas gali atskleisti daug blogų dalykų “, – sakė ji. „Jei pastarasis dešimtmetis buvo susijęs su šiomis įmonėmis, kurios daugiausia dėmesio skyrė reklamai ir pelnui, manau, pamatysime, kad šis dešimtmetis turi būti skirtas tam, kaip užkirsti kelią blogiems dalykams – tokiems, kurie visada nutikdavo visuomenėje, bet kurios dabar padidintos dėl didžiulio šių platformų pasiekiamumo ir įtakos.

Leave a Comment

Your email address will not be published.