Nga Fay M. Johnson
Kam kaluar vite duke punuar në disa nga platformat më të mëdha të mediave sociale në botë. Unë kam parë se si lloji i duhur i moderimit mund të përmirësojë bisedat dhe se si lloji i gabuar – ose aspak – mund të prodhojë kaos, të përhapë urrejtje dhe të derdhet në dhunë në botën reale. Kur fillova në këtë fushë, ekipet e besimit dhe sigurisë që drejtoja kishin një premisë të thjeshtë: njerëzit duhet të jenë në gjendje të shprehen për aq kohë sa nuk i vënë të tjerët në rrezik. Megjithatë, me kalimin e kohës, arrita të vlerësoja kompleksitetin e përcaktimit të rrezikut në një mjedis dixhital me miliarda përdorues. Vështirësia e kësaj pune u shfaq kur reperi i njohur më parë si Kanye West, i cili tani shkon nga Ye, postoi një rrymë sulmesh mizogjene dhe antisemitike për më shumë se 30 milionë ndjekësit e tij në platformën e njohur më parë si Twitter, e cila tani shkon nga X. Në një zbavitje shumëditore kohët e fundit, ai postoi klipe të pacensuruara dhe foto të filmave pornografike të grave, të postuara pornografike dhe të pacensuruara të kësaj pune. svastikat, emëruan drejtues të veçantë hebrenj që ai besonte se po sabotonin karrierën e tij dhe thanë: “Skllavëria ishte një zgjedhje”. Kërkimi im i versioneve të arkivuara të postimeve të fshira tani të Ye sugjeron se vetëm postimi që emërton drejtues të veçantë u shënua me një paralajmërim nga X për shkelje të mundshme të politikave të tij të gjuhës së urrejtjes. Shkelja e hebrenjve individualisht dhe kolektivisht dhe vendosja e simbolit të regjimit që vrau gjashtë milionë hebrenj – duke përdorur svastika citohet shprehimisht nga X si një shembull i imazheve të urrejtjes – duket se ka mbetur e pa adresuar. Kjo është tipike për atë që kemi parë në X të Elon Musk, i cili është larguar nga zbatimi proaktiv i politikave kundër urrejtjes, që do të thotë ndonjëherë ndërhyrja para se përmbajtja të bëhet publike ose zvogëlimi i numrit të njerëzve që e shohin atë, dhe drejt Shënimeve të Komunitetit, një sistem me burime të shumta që fuqizon përdorues të caktuar X duke shtuar kontekstin në formën e një etikete pas faktit. Meta, e cila zotëron Facebook-un, kohët e fundit gjithashtu ka zvogëluar ndërhyrjet e saj dhe po i jep fund programit të saj të kontrollit të fakteve nga palët e treta në Shtetet e Bashkuara. Disa i brohorasin këto lëvizje si një kthim në fjalën më të lirë. Por ajo që mbetet është pyetja nëse fjalimi i Ye duhet të transmetohet përmes ndonjë algoritmi të platformës. Ku është kufiri midis të drejtës për të folur dhe të drejtës për të arritur? Unë do të jem i pari që do të pranoj se asnjë sistem moderimi nuk është i përsosur. Unë jam ulur në dhoma ku kemi debatuar se ku të vendosim kufirin, duke e ditur se për të kapur përmbajtjen më të dëmshme do të hiqnim pa dashje edhe postimet e pafajshme. Moderatorët mund të jenë të pasigurt nëse një postim satirik e kalon kufirin e gjuhës së urrejtjes ose nëse një postim që shpreh shqetësim të sinqertë për efikasitetin e vaksinës është shndërruar në dezinformim. Nuk ka konsensus universal mbi atë që përbën “dëm” dhe pa kalibrim të kujdesshëm të politikave dhe modeleve të mësimit të makinës të trajnuara për t’i zbatuar ato, gabimet ndodhin.
*Johnson, ish-ekzekutive e produkteve të besimit dhe sigurisë në Meta, Twitter dhe Nextdoor.
