'Ήμουν μετρούν εκατοντάδες τρομακτικά και τραυματικά βίντεο'

13/11/2024 15:18

Τους τελευταίους μήνες το BBC εξερευνούσε έναν σκοτεινό, κρυφό κόσμο όπου καταλήγει το χειρότερο, πιο τρομακτικό, οδυνηρό, και σε πολλές περιπτώσεις, το παράνομο διαδικτυακό περιεχόμενο.
Αποκεφαλισμοί, μαζικές δολοφονίες, κακοποίηση παιδιών, ομιλία μίσους ~ όλα καταλήγουν στα εισερχόμενα ενός παγκόσμιου στρατού μετρητών περιεχομένου.
Δεν βλέπετε ή ακούτε συχνά από αυτούς αλλά αυτοί είναι οι άνθρωποι των οποίων η δουλειά είναι να αναθεωρήσουν και στη συνέχεια, όταν είναι απαραίτητο, να διαγράψετε το περιεχόμενο που είτε αναφέρεται από άλλους χρήστες, είτε να επισημανθεί αυτόματα από τα τεχνολογικά εργαλεία.
Το ζήτημα της ασφάλειας στο διαδίκτυο έχει γίνει όλο και πιο εξέχον, με τις επιχειρήσεις τεχνολογίας υπό μεγαλύτερη πίεση για την ταχεία απομάκρυνση βλαβερού υλικού.
Και παρά τις πολλές έρευνες και επενδύσεις που διοχετεύονται σε τεχνολογικές λύσεις για να βοηθήσουν, τελικά προς το παρόν, εξακολουθεί να είναι σε μεγάλο βαθμό ανθρώπινοι μετρητές που έχουν τον τελικό λόγο.
Οι συντονιστήι συχνά απασχολούνται από εταιρείες τρίτων, αλλά εργάζονται πάνω σε περιεχόμενο που αναρτάται απευθείας στα μεγάλα κοινωνικά δίκτυα, όπως το Instagram, το TikTok και το Facebook.
Βρίσκονται σε όλο τον κόσμο.
Οι άνθρωποι στους οποίους μίλησα κατά τη διάρκεια της σειράς μας Οι Συντονιστές για το Radio 4 και BBC Sounds, ζούσαν σε μεγάλο βαθμό στην Ανατολική Αφρική, και όλοι από τότε είχαν εγκαταλείψει τη βιομηχανία.
Οι ιστορίες τους ήταν οδυνηρές.
Μερικά από αυτά που καταγράψαμε ήταν πολύ βάναυσα για να μεταδοθούν.
Μερικές φορές ο παραγωγός μου, ο Τομ Γουόλφεντεν κι εγώ τελειώναμε μια ηχογράφηση και απλά καθόμασταν σιωπηλοί.
Αν πάρετε το τηλέφωνό σας και στη συνέχεια να πάτε στο TikTok, θα δείτε πολλές δραστηριότητες, χορό, ξέρετε, ευτυχισμένα πράγματα, λέει ο Mojez, ένας πρώην συντονιστής με βάση το Ναϊρόμπι που εργάστηκε στο περιεχόμενο TikTok.
Αλλά στο παρασκήνιο, εγώ προσωπικά μετρούσε, σε εκατοντάδες, τρομακτικά και τραυματικά βίντεο.
Το ανέλαβα μόνος μου.
Αφήστε την ψυχική μου υγεία να πάρει τη γροθιά έτσι ώστε οι γενικοί χρήστες να μπορούν να συνεχίσουν τις δραστηριότητές τους στην πλατφόρμα..................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................
Μερικοί από τους πρώην εργάτες στην Ανατολική Αφρική συγκεντρώθηκαν για να σχηματίσουν μια ένωση.
Πραγματικά, το μόνο πράγμα που έρχεται μεταξύ μου να συνδεθεί σε μια πλατφόρμα κοινωνικής δικτύωσης και να παρακολουθήσουν έναν αποκεφαλισμό, είναι κάποιος που κάθεται σε ένα γραφείο κάπου, και να παρακολουθήσουν αυτό το περιεχόμενο για μένα, και να το επανεξετάσει έτσι δεν χρειάζεται, λέει η Martha Dark που διευθύνει Foxglove, μια ομάδα εκστρατείας που υποστηρίζει τη νομική δράση.
Το 2020, Meta στη συνέχεια γνωστή ως Facebook, συμφώνησε να πληρώσει έναν διακανονισμό των 52 εκατομμυρίων δολαρίων (£ 40 εκατομμύρια) σε μετρό που είχαν αναπτύξει θέματα ψυχικής υγείας λόγω των εργασιών τους.
Η νομική πράξη ξεκίνησε από έναν πρώην συντονιστή στις ΗΠΑ που ονομάζεται Selena Scola.
Περιέγραφε τους μετριόφρονες ως τους φρουρούς των ψυχών, λόγω της ποσότητας των video που βλέπουν να περιέχουν τις τελευταίες στιγμές των ανθρώπων που ζουν.
Οι πρώην διαχειριστές που μίλησα χρησιμοποίησαν τη λέξη "τραύμα" για να περιγράψουν τον αντίκτυπο που είχε το έργο σε αυτούς.
Μερικοί δυσκολεύονταν να κοιμηθούν και να φάνε.
Κάποιος περιέγραψε πώς το να ακούει ένα κλάμα μωρού είχε κάνει έναν συνάδελφο να πανικοβάλλεται.
Ένας άλλος είπε ότι δυσκολεύτηκε να επικοινωνήσει με τη σύζυγό του και τα παιδιά του λόγω της κακοποίησης παιδιών που είχε δει.
Περίμενα να πουν ότι αυτό το έργο ήταν τόσο συναισθηματικά και διανοητικά εξουθενωτικό, που κανένας άνθρωπος δεν θα έπρεπε να το κάνει ~ Νόμιζα ότι θα υποστήριζε πλήρως ολόκληρη τη βιομηχανία να γίνει αυτοματοποιημένη, με εργαλεία τεχνητής νοημοσύνης να εξελίσσονται μέχρι την εργασία.
Αλλά δεν το έκαναν.
Αυτό που συνάντησε, πολύ δυνατά, ήταν η τεράστια υπερηφάνεια που είχαν οι μετρητές στους ρόλους που είχαν παίξει στην προστασία του κόσμου από τη διαδικτυακή βλάβη.
Έβλεπαν τους εαυτούς τους ως μια ζωτική υπηρεσία έκτακτης ανάγκης.
Κάποιος λέει ότι ήθελε μια στολή και ένα σήμα, συγκρίνοντας τον εαυτό του με έναν τραυματιοφορέα ή πυροσβέστη.
Ούτε ένα δευτερόλεπτο δεν χάθηκε, λέει κάποιος που καλέσαμε τον Ντέιβιντ.
Ζήτησε να παραμείνει ανώνυμος, αλλά είχε εργαστεί πάνω σε υλικό που χρησιμοποιήθηκε για την εκπαίδευση του ιού AI chatbot ChatGPT, έτσι ώστε να ήταν προγραμματισμένο να μην αναζωογονήσει τρομακτικό υλικό.
Είμαι περήφανος για τα άτομα που εκπαίδευσαν αυτό το μοντέλο να είναι αυτό που είναι σήμερα.
Ο Ντέιβ Γουίλνερ είναι πρώην επικεφαλής εμπιστοσύνης και ασφάλειας στο OpenAI, ο δημιουργός της ChatGPT.
Λέει ότι η ομάδα του κατασκεύασε ένα υποτυπώδες εργαλείο μετριοπάθειας, βασισμένο στην τεχνολογία chatbots, η οποία κατάφερε να εντοπίσει βλαβερό περιεχόμενο με ρυθμό ακρίβειας περίπου 90%.
Όταν συνειδητοποίησα ότι αυτό θα πετύχει, ειλικρινά πνίγηκα λιγάκι, λέει.
Μην βαριέσαι.
Και δεν κουράζονται και δεν σοκάρονται...
Ωστόσο, δεν είναι όλοι σίγουροι ότι η AI είναι μια ασημένια σφαίρα για τον προβληματικό τομέα της μετριοπάθειας.
Νομίζω ότι είναι προβληματικό, λέει ο Δρ Paul Reilly, ανώτερος λέκτορας στα μέσα ενημέρωσης και τη δημοκρατία στο Πανεπιστήμιο της Γλασκώβης.
Το Clearly AI μπορεί να είναι ένας αρκετά αμβλύς, δυαδικός τρόπος μέτρησης του περιεχομένου.
Μπορεί να οδηγήσει σε υπερ-μπλοκάρισμα της ελευθερίας του λόγου ζητήματα, και φυσικά μπορεί να χάσει αποχρώσεις ανθρώπινο μέτρο θα είναι σε θέση να προσδιορίσει.
Η ανθρώπινη μετριοπάθεια είναι απαραίτητη για τις πλατφόρμες, προσθέτει.
Το πρόβλημα είναι ότι δεν υπάρχουν αρκετοί από αυτούς, και η δουλειά είναι εξαιρετικά επιβλαβής για εκείνους που το κάνουν.
Ένας εκπρόσωπος Τύπου του TikTok λέει ότι η εταιρεία γνωρίζει ότι η μετριοπάθεια περιεχομένου δεν είναι εύκολο έργο, και προσπαθεί να προωθήσει ένα περιβάλλον φροντίδας για τους εργαζόμενους.
Αυτό περιλαμβάνει την παροχή κλινικής υποστήριξης και τη δημιουργία προγραμμάτων που υποστηρίζουν την ευημερία των μετρητών.
Προσθέτουν ότι τα βίντεο ελέγχονται αρχικά από την αυτοματοποιημένη τεχνολογία, η οποία λένε ότι αφαιρεί μεγάλο όγκο βλαβερού περιεχομένου.
Εν τω μεταξύ, το Open AI - η εταιρεία πίσω από το Chat GPT - λέει ότι είναι ευγνώμων για τη σημαντική και μερικές φορές δύσκολη δουλειά που κάνουν οι ανθρώπινοι εργαζόμενοι για να εκπαιδεύσουν τον AI να εντοπίζει τέτοιες φωτογραφίες και βίντεο.
Ένας εκπρόσωπος Τύπου προσθέτει ότι, με τους εταίρους του, το Open AI εφαρμόζει πολιτικές για την προστασία της ευημερίας αυτών των ομάδων.
Και η Μέτα - η οποία κατέχει το Instagram και το Facebook - λέει ότι απαιτεί όλες τις εταιρείες με τις οποίες συνεργάζεται για να παρέχει 24ωρη επί τόπου υποστήριξη με εκπαιδευμένους επαγγελματίες.
Προσθέτει ότι οι μετρητές είναι σε θέση να προσαρμόσετε τα εργαλεία αναθεώρησης τους για να θολώσει το περιεχόμενο γραφικών.
Οι Συντονιστές είναι στο BBC Radio 4 στις 13:45 GMT, Δευτέρα 11, Νοέμβριος έως Παρασκευή 15, Νοέμβριος, και στο BBC Sounds.

Other Articles in Technology

News Image
Ο άνθρωπος καταδικάστηκε για επανειλημμένα ψέματα για την εφεύρεση Bitcoin

Ένας επιστήμονας υπολογιστών έχει βρεθεί ότι έχει διαπράξει περιφρόνηση στο δικαστήριο επειδή ψευδώς και επίμονα ισχυρίζεται ότι είναι ο μυστηριώδης εφευρέτης του Bitcoin, Satoshi Nakamoto. Τον Μάρτιο, το Ανώτατο Δικαστήριο αποφάσισε ότι ο Κρεγκ Ράιτ δεν ήταν ο Σατόσι, και τον διέταξε να σταματήσει...

Read more
News Image
Ν Κορέα χάκερς έκλεψε $1.3 δις κρυπτογραφία φέτος - έκθεση

Ένα σύνολο 2,2 δισ. δολαρίων (1,76 δισ.) σε κρυπτογραφικές καταστάσεις έχει κλαπεί φέτος, με τους χάκερς της Βόρειας Κορέας να αντιπροσωπεύουν πάνω από το ήμισυ αυτού του αριθμού, σύμφωνα με μια νέα μελέτη. Η ερευνητική εταιρεία Chainalysis λέει ότι χάκερς που συνδέονται με το αποκλειστικό κράτος έκ...

Read more
News Image
Θα μπορούσε η AI να βοηθήσει στην πρόληψη της απώλειας της όρασης που σχετίζεται με το διαβήτη;

Αυτό είναι το δεύτερο χαρακτηριστικό σε μια σειρά έξι μερών που εξετάζει πώς η AI αλλάζει ιατρική έρευνα και θεραπείες. Ο Τέρι Κουίν ήταν μόνο στην εφηβεία του όταν διαγνώστηκε με διαβήτη. Κατά κάποιο τρόπο επαναστάτησε ενάντια στην ετικέτα και στις συχνές εξετάσεις, χωρίς να θέλει να αισθάνεται δια...

Read more
News Image
Η Amazon θεωρεί ότι η LuxOpCo δεν είναι σε θέση να αποδείξει ότι η LuxOpCo δεν είναι σε θέση να αποδείξει ότι η LuxOpCo δεν είναι σε θέση να αποδείξει ότι η LuxOpCo δεν είναι σε θέση να αποδείξει ότι η LuxOpCo δεν είναι σε θέση να αποδείξει ότι η LuxOpCo

Η Amazon πίεσε τους αμερικανούς αποθηκευτικούς εργάτες της να εκπληρώσουν τις εντολές τους με ταχύτητες που θα μπορούσαν να προκαλέσουν υψηλά ποσοστά τραυματισμού παρά το γεγονός ότι γνωρίζει τους κινδύνους, μια έρευνα που ηγείται ο Γερουσιαστής Μπέρνι Σάντερς βρήκε. Τα ευρήματα, μετά από 18μηνη έρε...

Read more
News Image
Trump συναντά TikTok Διευθύνων Σύμβουλος ως απαγόρευση προθεσμία αργαλειών

Ο εκλεγμένος Πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ συναντήθηκε με τον Διευθύνοντα Σύμβουλο του Τικ Τοκ τη Δευτέρα, καθώς ο γίγαντας των μέσων κοινωνικής δικτύωσης αγωνίζεται από τις αρχές των ΗΠΑ για να το απαγορεύσει. Ο Τραμπ συνάντησε τον Σου Ζι Τσου στο κτήμα του Μαρ-α-Λάγκο στη Φλόριντα τη Δευτέρα, αν...

Read more
News Image
Ofcom ζητά συγγνώμη για το "ill-jucked" πορνό αστείο

Η Ofcom έχει ζητήσει συγγνώμη για ό, τι παραδέχεται ήταν μια "ανεκδίκητη" θέση των εργαζομένων για μια εργασία που περιλαμβάνει την παρακολούθηση πορνογραφικών ιστοσελίδων για παράνομο περιεχόμενο και τη διακοπή της πρόσβασης των παιδιών σε αυτά. "Πάντα ήθελε να δουλεύει σε πορνό, αλλά δεν έχει τα π...

Read more
News Image
Ο Αμαζόνιος αντιμετωπίζει απειλή απεργίας των ΗΠΑ μπροστά από τα Χριστούγεννα

Οι εργάτες του Αμαζονίου στις ΗΠΑ θα μπορούσαν να πάνε σε απεργία πριν από τα Χριστούγεννα, αφού μέλη της ένωσης Teamsters ψήφισαν υπέρ της βιομηχανικής δράσης. Οι εργαζόμενοι αναφέρουν ότι ο διαδικτυακός γίγαντας λιανικής πώλησης αρνήθηκε να αναγνωρίσει την ένωσή τους και αγνόησε προθεσμία 15 Δεκεμ...

Read more
News Image
Η Apple κατηγορείται για χρήση ορυκτών συγκρούσεων

Η Λαϊκή Δημοκρατία του Κονγκό έχει υποβάλει ποινικές καταγγελίες στη Γαλλία και το Βέλγιο εναντίον θυγατρικών της τεχνολογίας της γίγαντας Apple, κατηγορώντας την για χρήση ορυκτών συγκρούσεων. Ενεργώντας εξ ονόματος της κυβέρνησης του Κονγκό, οι δικηγόροι υποστήριξαν ότι η Apple είναι συνένοχη σε ε...

Read more
News Image
Πώς το Facebook περιόρισε τις ειδήσεις στα παλαιστινιακά εδάφη

Το Facebook περιόρισε σοβαρά την ικανότητα των παλαιστινιακών ειδήσεων να πλησιάσουν το κοινό κατά τη διάρκεια του πολέμου Ισραήλ-Γκάζα, σύμφωνα με την έρευνα του BBC. Σε μια περιεκτική ανάλυση των δεδομένων του Facebook, διαπιστώσαμε ότι οι αίθουσες ειδήσεων στα παλαιστινιακά εδάφη - στη Γάζα και σ...

Read more
News Image
Το πρώτο Bitcoin έθνος ζυγίζει πίσω crypto όνειρο

Το Ελ Σαλβαδόρ έχει επιτύχει συμφωνία δανείου ύψους 1,4 δισ. δολαρίων (1,1 δισ. δολαρίων) με το Διεθνές Νομισματικό Ταμείο (ΔΝΤ) αφού συμφώνησε να αναβαθμίσει τις αμφιλεγόμενες πολιτικές του για τα μπιτκόιν. Ο παγκόσμιος δανειστής ανέφερε ότι οι κίνδυνοι που σχετίζονται με την υιοθέτηση του μεγαλύτε...

Read more