Τους τελευταίους μήνες το BBC εξερευνούσε έναν σκοτεινό, κρυφό κόσμο όπου καταλήγει το χειρότερο, πιο τρομακτικό, οδυνηρό, και σε πολλές περιπτώσεις, το παράνομο διαδικτυακό περιεχόμενο.
Αποκεφαλισμοί, μαζικές δολοφονίες, κακοποίηση παιδιών, ομιλία μίσους ~ όλα καταλήγουν στα εισερχόμενα ενός παγκόσμιου στρατού μετρητών περιεχομένου.
Δεν βλέπετε ή ακούτε συχνά από αυτούς αλλά αυτοί είναι οι άνθρωποι των οποίων η δουλειά είναι να αναθεωρήσουν και στη συνέχεια, όταν είναι απαραίτητο, να διαγράψετε το περιεχόμενο που είτε αναφέρεται από άλλους χρήστες, είτε να επισημανθεί αυτόματα από τα τεχνολογικά εργαλεία.
Το ζήτημα της ασφάλειας στο διαδίκτυο έχει γίνει όλο και πιο εξέχον, με τις επιχειρήσεις τεχνολογίας υπό μεγαλύτερη πίεση για την ταχεία απομάκρυνση βλαβερού υλικού.
Και παρά τις πολλές έρευνες και επενδύσεις που διοχετεύονται σε τεχνολογικές λύσεις για να βοηθήσουν, τελικά προς το παρόν, εξακολουθεί να είναι σε μεγάλο βαθμό ανθρώπινοι μετρητές που έχουν τον τελικό λόγο.
Οι συντονιστήι συχνά απασχολούνται από εταιρείες τρίτων, αλλά εργάζονται πάνω σε περιεχόμενο που αναρτάται απευθείας στα μεγάλα κοινωνικά δίκτυα, όπως το Instagram, το TikTok και το Facebook.
Βρίσκονται σε όλο τον κόσμο.
Οι άνθρωποι στους οποίους μίλησα κατά τη διάρκεια της σειράς μας Οι Συντονιστές για το Radio 4 και BBC Sounds, ζούσαν σε μεγάλο βαθμό στην Ανατολική Αφρική, και όλοι από τότε είχαν εγκαταλείψει τη βιομηχανία.
Οι ιστορίες τους ήταν οδυνηρές.
Μερικά από αυτά που καταγράψαμε ήταν πολύ βάναυσα για να μεταδοθούν.
Μερικές φορές ο παραγωγός μου, ο Τομ Γουόλφεντεν κι εγώ τελειώναμε μια ηχογράφηση και απλά καθόμασταν σιωπηλοί.
Αν πάρετε το τηλέφωνό σας και στη συνέχεια να πάτε στο TikTok, θα δείτε πολλές δραστηριότητες, χορό, ξέρετε, ευτυχισμένα πράγματα, λέει ο Mojez, ένας πρώην συντονιστής με βάση το Ναϊρόμπι που εργάστηκε στο περιεχόμενο TikTok.
Αλλά στο παρασκήνιο, εγώ προσωπικά μετρούσε, σε εκατοντάδες, τρομακτικά και τραυματικά βίντεο.
Το ανέλαβα μόνος μου.
Αφήστε την ψυχική μου υγεία να πάρει τη γροθιά έτσι ώστε οι γενικοί χρήστες να μπορούν να συνεχίσουν τις δραστηριότητές τους στην πλατφόρμα..................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................
Μερικοί από τους πρώην εργάτες στην Ανατολική Αφρική συγκεντρώθηκαν για να σχηματίσουν μια ένωση.
Πραγματικά, το μόνο πράγμα που έρχεται μεταξύ μου να συνδεθεί σε μια πλατφόρμα κοινωνικής δικτύωσης και να παρακολουθήσουν έναν αποκεφαλισμό, είναι κάποιος που κάθεται σε ένα γραφείο κάπου, και να παρακολουθήσουν αυτό το περιεχόμενο για μένα, και να το επανεξετάσει έτσι δεν χρειάζεται, λέει η Martha Dark που διευθύνει Foxglove, μια ομάδα εκστρατείας που υποστηρίζει τη νομική δράση.
Το 2020, Meta στη συνέχεια γνωστή ως Facebook, συμφώνησε να πληρώσει έναν διακανονισμό των 52 εκατομμυρίων δολαρίων (£ 40 εκατομμύρια) σε μετρό που είχαν αναπτύξει θέματα ψυχικής υγείας λόγω των εργασιών τους.
Η νομική πράξη ξεκίνησε από έναν πρώην συντονιστή στις ΗΠΑ που ονομάζεται Selena Scola.
Περιέγραφε τους μετριόφρονες ως τους φρουρούς των ψυχών, λόγω της ποσότητας των video που βλέπουν να περιέχουν τις τελευταίες στιγμές των ανθρώπων που ζουν.
Οι πρώην διαχειριστές που μίλησα χρησιμοποίησαν τη λέξη "τραύμα" για να περιγράψουν τον αντίκτυπο που είχε το έργο σε αυτούς.
Μερικοί δυσκολεύονταν να κοιμηθούν και να φάνε.
Κάποιος περιέγραψε πώς το να ακούει ένα κλάμα μωρού είχε κάνει έναν συνάδελφο να πανικοβάλλεται.
Ένας άλλος είπε ότι δυσκολεύτηκε να επικοινωνήσει με τη σύζυγό του και τα παιδιά του λόγω της κακοποίησης παιδιών που είχε δει.
Περίμενα να πουν ότι αυτό το έργο ήταν τόσο συναισθηματικά και διανοητικά εξουθενωτικό, που κανένας άνθρωπος δεν θα έπρεπε να το κάνει ~ Νόμιζα ότι θα υποστήριζε πλήρως ολόκληρη τη βιομηχανία να γίνει αυτοματοποιημένη, με εργαλεία τεχνητής νοημοσύνης να εξελίσσονται μέχρι την εργασία.
Αλλά δεν το έκαναν.
Αυτό που συνάντησε, πολύ δυνατά, ήταν η τεράστια υπερηφάνεια που είχαν οι μετρητές στους ρόλους που είχαν παίξει στην προστασία του κόσμου από τη διαδικτυακή βλάβη.
Έβλεπαν τους εαυτούς τους ως μια ζωτική υπηρεσία έκτακτης ανάγκης.
Κάποιος λέει ότι ήθελε μια στολή και ένα σήμα, συγκρίνοντας τον εαυτό του με έναν τραυματιοφορέα ή πυροσβέστη.
Ούτε ένα δευτερόλεπτο δεν χάθηκε, λέει κάποιος που καλέσαμε τον Ντέιβιντ.
Ζήτησε να παραμείνει ανώνυμος, αλλά είχε εργαστεί πάνω σε υλικό που χρησιμοποιήθηκε για την εκπαίδευση του ιού AI chatbot ChatGPT, έτσι ώστε να ήταν προγραμματισμένο να μην αναζωογονήσει τρομακτικό υλικό.
Είμαι περήφανος για τα άτομα που εκπαίδευσαν αυτό το μοντέλο να είναι αυτό που είναι σήμερα.
Ο Ντέιβ Γουίλνερ είναι πρώην επικεφαλής εμπιστοσύνης και ασφάλειας στο OpenAI, ο δημιουργός της ChatGPT.
Λέει ότι η ομάδα του κατασκεύασε ένα υποτυπώδες εργαλείο μετριοπάθειας, βασισμένο στην τεχνολογία chatbots, η οποία κατάφερε να εντοπίσει βλαβερό περιεχόμενο με ρυθμό ακρίβειας περίπου 90%.
Όταν συνειδητοποίησα ότι αυτό θα πετύχει, ειλικρινά πνίγηκα λιγάκι, λέει.
Μην βαριέσαι.
Και δεν κουράζονται και δεν σοκάρονται...
Ωστόσο, δεν είναι όλοι σίγουροι ότι η AI είναι μια ασημένια σφαίρα για τον προβληματικό τομέα της μετριοπάθειας.
Νομίζω ότι είναι προβληματικό, λέει ο Δρ Paul Reilly, ανώτερος λέκτορας στα μέσα ενημέρωσης και τη δημοκρατία στο Πανεπιστήμιο της Γλασκώβης.
Το Clearly AI μπορεί να είναι ένας αρκετά αμβλύς, δυαδικός τρόπος μέτρησης του περιεχομένου.
Μπορεί να οδηγήσει σε υπερ-μπλοκάρισμα της ελευθερίας του λόγου ζητήματα, και φυσικά μπορεί να χάσει αποχρώσεις ανθρώπινο μέτρο θα είναι σε θέση να προσδιορίσει.
Η ανθρώπινη μετριοπάθεια είναι απαραίτητη για τις πλατφόρμες, προσθέτει.
Το πρόβλημα είναι ότι δεν υπάρχουν αρκετοί από αυτούς, και η δουλειά είναι εξαιρετικά επιβλαβής για εκείνους που το κάνουν.
Ένας εκπρόσωπος Τύπου του TikTok λέει ότι η εταιρεία γνωρίζει ότι η μετριοπάθεια περιεχομένου δεν είναι εύκολο έργο, και προσπαθεί να προωθήσει ένα περιβάλλον φροντίδας για τους εργαζόμενους.
Αυτό περιλαμβάνει την παροχή κλινικής υποστήριξης και τη δημιουργία προγραμμάτων που υποστηρίζουν την ευημερία των μετρητών.
Προσθέτουν ότι τα βίντεο ελέγχονται αρχικά από την αυτοματοποιημένη τεχνολογία, η οποία λένε ότι αφαιρεί μεγάλο όγκο βλαβερού περιεχομένου.
Εν τω μεταξύ, το Open AI - η εταιρεία πίσω από το Chat GPT - λέει ότι είναι ευγνώμων για τη σημαντική και μερικές φορές δύσκολη δουλειά που κάνουν οι ανθρώπινοι εργαζόμενοι για να εκπαιδεύσουν τον AI να εντοπίζει τέτοιες φωτογραφίες και βίντεο.
Ένας εκπρόσωπος Τύπου προσθέτει ότι, με τους εταίρους του, το Open AI εφαρμόζει πολιτικές για την προστασία της ευημερίας αυτών των ομάδων.
Και η Μέτα - η οποία κατέχει το Instagram και το Facebook - λέει ότι απαιτεί όλες τις εταιρείες με τις οποίες συνεργάζεται για να παρέχει 24ωρη επί τόπου υποστήριξη με εκπαιδευμένους επαγγελματίες.
Προσθέτει ότι οι μετρητές είναι σε θέση να προσαρμόσετε τα εργαλεία αναθεώρησης τους για να θολώσει το περιεχόμενο γραφικών.
Οι Συντονιστές είναι στο BBC Radio 4 στις 13:45 GMT, Δευτέρα 11, Νοέμβριος έως Παρασκευή 15, Νοέμβριος, και στο BBC Sounds.