Όταν ένα ηχητικό κλιπ φάνηκε να δείχνει έναν διευθυντή του τοπικού σχολείου να κάνει υποτιμητικά σχόλια, έγινε viral online, πυροδότησε απειλές θανάτου εναντίον του εκπαιδευτικού και έστειλε κύματα μέσα από ένα προάστιο έξω από την πόλη της Βαλτιμόρης.
Αλλά σύντομα αποκαλύφθηκε ως μια ψεύτικη, χειραγωγημένη από τεχνητή νοημοσύνη - οπότε γιατί οι άνθρωποι εξακολουθούν να πιστεύουν ότι είναι αληθινή;
Σοβαρά δεν καταλαβαίνω γιατί πρέπει να ανεχτώ συνεχώς αυτούς τους ηλίθιους εδώ κάθε μέρα.Αρχίζω έτσι αυτό που έμοιαζε να είναι μια μακρά παρωδία από τον διευθυντή του Γυμνασίου του Πάικσβιλ, με ρατσιστικά, αντισημιτικά και επιθετικά τροπικά.
Ακούστηκε σαν να ηχογραφήθηκε κρυφά.
Ο ομιλητής συνέχισε να θρηνεί αδυσώπητα μαύρα παιδιά και τους Εβραίους στην κοινότητα.
Το κλιπ, που δημοσιεύτηκε για πρώτη φορά τον Ιανουάριο, έγινε ιογενής σε εθνικό επίπεδο.
Αλλά πραγματικά χτύπησε ένα νεύρο στο ειρηνικό, φυλλώδες προάστιο του Πάικσβιλ, το οποίο έχει μεγάλους μαύρους και εβραϊκούς πληθυσμούς, και στη γειτονική πόλη της Βαλτιμόρης, στο Μέριλαντ.
Ο διευθυντής Eric Eiswert τέθηκε σε πληρωμένη διοικητική άδεια εν αναμονή έρευνας.
Ο Άλφι Μαλόουν, ένας μαύρος που ζει στη Βαλτιμόρη, εντόπισε άλλα μέλη της κοινότητάς του που ανέβασαν το βίντεο και υπέθεσε ότι ήταν αληθινό.
Στο πίσω μέρος του μυαλού σας πιστεύετε ότι ίσως έτσι αισθάνονται πραγματικά οι άνθρωποι για εμάς, είπε ο κ. Malone.
Σε μια προσπάθεια να επιβεβαιώσει αυτό που άκουγε, ο κ. Malone έλεγξε άλλες πραγματικές ηχογραφήσεις του κ. Eiswert στα μέσα κοινωνικής δικτύωσης και ακουγόταν το ίδιο.
Οπότε ο ταχυδρόμος μερικής απασχόλησης, μερικής απασχόλησης podcaster, χτύπησε το κουμπί επαναδιαμοιρασμού.
Το κλιπ άρχισε να αποκτά πρόσβαση στα μέσα κοινωνικής δικτύωσης καθώς περισσότεροι άνθρωποι το διέδωσαν στο διαδίκτυο.
Μια από τις πιο κοινές εκδόσεις ήταν καλά στο δρόμο της για να περάσει δύο εκατομμύρια απόψεις μέσα σε ώρες.
Ήδη, αυτό είναι περίπου 60 φορές το σύνολο του πληθυσμού του Πάικσβιλ.
Αλλά αυτό που εκείνοι που μοιράζονται το κλιπ δεν κατάλαβαν τότε ήταν ότι μια άλλη βόμβα ήταν έτοιμη να πέσει: το κλιπ ήταν πλαστό.
Για το ραδιόφωνο του BBC, γιατί με μισείς στις ΗΠΑ, ήμουν στο Μέριλαντ ερευνώντας τον αντίκτυπο που είχε αυτό το κλιπ σε εκείνη την πόλη.
Διαβάζει σχεδόν σαν μύθος για τους κινδύνους που θέτει η AI, ειδικά όταν οι τοπικές κοινότητες είναι στο στόχαστρο.
Όταν το κλιπ προσγειώθηκε στο γραφείο της Κρίστεν Γκρίφιθ, μιας μορφωτικής ρεπόρτερ στο Μπάνερ της Βαλτιμόρης, σκέφτηκε ότι θα ήταν μια σχετικά απλή ιστορία για έναν δάσκαλο που εκτέθηκε επειδή έκανε προσβλητικά σχόλια.
Αλλά όπως είναι η καλύτερη πρακτική στη δημοσιογραφία, η κ. Griffith ήθελε να δώσει στον διευθυντή την ευκαιρία να σχολιάσει και να πει την δική του πλευρά της ιστορίας.
Έτσι, προσέγγισε τον εκπρόσωπο της ένωσης του, ο οποίος είπε όχι μόνο ότι ο κ. Eiswert καταδίκασε τα σχόλια, αλλά δεν τα έκανε.
Είπε αμέσως, ω, πιστεύουμε ότι είναι ψεύτικο... πιστεύουμε ότι είναι AI, έτσι είπε στο BBC.
Δεν είχα ξανακούσει αυτή τη γωνία.
Αλλά όταν δημοσίευσε αυτή την εξήγηση, οι αναγνώστες της δεν ήταν πεπεισμένοι.
Αντί να εγείρει ερωτήματα σχετικά με την ειλικρίνεια του κλιπ, απλά τροφοδοτούσε τις αντιδράσεις των ανθρώπων που πίστευαν ότι ο ισχυρισμός της ψεύτικης ήταν απλά μια δικαιολογία ή μια προσπάθεια να αποφύγει τη λογοδοσία.
Σε αυτό το σημείο η τοπική αστυνομία άρχισε να ερευνά την υπόθεση.
Το προσωπικό στο λύκειο του Πάικσβιλ τους είπε ότι ένιωθαν ανασφαλείς λόγω όλης της προσοχής, και ανησυχούν ότι το σχολείο είχε κοριό με συσκευές εγγραφής.
Η φήμη του διευθυντή Eiswert είχε πάρει και ένα σοβαρό χτύπημα.
Η ασφάλεια εντάθηκε γύρω από αυτόν και το σχολείο.
Έγινε στόχος για το μίσος και τις απειλές στα μέσα κοινωνικής δικτύωσης.
Βρήκα δεκάδες βίαια μηνύματα που τον σημαδεύουν στα μέσα κοινωνικής δικτύωσης.
Στη συνέχεια, τον Απρίλιο, ο αρχηγός της αστυνομίας της Βαλτιμόρης Ρόμπερτ Μακ Κάλοφ επιβεβαίωσε ότι τώρα είχαν αποδεικτικά στοιχεία ότι η ηχογράφηση δεν ήταν αυθεντική.
Και πίστευαν ότι ήξεραν ποιος έκανε το ψεύτικο.
Η αστυνομία κατηγόρησε τον 31χρονο Dazhon Darien, διευθυντή του αθλητικού σχολείου, με αρκετές κατηγορίες σχετικά με το ψεύτικο βίντεο.
Οι κατηγορίες περιλάμβαναν κλοπή, αντίποινα εναντίον μάρτυρα και καταδίωξη.
Συνελήφθη στο αεροδρόμιο, όπου η αστυνομία είπε ότι σκόπευε να πετάξει στο Χιούστον του Τέξας.
Η αστυνομία λέει ότι ο κ. Darien ήταν υπό έρευνα από τον διευθυντή Eiswert για μια υποτιθέμενη κλοπή $1,916 (£1,460) από το σχολείο.
Ισχυρίζονται επίσης ότι υπήρξαν προκλήσεις για την απόδοση της εργασίας κατά την εργασία και ότι το συμβόλαιό του ήταν πιθανόν να μην ανανεωθεί.
Η θεωρία τους ήταν ότι με τη δημιουργία της βαθιάς ψεύτικης ηχογράφησης, ήλπιζε να δυσφημίσει τον διευθυντή πριν μπορέσει να απολυθεί.
Οι ερευνητές λένε ότι εντόπισαν ένα email που χρησιμοποιήθηκε για να στείλουν το αρχικό βίντεο σε έναν διακομιστή συνδεδεμένο με τον κ. Darien, και ισχυρίζονται ότι χρησιμοποίησε το δίκτυο υπολογιστών της κομητείας της Βαλτιμόρης για να έχει πρόσβαση στα εργαλεία της AI.
Πρόκειται να δικαστεί το Δεκέμβριο του 2024.
Οι νόμιμοι εκπρόσωποι του κ. Darien. Darien.......................................................................................................................................................................................................................................................
Ο επιθεωρητής της κομητείας της Βαλτιμόρης Μίριαμ Ρότζερς είχε πει στο παρελθόν ότι ήταν μια πολύ δύσκολη περίοδος για τη σχολική κοινότητα, τον διευθυντή και την οικογένειά του.
Οι εκπρόσωποι του Λυκείου Πάικσβιλ και του κ. Έισγουερτ δεν ανταποκρίθηκαν στα αιτήματά μου για περαιτέρω σχόλια.
Επειδή το κλιπ ήταν μόνο ήχου, σήμαινε ότι δεν υπήρχαν οπτικά δώρα, όπως ρομποτικές κινήσεις που συνήθως αποκαλύπτουν χειραγώγηση του ΑΙ.
Ανέφερε επίσης την ορολογία, όπως τις προσδοκίες σε επίπεδο βαθμού, και άλλες λεπτομέρειες, όπως ονόματα προσωπικού, που μόνο οι άνθρωποι κοντά στο σχολείο θα γνωρίζουν.
Όταν ακούτε προσεκτικά, όμως, υπάρχουν σαφείς διορθώσεις μεταξύ των προτάσεων - και της φωνής, ενώ παρόμοιο με τον κύριο, ακούγεται αρκετά μονότονο.
Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιήσει αρκετά λεπτά από μια πραγματική ηχογράφηση - από, ας πούμε, τον αγαπημένο σας ηθοποιό σε μια ταινία ή έναν προεδρικό υποψήφιο που βγάζει λόγο - για να δημιουργήσει ένα κλιπ που το κάνει να ακούγεται σαν να έλεγαν κάτι που δεν έκανε ποτέ.
Αλλά ίσως ο μεγαλύτερος λόγος για τον οποίο οι άνθρωποι πίστευαν ότι το βίντεο ήταν αληθινό ήταν επειδή ήταν αλήθεια, μου το είπε ο κ. Malone.
Μπήκε στις δικές του εμπειρίες ρατσισμού ως μαύρος που ζούσε στη Βαλτιμόρη.
Όταν ο κ. Malone άκουσε τον διευθυντή να περιγράφει τους μαύρους μαθητές ως τεμπέληδες, του θύμισε αμέσως τις αηδίες και τις διακρίσεις που συνάντησε στο σχολείο και την εργασία.
Μήνες αργότερα, τα αποτελέσματα του ψεύτικου ακουστικού κλιπ είναι ακόμα αισθητή στο Pikesville.
Ο κ. Eiswert έχει μετακινήσει θέσεις εργασίας και εργάζεται σε άλλο σχολείο.
Και παρόλο που κάποια μέλη της κοινότητας μου είπαν ότι τώρα δέχονται το βίντεο είναι ψεύτικο, η ζημιά έγινε.
Αυτή είναι μια εβραϊκή γειτονιά και για να πω κάτι που είναι τόσο εμπρηστικό για την κοινότητα ήταν αναστατωμένος, έτσι μια γυναίκα που ονομάζεται Sharon μου είπε καθώς πακετάρισε το καροτσάκι της σε ένα αυτοκίνητο σε ένα σπίτι απέναντι από το γυμνάσιο τον περασμένο Αύγουστο.
Για αρκετά λεπτά, η Σάρον μου μίλησε σαν να ήταν αληθινή.
Νομίζω ότι όταν οι άνθρωποι λένε τέτοια πράγματα, άλλοι άνθρωποι συμμετέχουν σε αυτό και αυτό με κάνει να φοβάμαι περισσότερο.Αυτό όταν ο σύζυγός της χτύπησε από το αυτοκίνητο, υπενθυμίζοντάς της ότι το κλιπ ήταν στην πραγματικότητα ψεύτικο, παραδέχτηκε ότι το έκανε.
Αλλά είπε ότι ήταν ακόμα θυμωμένη γι' αυτό.
Διαπίστωσα ότι για ανθρώπους σαν τη Σάρον, που πίστευαν ότι το κλιπ ήταν αληθινό, ακόμη και για λίγο καιρό, έμεινε μαζί τους - ειδικά όταν το μήνυμα απηχούσε γνήσιες εμπειρίες ρατσισμού και διακρίσεων.
Μου θύμισε κάτι που ακούω ξανά και ξανά ενώ ερευνώ θεωρίες παραπληροφόρησης και συνωμοσίας: Λοιπόν, ακόμα και αν δεν είναι αληθινό, αυτό που νομίζω ότι πιστεύουν.
Αλλά αυτή η πράξη συμβαίνει μόνο όταν μπορεί να αποδειχθεί ότι ένα κλιπ είναι ψεύτικο.
Σε αυτό το σημείο, θα μπορούσε ήδη να έχει φτάσει σε εκατομμύρια ανθρώπους.
Ο Άλφι Μαλόουν είπε ότι νωρίτερα εκείνη τη μέρα, μίλησε σε ένα φίλο που ακόμα δεν είχε ιδέα ότι το κλιπ ήταν φτιαγμένο από ΑΙ.
Ειλικρινά πιστεύω ότι πολλοί άνθρωποι εδώ σε αυτή την πόλη δεν γνωρίζουν πραγματικά ότι αυτό δεν είναι αλήθεια, είπε.
Είπε ότι λυπάται που ο κ. Eiswert, ο διευθυντής του σχολείου, κατηγορήθηκε εσφαλμένα ότι έκανε τα σχόλια.
Ανησυχεί επίσης ότι το επεισόδιο έχει υπονομεύσει πραγματικές εμπειρίες ρατσισμού.
Είπε ότι το ξανασκέφτηκε πριν ξαναμοιραστεί ένα τέτοιο βίντεο.
Κάηκα από τη φωτιά μια φορά.
Δεν αγγίζω την κουζίνα ξανά.