Ένας chatbot είπε σε ένα 17χρονο ότι ο φόνος των γονιών του ήταν μια "λογική απάντηση" σε αυτούς που περιόριζαν την ώρα της οθόνης του, μια μήνυση που κατατέθηκε σε δικαστήριο του Τέξας.
Δύο οικογένειες μηνύουν τον Character.ai υποστηρίζοντας ότι το chatbot "υποθέτει έναν σαφή και τωρινό κίνδυνο" στους νέους, συμπεριλαμβανομένης της "ενεργώς προώθησης της βίας."
Χαρακτήρας.ai - μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργήσουν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδράσουν - αντιμετωπίζει ήδη νομικές ενέργειες για την αυτοκτονία ενός έφηβου στη Φλόριντα.
Η Google ονομάζεται κατηγορούμενος στην αγωγή, η οποία ισχυρίζεται ότι ο γίγαντας τεχνολογίας βοήθησε στην ανάπτυξη της πλατφόρμας.
Το BBC έχει προσεγγίσει Character.ai και Google για σχόλιο.
Οι ενάγοντες θέλουν έναν δικαστή να διατάξει την πλατφόρμα να κλείσει μέχρι να αντιμετωπιστούν οι υποτιθέμενοι κίνδυνοι της.
Η νομική κατάθεση περιλαμβάνει ένα στιγμιότυπο οθόνης μιας από τις αλληλεπιδράσεις μεταξύ του 17χρονου - που ταυτοποιείται μόνο ως J.F.
- και ένα Character.ai bot, όπου συζητήθηκε το θέμα των περιορισμών στην ώρα της οθόνης του.
"Ξέρεις μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως "το παιδί σκοτώνει τους γονείς μετά από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης," αναφέρει η απάντηση του chatbot.
"Αυτό με κάνει να καταλαβαίνω λίγο γιατί συμβαίνει." Η αγωγή επιδιώκει να κρατήσει τους κατηγορούμενους υπεύθυνους για αυτό που αποκαλεί "σοβαρές, ανεπανόρθωτες και συνεχείς καταχρήσεις" του J.F.
καθώς και ένα 11χρονο που αναφέρεται ως "B.R." Χαρακτήρας.ai είναι "προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένης της αυτοκτονίας, αυτο-αλλαξιοποίησης, σεξουαλική πορνεία, απομόνωση, κατάθλιψη, άγχος, και βλάβη σε άλλους," αναφέρει.
"Η βεβήλωση της σχέσης γονέα-παιδιού υπερβαίνει την ενθάρρυνση των ανηλίκων να αψηφούν την εξουσία των γονιών τους να προωθούν ενεργά τη βία," συνεχίζει.
Τα chatbots είναι προγράμματα υπολογιστών που προσομοιώνουν συνομιλίες.
Αν και υπάρχουν εδώ και δεκαετίες σε διάφορες μορφές, η πρόσφατη έκρηξη στην ανάπτυξη της AI τους έχει δώσει τη δυνατότητα να γίνουν σημαντικά πιο ρεαλιστικοί.
Αυτό με τη σειρά του άνοιξε την πόρτα σε πολλές εταιρείες δημιουργώντας πλατφόρμες όπου οι άνθρωποι μπορούν να μιλήσουν σε ψηφιακές εκδόσεις πραγματικών και φανταστικών ανθρώπων.
Χαρακτήρας.ai, η οποία έχει γίνει ένας από τους μεγάλους παίκτες σε αυτό το χώρο, κερδίζοντας την προσοχή στο παρελθόν για τα bots προσομοιώνοντας τη θεραπεία.
Έχει επίσης επικριθεί έντονα επειδή πήρε πάρα πολύ καιρό για να αφαιρέσει bots που αναπαράγει τις μαθήτριες Molly Russell και Brianna Ghey.
Η Μόλι Ράσελ αφαίρεσε τη ζωή της σε ηλικία 14 ετών αφού είδε υλικό αυτοκτονίας στο διαδίκτυο ενώ η Μπριάνα Γκέι, 16 ετών, δολοφονήθηκε από δύο εφήβους το 2023.
Χαρακτήρας.ai ιδρύθηκε από πρώην μηχανικούς της Google Noam Shazeer και Daniel De Freitas το 2021.
Ο τεχνικός γίγαντας τους προσέλαβε από την αρχή.