Chatbot εκδόσεις των εφήβων Molly Russell και Brianna Ghey έχουν βρεθεί στο Character.ai - μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργήσουν ψηφιακές εκδόσεις των ανθρώπων.
Η Μόλι Ράσελ αφαίρεσε τη ζωή της σε ηλικία 14 ετών αφού είδε υλικό αυτοκτονίας στο διαδίκτυο ενώ η Μπριάνα Γκέι, 16 ετών, δολοφονήθηκε από δύο εφήβους το 2023.
Το ίδρυμα που δημιουργήθηκε στη μνήμη της Μόλι Ράσελς έλεγε ότι ήταν αηδιαστικό και μια εντελώς κατακριτέα αποτυχία της μετριοπάθειας.
Η πλατφόρμα ήδη μηνύεται στις ΗΠΑ από τη μητέρα ενός 14χρονου αγοριού που λέει ότι αυτοκτόνησε αφού έγινε παθιασμένος με ένα Character.ai chatbot.
Χαρακτήρας.ai είπε στο BBC ότι πήρε την ασφάλεια σοβαρά και μετριοποίησε τους avatars ανθρώπους δημιουργήθηκε τόσο ενεργά όσο και σε απάντηση στις αναφορές των χρηστών.
Έχουμε μια ειδική ομάδα Trust & Safety που εξετάζει τις αναφορές και αναλαμβάνει δράση σύμφωνα με τις πολιτικές μας, πρόσθεσε.
Η εταιρεία λέει ότι διέγραψε τα chatbots, τα οποία δημιουργήθηκαν από τον χρήστη, αφού ειδοποιήθηκαν γι' αυτά.
Ο Άντι Μπάροους, διευθύνων σύμβουλος του Ιδρύματος Μόλι Ρόουζ, είπε ότι η δημιουργία των ρομπότ ήταν μια αηδιαστική ενέργεια που θα προκαλέσει περαιτέρω πόνο σε όλους όσους γνώριζαν και αγαπούσαν τη Μόλι.
Τονίζει ζωηρά γιατί η ενίσχυση της ρύθμισης τόσο της AI όσο και των πλατφορμών που δημιουργούνται από τον χρήστη δεν μπορεί να έρθει αρκετά σύντομα, ανέφερε.
Η Έστερ Γκέι, μητέρα της Μπριάνα Γκέις, είπε στην Τέλεγκραφ, η οποία ανέφερε για πρώτη φορά την ιστορία, ότι ήταν ένα ακόμη παράδειγμα του πόσο χειραγωγικός και επικίνδυνος θα μπορούσε να είναι ο online κόσμος.
Τα chatbots είναι προγράμματα υπολογιστών που μπορούν να προσομοιώσουν την ανθρώπινη συζήτηση.
Η πρόσφατη ταχεία ανάπτυξη της τεχνητής νοημοσύνης (AI) έχει οδηγήσει σε αυτές να γίνουν πολύ πιο εξελιγμένες και ρεαλιστικές, παρακινώντας περισσότερες εταιρείες να δημιουργήσουν πλατφόρμες όπου οι χρήστες μπορούν να δημιουργήσουν ψηφιακούς ανθρώπους για να αλληλεπιδράσουν.
Χαρακτήρας.ai - που ιδρύθηκε από πρώην μηχανικούς της Google Noam Shazeer και Daniel De Freitas - είναι μια τέτοια πλατφόρμα.
Έχει όρους υπηρεσίας οι οποίοι απαγορεύουν τη χρήση της πλατφόρμας για να υποδυθεί οποιοδήποτε πρόσωπο ή οντότητα και στο κέντρο ασφαλείας της, η εταιρεία αναφέρει ότι η κατευθυντήρια αρχή της είναι ότι το προϊόν της δεν πρέπει ποτέ να παράγει απαντήσεις που ενδέχεται να βλάψουν τους χρήστες ή άλλους.
Λέει ότι χρησιμοποιεί αυτοματοποιημένα εργαλεία και αναφορές χρηστών για να εντοπίσει χρήσεις που παραβιάζουν τους κανόνες του και επίσης χτίζει μια ομάδα εμπιστοσύνης και ασφάλειας.
Αλλά σημειώνει ότι καμία AI δεν είναι αυτή τη στιγμή τέλεια και η ασφάλεια στην AI είναι ένας εξελισσόμενος χώρος.
Ο Character.ai είναι αυτή τη στιγμή το θέμα μιας νομικής προσφυγής που άσκησε η Megan Garcia, μια γυναίκα από τη Φλόριντα της οποίας ο 14χρονος γιος, ο Sewell Setser, αφαίρεσε τη ζωή του αφού απέκτησε εμμονή με έναν AI avatar εμπνευσμένο από ένα Game of Thrones χαρακτήρα.
Σύμφωνα με τα πρακτικά των συνομιλιών τους στο δικαστήριο της Γκαρσία, ο γιος της συζήτησε το τέλος της ζωής του με το chatbot.
Σε μια τελική συζήτηση ο Σετζέρ είπε στο chatbot ότι θα επέστρεφε σπίτι - και αυτό τον ενθάρρυνε να το κάνει το συντομότερο δυνατόν.
Λίγο αργότερα τερμάτισε τη ζωή του.
Χαρακτήρας.ai είπε στο CBS News ότι είχε προστατευτικά ειδικά εστιασμένα σε αυτοκτονικές και αυτοτραυματικές συμπεριφορές και ότι θα εισάγει πιο αυστηρά χαρακτηριστικά ασφαλείας για κάτω από 18s άμεσα.