Η πλατφόρμα Chatbot Character.ai αναμορφώνει τον τρόπο που λειτουργεί για τους εφήβους, υποσχόμενη ότι θα γίνει ένας "ασφαλής" χώρος με επιπρόσθετους ελέγχους για τους γονείς.
Η ιστοσελίδα αντιμετωπίζει δύο αγωγές στις ΗΠΑ - μία για το θάνατο ενός έφηβου - και έχει χαρακτηριστεί ως "σαφής και τωρινός κίνδυνος" για τους νέους.
Λέει ότι η ασφάλεια θα είναι τώρα "εμπλουτισμένη" σε όλα όσα κάνει μέσω νέων χαρακτηριστικών που θα πουν στους γονείς πώς το παιδί τους χρησιμοποιεί την πλατφόρμα - συμπεριλαμβανομένου του πόσο χρόνο δαπανούν μιλώντας σε chatbots και σε αυτά που μιλάνε περισσότερο.
Η πλατφόρμα - η οποία επιτρέπει στους χρήστες να δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδράσουν - θα λάβει την "πρώτη λειτουργικότητα" των γονικών ελέγχων μέχρι τα τέλη Μαρτίου 2025.
Αλλά ο Andy Burrows, επικεφαλής του Ιδρύματος Molly Rose, αποκάλεσε την ανακοίνωση "μια καθυστερημένη, αντιδραστική και εντελώς μη ικανοποιητική απάντηση," την οποία είπε "φαίνεται σαν ένα κολλητικό γύψινο εξάρτημα στα θεμελιώδη ζητήματα ασφαλείας τους."
"Θα είναι μια πρώιμη δοκιμή για την Ofcom να πάρει να χειριστεί πλατφόρμες όπως το Character.ai και να αναλάβει δράση ενάντια στην επίμονη αποτυχία τους να αντιμετωπίσουν εντελώς αποφευκταία βλάβη," ανέφερε.
Character.ai επικρίθηκε τον Οκτώβριο όταν chatbot εκδόσεις των εφήβων Molly Russell και Brianna Ghey βρέθηκαν στην πλατφόρμα.
Και τα νέα χαρακτηριστικά ασφαλείας έρχονται καθώς αντιμετωπίζουν νομικές ενέργειες στις ΗΠΑ σχετικά με τις ανησυχίες για το πώς χειρίστηκε την ασφάλεια των παιδιών στο παρελθόν, με μια οικογένεια να ισχυρίζεται ότι ένα chatbot είπε σε έναν 17χρονο ότι ο φόνος των γονιών του ήταν μια "λογική απάντηση" σε αυτούς που περιόριζαν τον χρόνο της οθόνης του.
Τα νέα χαρακτηριστικά περιλαμβάνουν την ενημέρωση των χρηστών αφού έχουν μιλήσει σε ένα chatbot για μια ώρα, και την εισαγωγή νέων αποκηρύξεων.
Οι χρήστες θα δείξουν τώρα περαιτέρω προειδοποιήσεις ότι μιλούν σε ένα chatbot αντί για ένα πραγματικό πρόσωπο - και να αντιμετωπίζουν αυτά που λέει ως φαντασία.
Και είναι προσθήκη επιπλέον αποποίηση ευθύνης σε chatbots που υποτίθεται ότι είναι ψυχολόγοι ή θεραπευτές, να πω στους χρήστες να μην βασίζονται σε αυτά για επαγγελματικές συμβουλές.
Ο ειδικός στα μέσα κοινωνικής δικτύωσης Ματ Ναβάρα δήλωσε ότι πίστευε στην κίνηση για την εισαγωγή νέων χαρακτηριστικών ασφαλείας "αποφεύγει την αυξανόμενη αναγνώριση των προκλήσεων που θέτει η ταχεία ενσωμάτωση της AI στην καθημερινή μας ζωή."
"Αυτά τα συστήματα δεν παρέχουν μόνο περιεχόμενο, προσομοιώνουν αλληλεπιδράσεις και σχέσεις που μπορούν να δημιουργήσουν μοναδικούς κινδύνους, ιδιαίτερα γύρω από την εμπιστοσύνη και την παραπληροφόρηση," ανέφερε.
"Νομίζω ότι ο Character.ai αντιμετωπίζει μια σημαντική ευπάθεια, τη δυνατότητα για κατάχρηση ή για νέους χρήστες να αντιμετωπίσουν ακατάλληλο περιεχόμενο.
"Είναι μια έξυπνη κίνηση, και μια κίνηση που αναγνωρίζει τις εξελισσόμενες προσδοκίες γύρω από την υπεύθυνη ανάπτυξη της AI." Αλλά είπε ενώ οι αλλαγές ήταν ενθαρρυντικές, ενδιαφερόταν να δει πώς οι διασφαλίσεις κρατούν ως Character.ai συνεχίζει να μεγαλώνει.