Chatbot-Plattform Character.ai überarbeitet die Art und Weise, wie es für Jugendliche funktioniert, vielversprechend wird es ein "sicherer" Raum mit zusätzlichen Kontrollen für Eltern.
Die Website steht vor zwei Klagen in den USA - einer wegen des Todes eines Teenagers - und wurde als "klare und gegenwärtige Gefahr" für junge Menschen gebrandmarkt.
Es sagt, Sicherheit wird jetzt "infundiert" in allem, was es durch neue Funktionen, die Eltern erzählen, wie ihr Kind mit der Plattform - einschließlich, wie viel Zeit sie verbringen Gespräch mit Chatbots und die, die sie am meisten sprechen.
Die Plattform - die es den Nutzern ermöglicht, digitale Persönlichkeiten zu schaffen, mit denen sie interagieren können - wird bis Ende März 2025 ihre "erste Iteration" der elterlichen Kontrollen erhalten.
Aber Andy Burrows, Leiter der Molly Rose Foundation, nannte die Ankündigung "eine verspätete, reaktive und völlig unbefriedigende Antwort", die er sagte "scheint wie ein klebender Gips an ihren grundlegenden Sicherheitsproblemen zu fixieren".
"Es wird ein früher Test für Ofcom sein, sich mit Plattformen wie Character.ai auseinanderzusetzen und Maßnahmen gegen ihr anhaltendes Versagen zu ergreifen, um völlig vermeidbaren Schaden zu bekämpfen", sagte er.
Character.ai wurde im Oktober kritisiert, als Chatbot-Versionen der Teenager Molly Russell und Brianna Ghey auf der Plattform gefunden wurden.
Und die neuen Sicherheitsmerkmale kommen, da es rechtliche Schritte in den USA wegen der Bedenken, wie es Kindersicherheit in der Vergangenheit behandelt hat, mit einer Familie behauptet, ein Chatbot sagte einem 17-Jährigen, dass Mord an seinen Eltern eine "vernünftige Antwort" auf sie war seine Bildschirmzeit begrenzen.
Die neuen Funktionen umfassen eine Benachrichtigung der Nutzer, nachdem sie eine Stunde lang mit einem Chatbot gesprochen haben, und die Einführung neuer Disclaimer.
Den Benutzern werden nun weitere Warnungen angezeigt, dass sie mit einem Chatbot sprechen und nicht mit einer echten Person - und das, was es sagt, als Fiktion zu behandeln.
Und es fügt Chatbots zusätzliche Disclaimer hinzu, die angeblich Psychologen oder Therapeuten sind, um Nutzern zu sagen, dass sie sich nicht auf sie verlassen sollen, um professionelle Beratung zu erhalten.
Der Social-Media-Experte Matt Navarra sagte, er glaube, dass der Schritt, neue Sicherheitsmerkmale einzuführen, "eine zunehmende Anerkennung der Herausforderungen durch die schnelle Integration von KI in unser tägliches Leben widerspiegelt".
"Diese Systeme liefern nicht nur Inhalte, sondern simulieren Interaktionen und Beziehungen, die zu einzigartigen Risiken führen können, insbesondere um Vertrauen und Fehlinformationen", sagte er.
"Ich denke, Character.ai bekämpft eine wichtige Schwachstelle, das Potenzial für Missbrauch oder für junge Nutzer, unangemessene Inhalte zu finden.
"Es ist ein kluger Schritt, und einer, der die sich entwickelnden Erwartungen rund um verantwortungsbewusste KI-Entwicklung anerkennt." Aber er sagte, während die Veränderungen ermutigend waren, war er daran interessiert zu sehen, wie die Garantien halten, wie Character.ai weiter größer wird.