Чатбот платформата Character.ai преразглежда начина, по който работи за тийнейджъри, обещавайки, че ще се превърне в "безопасно" пространство с добавени контроли за родителите.
Сайтът е изправен пред две съдебни дела в САЩ - едно за смъртта на тийнейджър - и е заклеймен като "ясна и настояща опасност" за младите хора.
В него се казва, че сега безопасността ще бъде "вливана" във всичко, което прави, чрез нови функции, които ще кажат на родителите как детето им използва платформата - включително колко време прекарват в разговори с чатботове и тези, с които говорят най-много.
Платформата, която позволява на потребителите да създават цифрови личности, с които могат да взаимодействат, ще получи своята "първа итерация" на родителски контрол до края на март 2025 г.
Но Анди Бъроуз, ръководител на фондацията Molly Rose, нарече съобщението "закъснял, реактивен и напълно незадоволителен отговор", което според него "изглежда като залепване на мазилка към основните им проблеми с безопасността".
"Ще бъде ранен тест за Ofcom да се справи с платформи като Character.ai и да предприеме действия срещу постоянния им неуспех да се справят с напълно предотвратими вреди", каза той.
Character.ai е критикуван през октомври, когато на платформата са намерени чатбот версии на тийнейджърите Моли Ръсел и Бриана Гей.
И новите функции за безопасност идват в момент, когато е изправен пред правни действия в САЩ поради опасения за това как се е справял с безопасността на децата в миналото, като едно семейство твърди, че чатбот е казал на 17-годишен, че убийството на родителите му е "разумен отговор" да ограничат времето му на екрана.
Новите функции включват даване на известие на потребителите, след като са разговаряли с чатбот в продължение на един час, и въвеждане на нови откази от отговорност.
На потребителите ще бъдат показани допълнителни предупреждения, че говорят с чатбот, а не с истински човек - и да се отнасят към това, което казва, като измислица.
И добавя допълнителни откази към чатботовете, които претендират да бъдат психолози или терапевти, за да кажат на потребителите да не разчитат на тях за професионални съвети.
Експертът по социални медии Мат Навара заяви, че смята, че ходът за въвеждане на нови функции за безопасност "отразява нарастващото признаване на предизвикателствата, породени от бързата интеграция на AI в нашето ежедневие".
"Тези системи не просто доставят съдържание, те симулират взаимодействия и взаимоотношения, които могат да създадат уникални рискове, особено около доверието и дезинформацията", каза той.
"Мисля, че Character.ai се справя с важна уязвимост, с потенциала за злоупотреба или за младите потребители да се натъкнат на неподходящо съдържание.
"Това е умен ход и този, който признава развиващите се очаквания около отговорното развитие на AI." Но той каза, че докато промените са окуражаващи, той е заинтересован да види как предпазните мерки се задържат, тъй като Character.ai продължава да става по-голям.