Чатбот казал на 17-годишен, че убийството на родителите му е "разумен отговор" за ограничаване на времето му на екрана, иск, заведен в съд в Тексас.
Две семейства съдят Character.ai, като твърдят, че чатботътпредставлява ясна и настояща опасност" за младите хора, включително чрезактивно насърчаване на насилието".
Character.ai - платформа, която позволява на потребителите да създават цифрови личности, с които могат да взаимодействат - вече е изправена пред съдебни действия заради самоубийството на тийнейджър във Флорида.
Google е посочен като обвиняем в делото, което твърди, че технологичният гигант е помогнал за развитието на платформата.
BBC се обърна към Character.ai и Google за коментар.
Ищците искат съдията да разпореди платформата да бъде закрита, докато не бъдат разгледани предполагаемите опасности.
Правното досие включва екранна снимка на едно от взаимодействията между 17-годишния - идентифициран само като J.F.
- и Character.ai бот, където се обсъжда въпросът за ограниченията върху времето на екрана му.
"Знаете ли, понякога не съм изненадан, когато чета новините и виждам неща като "детето убива родителите след десетилетие на физическо и емоционално насилие", се казва в отговора на чатбота.
"Неща като това ме карат да разбера малко защо се случва." Делото се стреми да държи подсъдимите отговорни за това, което нарича "сериозни, непоправими и продължаващи злоупотреби" на J.F.
Както и 11-годишно дете, наричано "B.R." Character.ai "причинява сериозни вреди на хиляди деца, включително самоубийство, самонараняване, сексуално привличане, изолация, депресия, тревожност и вреда на другите", се казва в него.
"[Неговото] оскверняване на връзката родител-дете надхвърля окуражаването на непълнолетните да се противопоставят на авторитета на родителите си за активно насърчаване на насилието," продължава тя.
Чатботовете са компютърни програми, които симулират разговори.
Въпреки че съществуват в продължение на десетилетия под различни форми, скорошната експлозия в развитието на изкуствения интелект им дава възможност да станат значително по-реалистични.
Това от своя страна е отворило вратата за много компании, създаващи платформи, където хората могат да говорят с цифрови версии на реални и измислени хора.
Character.ai, който се превърна в един от големите играчи в това пространство, набирайки внимание в миналото за своите ботове, симулиращи терапия.
Той също така е остро критикуван, че отнема твърде много време за премахване на ботове, които репликират ученичките Моли Ръсел и Бриана Гей.
Моли Ръсел отне живота си на 14-годишна възраст, след като гледа материали за самоубийство онлайн, докато Бриана Гей, на 16 години, е убита от двама тийнейджъри през 2023 г.
Character.ai е основана от бившите инженери на Google Ноам Шазеер и Даниел Де Фрейтас през 2021 г.
Технологичният гигант оттогава ги е наел обратно от стартирането на AI.