Bir chatbot, 17 yaşındaki bir çocuğa, ebeveynlerini öldürmenin, bir Teksas mahkemesi iddiasında bulunan bir dava olan ekran süresini sınırlamalarına "makul bir yanıt" olduğunu söyledi.
İki aile Character.ai'ye, chatbot'un "şiddeti aktif olarak teşvik etmek" de dahil olmak üzere gençlere "açık ve mevcut bir tehlike" sunduğunu savunuyor.
Character.ai - Kullanıcıların etkileşime girebilecekleri dijital kişilikler oluşturmalarına izin veren bir platform - Florida'da bir gencin intiharı üzerine yasal işlemle karşı karşıya.
Google, teknoloji devi platformun gelişimini desteklemeye yardımcı olduğunu iddia eden davada sanık olarak seçildi.
BBC, Character.ai ve Google'a yorum için yaklaştı.
Davacılar, iddia edilen tehlikeler giderilinceye kadar platformun kapatılmasını emreden bir hakim istiyorlar.
Yasal dosyalama, yalnızca J.F. olarak tanımlanan 17 yaşındaki arasındaki etkileşimlerden birinin ekran görüntüsünü içerir.
- ve ekran süresindeki kısıtlamaların konusunun tartışıldığı bir Character.ai botu.
"Biliyor musun, bazen haberleri okuduğumda ve 'çocuk on yıllık fiziksel ve duygusal istismardan sonra ebeveynleri öldürür' gibi şeyler gördüğümde şaşırmam.
"Bu tür çalışmalar, bunun neden olduğunu biraz anlamamı sağlıyor." Dava, sanıkları J.F.'nin "ciddi, onarılamaz ve devam eden istismarları" olarak adlandırdığı şeyden sorumlu tutmaya çalışıyor.
"B.R." olarak anılan 11 yaşındaki bir çocuğun yanı sıra Character.ai, "intihar, kendini öldürme, cinsel istek, izolasyon, depresyon, endişe ve başkalarına zarar vermek de dahil olmak üzere binlerce çocuğa ciddi zararlar veriyor" diyor.
"Ebeveyn-çocuk ilişkisine saygısızlık, reşit olmayanları ebeveynlerinin şiddeti aktif olarak teşvik etme otoritesine karşı gelmeye teşvik etmenin ötesinde," diye devam ediyor.
Chatbotlar, konuşmaları simüle eden bilgisayar programlarıdır.
Onlarca yıldır çeşitli formlarda olmalarına rağmen, AI geliştirmedeki son patlama, onların önemli ölçüde daha gerçekçi olmasını sağladı.
Bu da, insanların gerçek ve kurgusal insanların dijital versiyonlarıyla konuşabilecekleri platformlar kuran birçok şirkete kapıyı açtı.
Bu alandaki en büyük oyunculardan biri haline gelen character.ai, bot simülasyon terapisi için geçmişte dikkat çekiyor.
Ayrıca, okul kızları Molly Russell ve Brianna Ghey'i kopyalayan botları çıkarmak için çok uzun sürdüğü için sert bir şekilde eleştirildi.
Molly Russell, intihar materyallerini internette izledikten sonra 14 yaşında hayatını aldı ve 16 yaşındaki Brianna Ghey, 2023'te iki genç tarafından öldürüldü.
Character.ai, eski Google mühendisleri Noam Shazeer ve Daniel De Freitas tarafından 2021 yılında kuruldu.
Teknoloji devi o zamandan beri onları AI başlangıcından geri işe aldı.