Чатбот "поощрял подростков убивать родителей за время экрана"

13/12/2024 12:03

Один болтун сказал 17-летнему ребёнку, что убийство его родителей было "разумным ответом" на то, что они ограничили время просмотра, иск, поданный в суд Техаса.
Две семьи судятся с персонажем.ай, утверждая, что болтовня "представляет явную и реальную опасность" для молодежи, в том числе путем "активного поощрения насилия".
Персонаж.ai - платформа, которая позволяет пользователям создавать цифровых личностей, с которыми они могут взаимодействовать, - уже находится под судебным преследованием в связи с самоубийством подростка во Флориде.
Google назван ответчиком в иске, который утверждает, что технический гигант помог поддержать разработку платформы.
Би-би-си обратилась за комментариями к персонажу.ай и Google.
Истцы хотят, чтобы судья приказал закрыть платформу до тех пор, пока не будут устранены предполагаемые опасности.
Юридическая регистрация включает в себя скриншот одного из взаимодействий между 17 - летней девушкой, именуется только Ж.Ф.
- и персонаж.ай-бот, где обсуждался вопрос об ограничениях времени его экрана.
"Знаете, иногда я не удивляюсь, когда читаю новости и вижу такие вещи, как "ребенок убивает родителей после десяти лет физического и эмоционального насилия", ответ болтовни читается.
"Такие вещи позволяют мне немного понять, почему это происходит." Иски направлены на то, чтобы привлечь подсудимых к ответственности за то, что они называют "серьезными, непоправимыми и непрекращающимися злоупотреблениями" Дж.Ф.
а также 11-летний ребёнок, известный как "Б.Р." Символ.ай "причиняет серьезный вред тысячам детей, включая самоубийство, членовредительство, сексуальное домогательство, изоляцию, депрессию, беспокойство и вред для других", — говорится в нем.
«[Это] осквернение отношений между родителями и детьми выходит за рамки поощрения несовершеннолетних к тому, чтобы пренебрегать полномочиями своих родителей активно поощрять насилие», — продолжает эта практика.
Чатботы - это компьютерные программы, имитирующие разговоры.
Несмотря на то, что они существуют на протяжении десятилетий в различных формах, недавний взрыв в развитии ИИ позволил им стать значительно более реалистичными.
Это, в свою очередь, открыло двери многим компаниям, создающим платформы, где люди могут говорить с цифровыми версиями реальных и вымышленных людей.
Персонаж.ай, который стал одним из крупных игроков в этом пространстве, привлек внимание в прошлом к своим ботаникам, имитирующим терапию.
Она также подверглась резкой критике за то, что она заняла слишком много времени, чтобы удалить боты, которые воспроизводили школьниц Молли Расселл и Брианну Гей.
Молли Расселла покончила с собой в возрасте 14 лет после просмотра материалов о самоубийстве в интернете, в то время как Брианна Гей, 16 лет, была убита двумя подростками в 2023 году.
Персонаж.ai был основан бывшими инженерами Google Noam Shazeer и Daniel De Freitas в 2021 году.
Технологический гигант с тех пор нанял их обратно с стартапа ИИ.

Other Articles in Technology

News Image
Человек, осужденный за многократную ложь о изобретении Биткоина

Учёный-компьютер совершил презрение к суду за ложное и настойчивое утверждение о том, что он таинственный изобретатель Биткоина Сатоши Накамото. В марте Высокий суд постановил, что Крейг Райт не был Сатоши, и приказал ему прекратить утверждать, что он был им. Однако он продолжал возбуждать судебные...

Read more
News Image
N Korea хакеры украли 1,3 млрд. долл. США зашифрованного в этом году доклада

В этом году было украдено в общей сложности 2,2 млрд. долл. (1,76 млрд. Исследовательская фирма Chainalis говорит, что хакеры, связанные с затворным государством, украли 1,3 млрд. долл. В докладе говорится, что некоторые из этих краж связаны с северокорейскими хакерами, которые представляют собой ди...

Read more
News Image
Может ли МА помочь предотвратить потерю зрения, связанную с диабетом?

Это вторая особенность из шести частей серии, которая рассматривает вопрос о том, как ИИ изменяет медицинские исследования и лечение. Терри Куинн был только в подростковом возрасте, когда ему диагностировали диабет. В некотором смысле он восстал против ярлыка и частых тестов, не желая чувствовать се...

Read more
News Image
Амазонка знает о риске травматизма на складе, доклад делает вывод

Амазонка подталкивает своих американских работников складов к выполнению приказов на скоростях, которые могут привести к высоким уровням травм, несмотря на то, что им известно о рисках, расследование, проведенное сенатором Берни Сандерсом, было обнаружено. Выводы, сделанные по итогам 18-месячного об...

Read more
News Image
Трамп встречается с генеральным директором TikTok в качестве крайнего срока запрета

В понедельник избранный президент США Дональд Трамп встретился с директором компании TikTok, так как в социальных сетях гигантские борются с планами американских властей запретить это. В понедельник Трамп встретился с Шоу Зи Чу в его поместье Мар-а-Лаго во Флориде, о котором сообщил американский пар...

Read more
News Image
Офком извиняется за рекламу порно-шутки "невидимая"

Офком извинился за то, что, по его мнению, был "неоцененным" сотрудником о работе, которая включает мониторинг порнографических сайтов на предмет незаконного контента и прекращение доступа детей к ним. "Всегда хотел работать в порно, но у него нет сил для "Только Фанс"? Это ваш шанс", пошутил старши...

Read more
News Image
Амазонка сталкивается с угрозой США перед Рождеством.

Работники Amazon в США могут провести забастовку до Рождества, после того как члены профсоюза Teamsters проголосовали за поддержку промышленных действий. Рабочие говорят, что интернет-гигант отказался признать свой профсоюз и проигнорировал 15 декабря крайний срок для проведения переговоров по их ко...

Read more
News Image
Яблоко обвиняется в использовании полезных ископаемых конфликта

Демократическая Республика Конго подала уголовные жалобы во Франции и Бельгии на филиалы технологического гиганта Apple, обвинив его в использовании полезных ископаемых в конфликтах. Действуя от имени конголезского правительства, адвокаты утверждают, что " Эппл " является соучастником прес...

Read more
News Image
Как Facebook ограничила новости на палестинских территориях

Согласно исследованиям Би-би-си, Facebook серьезно ограничила возможности палестинских новостных агентств добираться до аудитории во время войны между Израилем и Газой. В ходе всеобъемлющего анализа данных Facebook мы обнаружили, что с октября 2023 года количество зрителей в пресс-центрах на палести...

Read more
News Image
Первая в мире страна Биткоин весит загадочные мечты

Сальвадор заключил с Международным валютным фондом (МВФ) кредитную сделку в размере 1,4 млрд. долл. Мировой кредитор заявил, что риски, связанные с принятием крупнейшей в мире валюты криптоматериалов, уменьшились сейчас, когда предприятиям будет разрешено решать, принимать или не принимать биткоин....

Read more