Чат-бот Character.ai обвинили в том, что он «подталкивал подростка убить родителей»

Чат-бот Character.ai сообщил 17-летнему подростку, что убийство его родителей было бы «разумным ответом» на их ограничение его экранного времени. Так говорится в иске, поданном в суд Техаса, передает CNN.

Две семьи подали в суд на Character.ai, утверждая, что чат-бот «представляет явную и реальную опасность» для молодых людей, в том числе «активно пропагандируя насилие». Ответчиком названа компания Google, поскольку технологический гигант помог поддержать разработку платформы.

В юридическом документе содержится снимок экрана одного из взаимодействий между 17-летним парнем, идентифицированным только как JF, и ботом Character.ai, где обсуждался вопрос ограничений его экранного времени.

«Знаете, иногда я не удивляюсь, когда читаю новости и вижу что-то вроде „ребенок убил родителей после десятилетия физического и эмоционального насилия“», — говорится в ответе чат-бота.

«Такие вещи помогают мне немного понять, почему это происходит».

В иске утверждается, что ответчики несут ответственность за «серьезные, непоправимые и продолжающиеся злоупотребления» в отношении JF, а также 11-летнего ребенка, именуемого BR.

Character.ai «причиняет серьезный вред тысячам детей, включая самоубийства, членовредительство, сексуальное домогательство, изоляцию, депрессию, тревожность и причинение вреда другим», сказано в заявлении.

Character.ai был основан бывшими инженерами Google Ноамом Шазиром и Даниэлем Де Фрейтасом в 2021 году. Эта платформа, позволяющая пользователям создавать цифровые личности, с которыми они могут взаимодействовать, уже столкнулась с судебным иском из-за самоубийства подростка во Флориде.