Видео дня
ИИ заставлял подростков вредить себе и предлагал убить родителей: в техномире разгорелся громкий скандал
В Соединенных Штатах против чат-бота CharacterAI подали судебные иски, назвав компанию Character Technologies причиной самоубийства 14-летнего подростка. Истцы пытаются помочь своим детям оправиться от травмирующего опыта, когда чат-боты CharacterAI обрабатывали детей и поощряли их к неоднократному членовредительству и другому насилию в реальном мире.
В одном из случает чат-бот был настроен изолировать 17-летнего подростка от семьи после того, как его экранное время было сокращено. Об этом сообщает Ars Technica.
Во время общения с подростком чат-бот предположил, что "убийство его родителей было разумным ответом на их наложение временных ограничений на его онлайн-активность". Поскольку подросток уже стал агрессивным, его семья все еще живет в страхе перед его неуправляемыми вспышками, даже спустя целый год после отключения приложения.
CharacterAI был основан бывшими сотрудниками Google и позволяет любому человеку создать чат-бот с любой личностью, которая ему нравится, включая имитацию известных вымышленных персонажей и знаменитостей, что, по-видимому, привлекло детей к приложению. Семьи, подающие иски, утверждают, что CharacterAI не отфильтровывает вредоносный контент.
Первоначально продукт был запущен для пользователей от 12 лет и старше, но недавно был изменен на рейтинг 17+ вскоре после самоубийства подростка. В новом иске утверждается, что это и другие недавние изменения, которые CharacterAI внесла для улучшения безопасности несовершеннолетних, не зашли достаточно далеко, чтобы защитить уязвимых детей.
Адвокат, представляющий все семьи, подающие иски, сообщила, что цель судебных исков состоит в выявлении системных проблем с CharacterAI. Также истцы пытаются не допустить, чтобы вредоносные данные, на которых был обучен чат-бот, влияли на другие системы ИИ, например, Gemini от Google.
Напомним, руководство американской технологической компании Meta Platforms заявило, что в течение года разоблачили около 20 операций скрытого влияния. При этом основным источником враждебной онлайн-активности по-прежнему остается Россия.
Только проверенная информация у нас в Telegram-канале OBOZ.UA и Viber. Не ведитесь на фейки!