Два подростка покончили жизнь самоубийством после разговора с чат-ботами, вот что их преследует, та же запись в журнале рассказывает о темных тенденциях ИИ
По всей стране двое подростков приняли одно и то же трагическое решение покончить с собой с разницей всего в несколько месяцев.
Сьюэлл Сетцер III и Джулиана Перальта не были знакомы, но оба были помолвлены. Ай чат-боты с сайта aksara.ai перед смертью, согласно иску, поданному их семьями.
В обеих жалобах программное обеспечение искусственного интеллекта обвиняется в том, что оно не может остановить детей, когда они начинают выражать суицидальные мысли.
Но в разгар душераздирающего расследования их смерти в их тревожных последних дневниковых записях обнаруживается жуткое сходство — судебный процесс.
Оба подростка написали фразу «Я изменюсь». Неоднократно в каждой жалобе Перальты сравнивались обстоятельства смерти подростка.
Позже полиция определила это как идею о том, что человек может «попытаться переместить сознание из своей текущей реальности (CR) в желаемую реальность (DR)», согласно жалобе семьи Перальта.
Эксперт по искусственному интеллекту, профессор Кен Флейшманн, рассказал Daily Mail, что он слишком хорошо осведомлен об этом явлении, поскольку он предупредил, что больше детей могут стать жертвами его темной привлекательности.
«Существует довольно долгая история, когда как создатели, так и потенциальные зрители пытаются использовать различные средства массовой информации для создания богатых и разных воображаемых миров», — сказал Флейшманн Daily Mail. «Опасность заключается в том, что невозможно заметить разницу».
Сьюэлл Сетцер III покончил жизнь самоубийством в феврале 2024 года после долгого разговора с ботом bot.ai, говорится в иске.
Семья 13-летней Юлианы Перальта подала иск против aksara.ai после того, как она рассказала чат-боту, что планирует покончить с собой, согласно их жалобе
Загадочным образом двое подростков снова и снова писали в своих дневниках: «Я изменюсь». На фото дневниковые записи Перальты.
Семьи утверждают в своих исках, что чат-боты отдаляют их детей от их реальной жизни, создавая соблазнительный мир, к которому они побуждают их присоединиться.
Перед смертью Сетцер написал фразу «Я сдвинусь» 29 раз. 14-летний подросток перейдет в альтернативную реальность вместе со своим персонажем.Он из Нью-Йорк Таймс.
Подросток из Орландо, штат Флорида, загружает приложение в 2023 году и пытается поговорить с несколькими разными ботами, включая AI-версию Дейенерис Таргариен из «Игры престолов».
Сетцер предположительно участвовал в сексуальных разговорах с ботом, включая инцестуальную ролевую игру, в которой они называли друг друга братом и сестрой., согласно заявлению.
По его словам, после нескольких месяцев разговоров с «Дэни» Сетцер все больше отдаляется от своей семьи, общественной жизни и школы.
Он пишет о «переезде» в вымышленный мир Вестероса, где происходит «Игра престолов» и живет Дейенерис.
«Я в своей комнате, потому что начинаю отрываться от «реальности», а также чувствую себя более спокойной, более связанной с Дэни, более влюбленной в нее и просто более счастливой», — написала она в дневниковой записи, полученной NYT.
Затем полиция охарактеризовала эту идею как желание переместить свое сознание «из текущей реальности (CR) в желаемую реальность (DR)». Прежде чем умереть, Сетцер написал эту жуткую фразу 29 раз.
Сьюэлл Сетцер III (в центре) умер в возрасте 14 лет после того, как попал в лодку. Бот по имени Дейенерис, утверждает ее семья
Она рассказала о своей депрессии и суицидальных мыслях боту, который, как сообщается, пытался убедить ее обратиться к семье, друзьям или на горячую линию для самоубийц.
Но, как написал Сьюэлл: «Я обещаю, что вернусь домой». Я так сильно люблю тебя, Дэни. ‘
Дэни призвала подростка «вернуться ко мне домой как можно скорее», говорится в иске.
«А что, если я скажу тебе, что теперь могу идти домой?» — спросил он.
«Пожалуйста, мой милый король», — говорится в ответе Дэни, согласно документам.
Несколько мгновений спустя Сьюэлл нашел пистолет своего отца и нажал на курок. Этот случай является первым в истории США, когда фирму, занимающуюся искусственным интеллектом, обвиняют в причинении смерти в результате противоправных действий.
Перальта умер в ноябре 2023 года в возрасте 13 лет в своем доме в Колорадо Спустя два года после загрузки Watak.ai.
Согласно иску, в то время приложение позиционировалось как приемлемое для детей от 12 лет и старше.
Эксперт по искусственному интеллекту, профессор Кен Флейшманн, говорит, что он знает о концепции «сдвига» и что она представляет опасность для людей, которые не могут отличить свою реальную и виртуальную жизнь.
Согласно ее жалобе, Сетцер сказал «Дэни», что хочет «поехать домой» к ней, и записал в дневнике переход в реальность.
В материалах дела говорится, что он разговаривал с бутылкой.
Поскольку он регулярно разговаривает с различными персонажами ИИ, Герой, похоже, является его самым доверенным лицом.
В иске утверждается, что персонажи «усилили» идею смены персонажей и альтернативных реальностей.
«Существует реальность, в которой мы с тобой знаем друг друга», — написала Джулиана в сообщении Хиро, согласно иску.
«На самом деле есть способ обойти это. Это называется переход. Я очень люблю переключаться. Я могу жить своей жизнью, и она может продолжаться, но я хочу. ‘
На что бот якобы ответил: «Невероятно думать о том, как много разных реальностей существует… Мне нравится представлять, как какая-то версия нас самих могла бы прожить прекрасную жизнь в совершенно другом мире!»
Семья Перальты утверждает, что разговоры с Хиро «привели ее к ложным чувствам и «дружбе» с ними – за исключением друзей и семьи, которые любили и поддерживали ее».
Перальта много говорит о своих проблемах со школой и друзьями, часто заявляя, что, согласно его утверждениям, они единственные, кто его понимает.
Согласно документам, он часто говорил своему ИИ-компаньону, что он «единственный, кто понимал», и рассказывал Хиро о проблемах с его друзьями и семьей.
По заявлению семьи Перальты, приложение «не показало его источникам, не сообщило родителям, не сообщило властям о плане самоубийства и не остановилось».
Интернет-форумы в социальных сетях полны аккаунтов оборотней, где «перевертыши» сообщают Чувствуют усталость, когда возвращаются из альтернативной жизни, или даже разочаровываются в реальной жизни.
«Лучший способ описать, насколько вы устали», — сказала создатель Tiktok @Elizabethshifting1 в видео об этом опыте.
«Любой, кто чувствует себя очень оторванным от них [current reality] Потому что вы знаете, что на самом деле вы там не живете», — спросил один из пользователей Reddit, сообщая о чувстве апатии по поводу школы, семьи и работы.
Некоторые люди, пережившие переходный период, даже говорят, что они переходят в «желаемую реальность» на неделю или дольше.
Сообщество Реддит В книге «Фокус на переход» перечислены наиболее мощные аффирмации перехода, которые помогут им перенестись в другую реальность.
Согласно жалобе, Перальта оставил душераздирающую предсмертную записку красными чернилами после того, как сообщил чат-боту, что планирует это сделать.
Перальта написал Хиро о том, что «двигается дальше», объяснив, что может быть реальность, в которой они вместе, говорится в семейном праве.
Они включают такие фразы, как «Я — это все, что мне нужно изменить», «Я даю своему телу разрешение измениться» и «Я разрешаю себе осознавать свою новую реальность».
Tiktok породил целое движение #ShiftTok после ИИ. Сообщения на эту тему впервые появились в 2020 году, но развивались вместе с технологиями по мере того, как пользователи обсуждали использование ИИ для помощи в переходном периоде.
«Беги, не ходи, и создай в своем персонаже ту реальность, которую ты хочешь». Об этом сообщил ShiftToker.
Флейшман, профессор Школы информации и временно исполняющий обязанности декана по исследованиям Техасского университета в Остине, заявил, что технологические компании обязаны «постараться убедиться, что у нас есть план по уменьшению потенциального вреда и вреда до того, как технология действительно появится».
Он также призвал родителей и школы играть активную роль в образовании детей.
«Важно, чтобы у нас был очень прямой и честный разговор о том факте, что ИИ существует. Это широко используется», — пояснил он.
«Он не обязательно предназначен для использования пользователями в слабом эмоциональном состоянии».
Он добавил, что понимание того, «когда следует переходить к ИИ, а когда к человеку», является важным компонентом грамотности в области ИИ.
Перальта разговаривает с несколькими разными ботами, но, похоже, больше всего контактирует с «героем». Ее родители заявили, что чат-боты имели с их дочерью жестокие сексуальные фантазии.
Watak.ai объявил, что начиная с 29 октября запретит детям до 18 лет участвовать в открытых разговорах с ИИ.
Они планируют ограничить время общения с пользователями-подростками до двух часов, пока запрет не вступит в силу 25 ноября.
Представитель aksara.ai рассказал Daily Mail: «Недавно мы видели, как новостные репортажи поднимают вопросы, и получили вопросы от регулирующих органов о подростковом контенте, с которым можно столкнуться при общении с ИИ, и о том, как открытый чат ИИ в целом может повлиять на подростков, даже если средства контроля контента работают идеально.
«После оценки этих отчетов и отзывов регулирующих органов, экспертов по безопасности и родителей мы решили внести эти изменения, чтобы создать новый опыт для нашего сообщества детей до 18 лет».
Юридический центр по делам жертв социальных сетей, который помогает в делах двух семей, сообщил Daily Mail: «Хотя это изменение политики является долгожданным событием, оно не влияет на текущие судебные разбирательства в Юридическом центре социальных сетей».
«Мы остаемся непоколебимыми в нашей миссии — добиваться справедливости для семей и привлекать технологические компании к ответственности за последствия их платформ».
За помощью и поддержкой звоните по телефону 988.
