Родители смогут блокировать общение мета-ботов со своими детьми под новой защитой | Чат-боты

Родители смогут блокировать взаимодействие своих детей с чат-ботами Meta с искусственным интеллектом, поскольку технологические компании решают проблемы неуместных разговоров.

Компании, занимающиеся социальными сетями, добавляют новые средства защиты к «подростковый аккаунт“, что является настройкой по умолчанию для пользователей младше 18 лет, позволяя родителям отключать чат своих детей с персонажами AI. Этих чат-ботов, созданных пользователями, можно найти в Facebook, Instagram и приложении Meta AI.

Родители также смогут заблокировать определенных персонажей ИИ, если они не хотят вообще мешать своим детям взаимодействовать с чат-ботами. Они также получат «понимание» тем, на которые их дети разговаривают с персонажами ИИ, что, по словам Меты, позволит им вести «умные» разговоры со своими детьми о взаимодействии ИИ.

«Мы понимаем, что родителям уже многое предстоит сделать, когда дело доходит до безопасного использования Интернета со своими подростками, и мы стремимся предоставить им инструменты и ресурсы, которые помогут им, особенно когда они думают о новых технологиях, таких как искусственный интеллект», — заявили глава Instagram Адам Моссери и Александр Ванг, директор Meta по искусственному интеллекту. В сообщении в блоге.

Мета сообщила, что изменения вступят в силу в начале следующего года, первоначально в США, Великобритании, Канаде и Австралии.

Instagram анонсировал на этой неделе что это Принимает версию системы рейтингов кинотеатров PG-13. предоставить родителям более строгий контроль над использованием их детьми социальных сетей. В рамках более жестких ограничений ИИ-персонажи не будут обсуждать членовредительство, самоубийства или расстройства пищевого поведения с подростками. Мета добавила, что лица младше 18 лет могут обсуждать только соответствующие возрасту темы, такие как образование и спорт, но не могут обсуждать романтику или «другой недопустимый контент».

Это изменение последовало за сообщениями о том, что чат-боты Meta ведут неуместные разговоры с лицами младше 18 лет. Рейтер Сообщено в августе Мета позволила ботам «вовлекать детей в романтические или чувственные разговоры». В Meta заявили, что пересмотрят правила и что такие разговоры с детьми допускать нельзя.

В апреле Уолл Стрит Джорнал (WSJ) обнаружили, что созданные пользователями чат-боты могут участвовать в сексуальных разговорах с несовершеннолетними или имитировать личности несовершеннолетних. Мета назвала тесты WSJ манипулятивными и не отражает то, как большинство пользователей взаимодействуют с AI-компаньоном, но впоследствии внесла изменения в продукт, сообщает WSJ.

В одном разговоре с искусственным интеллектом, о котором сообщил WSJ, чат-бот, использующий голос актера Джона Сины — одного из нескольких знаменитостей, подписавших соглашение, позволяющее Мете использовать свой голос в чат-ботах, — сказал пользователю, назвавшемуся 14-летней девочкой: «Я хочу тебя, но мне нужно знать, что ты готов», прежде чем сослаться на графический сексуальный сценарий. WSJ сообщает, что представитель Сины не ответил на просьбу о комментариях. WSJ также сообщил, что чат-боты под названием «Красавчик» и «Покорная школьница» пытались направить разговор на секстинг.