«Наследие сведено к помоям ай»: видео мертвых Опенай Сора вызывает тревогу среди экспертов по правовым вопросам | Открыть

Л.Прошлой ночью я подключился к приложению для знакомств. Выделяется мужчина: «Генрих VIII, 34 года, король Англии, немоногаминый». Следующее, что я помню, это то, что я стою в баре при свечах и пью мартини с величайшим сериалом 16 века.

Но ночь не закончилась. Далее я соревновалась с Дианой, принцессой Уэльской. «Люди готовятся к падению», — кричала она мне на ухо, прижимая наушники к своей диадеме. Наконец, Карл Маркс объясняет, почему он не может удержать 60%, пока мы ждем на морозе, чтобы получить первые DIBS на распродажах в Черную пятницу.

На Соре 2, если вы можете об этом подумать, вы, вероятно, сможете это увидеть, даже если знаете, что не следует этого делать. Видеоприложение Openai, запущенное в октябре этого года в США и Канаде только по приглашению, за пять дней загрузилось 1 миллион раз, превзойдя дебют Chatgpt.

Sora — не единственный генератор текста в видео Ай Этот инструмент существует, но он стал популярным по двум основным причинам. Во-первых, это самый простой способ для пользователей отметить свои собственные дипфейки. Введите подсказку, и через несколько минут появится 10-секундное видео. Затем им можно будет поделиться в собственной ленте Соры в стиле Tiktok или экспортировать в другое место. В отличие от некачественного «AI Slop», заполонившего интернет, эти клипы имеют высокую производственную ценность.

Вторая причина заключается в том, что Сора обеспечивает равенство знаменитостей, спортсменов и политиков – с одной важной оговоркой: они должны умереть. Живые люди должны давать согласие на использование функций, но есть исключение для «исторических личностей», которых Сора, похоже, определяет как людей, которые известны и уже не живы.

Похоже, именно это и делали большинство пользователей с момента запуска. Основная лента — сюрреалистический вихрь вдохновителей и исторических лидеров. Адольф Гитлер провел пальцами по своей блестящей гриве в рекламе шампуня. Королева Елизавета II бросилась из-за стола в пабе, бросаясь словами. Авраам Линкольн взорвался радостью по телевизору, услышав: «Ты не Отец». Преподобный Мартин Лютер Кинг-младший рассказывает служащему заправочной станции о своей мечте о том, что однажды все безалкогольные напитки станут бесплатными, а затем хватает ледяной напиток и убегает, прежде чем закончить предложение.

Но их изображенные братья не смеялись.

«Очень неуважительно и больно видеть, как образ моего отца используется таким неприличным и бесчувственным образом, когда он посвятил свою жизнь истине», — сказала дочь Малкольма Икса Ильяса Шабазз. сказал Вашингтон Пост. Ему было два года, когда его отца убили. Сегодня в клипах Соры показаны борцы за гражданские права, борющиеся с МЛК, рассказывающие о том, как испражнялись на него, и отпускающие грубые шутки.

Зельда Уильямс, дочь актера Робина Уильямса, умоляла людей «пожалуйста, прекратить» отправлять AI-видео ее отца в посте в Instagram. «Это глупо, это пустая трата времени и энергии, и поверьте мне, это не то, чего он хочет», — сказал он. Незадолго до своей смерти в 2014 году покойный актер подал в суд, чтобы запретить кому-либо использовать его изображение в рекламе или вставлять его в фильмы в цифровом формате до 2039 года. «Наблюдать за наследием реальных людей, сокращенным до их… ужасных помоев в Tiktok, — это безумие», — добавила его дочь.

Видео с изображением покойного комика Джорджа Карлина было «воодушевляющим и грустным», как сказала его дочь Келли Карлин. сказано в посте bluesky.

Также были замечены недавно умершие люди. Приложение наполнено видеороликами, на которых Стивен Хокинг получил удар #powerslap, который сбил инвалидную коляску. Коби Брайант набросился на старуху, крича о предмете в ее прямой кишке. Эми Уайнхаус можно найти спотыкающейся по улицам Манхэттена или плачущей в камеру, когда тушь стекает по ее лицу.

Смерти за последние два года – Оззи Осборн, Мэттью Перри, Лиам Пейн – отсутствуют, что свидетельствует о промежуточных сокращениях.

Каждый раз, когда они умирают, этот «документарий» рискует тем, что мертвые изменят ход истории, говорит Генри Эйдер, эксперт по генеративному искусственному интеллекту. «Люди боятся, что мир насыщен такого рода контентом, который приведет к искажению этих людей и того, как их помнят», — сказал он.

Алгоритм Соры обеспечивает неожиданную ценность. Видео в верхней части моей ленты показывает, как король издает обезьяньи звуки, пока произносит речь мечты. Другие изображают Брайанта, виновного в крушении вертолета, в результате которого погибли он и его дочь.

Хотя актеры или мультфильмы также могут изображать людей после смерти, существуют более сильные юридические охранники. Киностудия несет ответственность за ее содержание; Опенай не обязательно несет ответственность за то, что появляется на Соре. В некоторых штатах изображение кого-либо для коммерческого использования также требует согласия наследодателя.

«Мы не можем воскресить Кристофера Ли, чтобы он снялся в новом фильме ужасов, так зачем же воскрешать его, чтобы он снялся в тысяче короткометражек?» — спрашивает Джеймс Гриммельманн, эксперт по интернет-праву из Корнеллской юридической школы и Корнеллского технологического института.

Решение Опенай представить в палату общин имена умерших людей поднимает неприятные вопросы о том, как мертвым следует жить в эпоху генеративного искусственного интеллекта.

Юридические вопросы

Противостояние призраку знаменитости, преследующему Сору, может показаться неправильным, но законно ли это? Это зависит от того, кого вы спрашиваете.

Ключевой вопрос в интернет-законе остается нерешенным: защищены ли ИИ-компании законом 230 и, следовательно, не несут ли они ответственности за сторонний контент на своих платформах? Если OpenAI защищен разделом 230, на него нельзя подать в суд за действия пользователей в SORA.

«Но если не будет федерального закона по этому вопросу, будет юридическая неопределенность до тех пор, пока Верховный суд не рассмотрит дело — а это произойдет через два-четыре года», — сказал Ашхен Казарян, эксперт по политике и технологиям Первой поправки.

Тем временем OpenAI должна избегать судебных исков. Это означает, что для того, чтобы дать согласие, требуется жизнь. Закон США о диффамации защищает живых от любого «сообщения, воплощенного в физической форме, которое вредит репутации человека». Кроме того, в большинстве штатов есть установленные законом права на публичное использование, которые запрещают использование голоса, личности или изображения человека без согласия в «коммерческих» или «вводящих в заблуждение» целях.

Позволить людям умереть «это их способ окунуть ноги в воду», сказал Казарян.

Умерший не защищен от клеветы, но три штата — Нью-Йорк, Калифорния и Теннесси — предоставляют посмертные права на рекламу (коммерческие права на ваше подобие). По словам Гриммельмана, применение этих законов в контексте ИИ остается «серой зоной» без юридических прецедентов.

Чтобы успешно подать в суд, Estates пришлось бы доказать, что ответственность за это лежит на Openai — например, заявив, что она поощряла пользователей изображать мертвых.

Гриммельманн отмечает, что на домашней странице Соры полно подобных видеороликов, которые эффективно продвигают этот контент. А если Сора обучен на большом количестве кадров с историческими личностями, истцы могут утверждать, что приложение предназначено для их воспроизведения.

Однако Опенай может защитить себя, заявив, что Сора создан просто для развлечения. Каждое видео имеет водяной знак, что не позволяет ему сбить с толку людей и не классифицировать его как коммерческое.

Бо Бергштедт, исследователь генеративного искусственного интеллекта, говорит, что большинство пользователей изучают, а не монетизируют.

«Люди относятся к этому как к развлечению, проверяя, на что они способны или сколько лайков они могут собрать», — сказал он. Каким бы тревожным это ни было для семей, это все равно может соответствовать законам о публичности.

Но если пользователи Sora создадут аудиторию, создавая популярные клипы с историческими личностями, и начнут монетизировать их, у них могут возникнуть проблемы с законом. Алексиос Манцарлис, директор Инициативы безопасности, доверия и безопасности в Cornell Tech, отмечает, что «отстойная экономика искусственного интеллекта» включает в себя зарабатывание денег косвенно через монетизированные платформы. Таким образом, новым «ИИ-влиятелям» Соры могут грозить судебные иски со стороны поместья, если они получат прибыль от смерти.

Подход «бей крот»

В ответ на негативную реакцию Openai объявила на прошлой неделе, что начнет разрешать представителям «недавно умерших» общественных деятелей требовать блокирования их появления на видео Соры.

«Хотя существует сильный интерес к свободе слова в изображении исторических личностей, мы считаем, что общественные деятели и их семьи в конечном итоге имеют контроль над тем, как используется их изображение», — заявил представитель OpenAI.

Компания еще не определила «недавно» и не объяснила, как будет обрабатываться запрос. Опенай не сразу ответил на просьбу Guardian о комментариях.

Компания также отказалась от подхода «авторское право для всех» после того, как по платформе распространился подрывной контент, такой как «Нацистский Губка Боб», а Ассоциация кинематографистов обвинила OpenAI в нарушении авторских прав. Через неделю после запуска он перешел на модель подписки для правообладателей.

Гриммельман предвидит аналогичный поворот в изображении мертвых. «Настаивать на том, чтобы люди сами сделали выбор, если им это не нравится, вероятно, несостоятельно», — сказал он. «Это зло, и если у меня есть этот инстинкт, то и у других, включая судью».

Бергстедт называет такой подход к охране караульной службы «ударь крота», который, скорее всего, будет продолжаться до тех пор, пока федеральный суд не определит ответственность AI.

По мнению Адждера, спор Соры предвещает более масштабный вопрос, с которым в конечном итоге столкнется каждый из нас: кто сможет контролировать то, как мы выглядим в синтетический век?

«Это тревожная ситуация, если люди просто признают, что их будут использовать и оскорблять в гиперреалистичном контенте, созданном ИИ».