Фальшивое будущее: международный опыт (не) регулирования дипфейков
Представьте: в сети вываливается видео, где президент РФ объявляет мировую войну и жмет «красную кнопку». Или ролик с вашим признанием в краже, которого вы никогда не совершали. Звучит как сценарий триллера? Дипфейки уже сделали это реальностью.
Суть проста: deepfake (от англ. «глубокий» и «подделка») — это аудио и видео, сгенерированные или измененные ИИ. Отличить от жизни на глаз почти невозможно. Десять лет назад такое могли только голливудские студии с бюджетами. Сегодня продвинутый пользователь тратит на создание качественной подделки пару часов. Итог: рэпер Jay-Z читает Шекспира, спикер Палаты представителей США Нэнси Пелоси «пьет» прямо в эфире, а Марк Цукерберг рассказывает о дипфейках (хотя на самом деле не говорил). Это не фантастика — это реальные примеры из YouTube и соцсетей.
Правовое поле тут — сплошные дыры. В большинстве стран четкого регулирования нет, хотя все пугают угрозами. Есть «позитивный» пример — Китай. С 1 января 2020 года там ввели обязательную маркировку дипфейков. Норма касается и создателей, и площадок. Как именно власти будут отличать правду от фейка — неясно, но за нарушение грозит уголовщина. Меры не случайные: дипфейки бьют по репутации (от звезд до обычных граждан) и угрожают нацбезопасности.
Вспомним выборы 2019 года в Британии. Организация Future Advocacy сделала видео, где Борис Джонсон призывает голосовать за своего оппонента Джереми Корбина, а Корбин — за Джонсона. Мимика, голос — всё идеально. Цель была показать, как технологии влияют на демократию.
Но кто борется с этим? Чаще всего не государство, а соцсети. И тут начинается цирк. Летом 2019 года YouTube удалил дипфейк с Ким Кардашиан, где она якобы высмеивала пиратов. Видео сняли активисты Brandalism Project. Удалили через две недели по жалобе Conde Nast (издатель Vogue) за нарушение авторских прав.
Весной 2020 года Jay-Z попробовал то же самое против канала Voice Synethesis, который использовал его голос для чтения Шекспира. YouTube сначала удалил ролики, потом вернул. Причина: спор между нарушением авторских прав (copyright infringement) и доктриной «добросовестного использования» (fair use).
Профессор права из Бостонского университета Тиффани С. Ли в статье для Slate пишет прямо: закон об авторском праве — не решение проблемы. Большинство дипфейков подпадают под fair use. Чтобы это доказать, смотрят на четыре фактора: цель использования, характер произведения, объем заимствования и влияние на рынок. Это сложная юридическая область с тысячами прецедентов.
Редактор Vice Саманта Коул добавляет: проблема не в авторских правах, а в репутации и достоинстве. Жалобы на нарушение прав — это просто «пластырь», который легко злоупотребляют влиятельные люди. Художники, делавшие фейки с Цукербергом и Кардашиан, как раз это и критиковали.
В США пытаются что-то делать. В Калифорнии запретили дипфейки за 60 дней до выборов. Эксперты скептичны: закон трудно исполнять, проще использовать старые нормы об авторском праве. На федеральном уровне в декабре 2019 года Трамп подписал закон, обязывающий правительство отслеживать «иностранный след» в дипфейках и информировать Конгресс о вмешательстве в выборы.
Но первая линия обороны — это модерация соцсетей. И тут хаос. Субраманиам Винсент (университет Санта-Клары) в Slate отмечает, что решения платформ зависят не от законов, а от общественного мнения и технологий.
Пример с Пелоси: Facebook и Twitter не удалили видео с «пьяной» спикером, хотя это явная ложь. YouTube удалил. Почему? Не за дезинформацию, а за нарушение правил против спама и мошенничества. В правилах YouTube вообще нет слова «дипфейк».
Позже в Instagram выложили фейк с Цукербергом. Facebook отказался удалять, ссылаясь на свободу слова. YouTube тоже оставил, так как видео не провоцировало ненависть. Facebook позиционирует себя так: ложные заявления — это часть свободы слова. Удаляют только если есть угрозы, разжигание ненависти или подстрекательство к насилию. Автоматическое отделение сатиры от лжи — «сложная и чувствительная» задача.
А теперь о личном. Думаете, это только про политиков? Исследование Deeptrace за 2019 год показывает: 96% всех дипфейков — порнография. Четыре основных сайта с таким контентом набрали 134 миллиона просмотров. Жертвы — не только звезды, но и обычные люди, подвергшиеся буллингу или revenge porn.
Исследователь из Дьюкского университета Дуглас Харрис пишет, что легальные способы защиты работают плохо. Можно попробовать подать в суд за: 1. Намеренное причинение морального вреда. Нужно доказать, что создатель хотел причинить страдания, а жертва получила тяжелый стресс. Сложно: нарушитель часто действует тайно, а обычное чувство стыда судом не признается. 2. Халатное причинение морального вреда. То же самое, но сложнее доказать конкретные факты страданий, иногда нужны даже физические проявления. 3. Искажение фактов (false light). Самый эффективный вариант, но есть нюанс. Если на видео есть титр с именем автора (что часто бывает на порносайтах), суд может решить, что это предупреждение о подделке. Если дисклеймер четкий, иск могут не принять.
Есть еще законы против revenge porn, но дипфейки редко под них попадают.
Харрис резюмирует: пока мы ждем новых законов, технологии бегут вперед. Сейчас на фейк уходит несколько часов. Скоро — секунды. И отличить его от реальности будет невозможно. Обсуждать регулирование нужно уже сейчас.
Фальшивое будущее: международный опыт (не) регулирования дипфейков
Представьте: в сети вываливается видео, где президент РФ объявляет мировую войну и жмет «красную кнопку». Или ролик с вашим признанием в краже, которого вы никогда не совершали. Звучит как сценарий триллера? Дипфейки уже сделали это реальностью.
Суть проста: deepfake (от англ. «глубокий» и «подделка») — это аудио и видео, сгенерированные или измененные ИИ. Отличить от жизни на глаз почти невозможно. Десять лет назад такое могли только голливудские студии с бюджетами. Сегодня продвинутый пользователь тратит на создание качественной подделки пару часов. Итог: рэпер Jay-Z читает Шекспира, спикер Палаты представителей США Нэнси Пелоси «пьет» прямо в эфире, а Марк Цукерберг рассказывает о дипфейках (хотя на самом деле не говорил). Это не фантастика — это реальные примеры из YouTube и соцсетей.
Правовое поле тут — сплошные дыры. В большинстве стран четкого регулирования нет, хотя все пугают угрозами. Есть «позитивный» пример — Китай. С 1 января 2020 года там ввели обязательную маркировку дипфейков. Норма касается и создателей, и площадок. Как именно власти будут отличать правду от фейка — неясно, но за нарушение грозит уголовщина. Меры не случайные: дипфейки бьют по репутации (от звезд до обычных граждан) и угрожают нацбезопасности.
Вспомним выборы 2019 года в Британии. Организация Future Advocacy сделала видео, где Борис Джонсон призывает голосовать за своего оппонента Джереми Корбина, а Корбин — за Джонсона. Мимика, голос — всё идеально. Цель была показать, как технологии влияют на демократию.
Но кто борется с этим? Чаще всего не государство, а соцсети. И тут начинается цирк. Летом 2019 года YouTube удалил дипфейк с Ким Кардашиан, где она якобы высмеивала пиратов. Видео сняли активисты Brandalism Project. Удалили через две недели по жалобе Conde Nast (издатель Vogue) за нарушение авторских прав.
Весной 2020 года Jay-Z попробовал то же самое против канала Voice Synethesis, который использовал его голос для чтения Шекспира. YouTube сначала удалил ролики, потом вернул. Причина: спор между нарушением авторских прав (copyright infringement) и доктриной «добросовестного использования» (fair use).
Профессор права из Бостонского университета Тиффани С. Ли в статье для Slate пишет прямо: закон об авторском праве — не решение проблемы. Большинство дипфейков подпадают под fair use. Чтобы это доказать, смотрят на четыре фактора: цель использования, характер произведения, объем заимствования и влияние на рынок. Это сложная юридическая область с тысячами прецедентов.
Редактор Vice Саманта Коул добавляет: проблема не в авторских правах, а в репутации и достоинстве. Жалобы на нарушение прав — это просто «пластырь», который легко злоупотребляют влиятельные люди. Художники, делавшие фейки с Цукербергом и Кардашиан, как раз это и критиковали.
В США пытаются что-то делать. В Калифорнии запретили дипфейки за 60 дней до выборов. Эксперты скептичны: закон трудно исполнять, проще использовать старые нормы об авторском праве. На федеральном уровне в декабре 2019 года Трамп подписал закон, обязывающий правительство отслеживать «иностранный след» в дипфейках и информировать Конгресс о вмешательстве в выборы.
Но первая линия обороны — это модерация соцсетей. И тут хаос. Субраманиам Винсент (университет Санта-Клары) в Slate отмечает, что решения платформ зависят не от законов, а от общественного мнения и технологий.
Пример с Пелоси: Facebook и Twitter не удалили видео с «пьяной» спикером, хотя это явная ложь. YouTube удалил. Почему? Не за дезинформацию, а за нарушение правил против спама и мошенничества. В правилах YouTube вообще нет слова «дипфейк».
Позже в Instagram выложили фейк с Цукербергом. Facebook отказался удалять, ссылаясь на свободу слова. YouTube тоже оставил, так как видео не провоцировало ненависть. Facebook позиционирует себя так: ложные заявления — это часть свободы слова. Удаляют только если есть угрозы, разжигание ненависти или подстрекательство к насилию. Автоматическое отделение сатиры от лжи — «сложная и чувствительная» задача.
А теперь о личном. Думаете, это только про политиков? Исследование Deeptrace за 2019 год показывает: 96% всех дипфейков — порнография. Четыре основных сайта с таким контентом набрали 134 миллиона просмотров. Жертвы — не только звезды, но и обычные люди, подвергшиеся буллингу или revenge porn.
Исследователь из Дьюкского университета Дуглас Харрис пишет, что легальные способы защиты работают плохо. Можно попробовать подать в суд за: 1. Намеренное причинение морального вреда. Нужно доказать, что создатель хотел причинить страдания, а жертва получила тяжелый стресс. Сложно: нарушитель часто действует тайно, а обычное чувство стыда судом не признается. 2. Халатное причинение морального вреда. То же самое, но сложнее доказать конкретные факты страданий, иногда нужны даже физические проявления. 3. Искажение фактов (false light). Самый эффективный вариант, но есть нюанс. Если на видео есть титр с именем автора (что часто бывает на порносайтах), суд может решить, что это предупреждение о подделке. Если дисклеймер четкий, иск могут не принять.
Есть еще законы против revenge porn, но дипфейки редко под них попадают.
Харрис резюмирует: пока мы ждем новых законов, технологии бегут вперед. Сейчас на фейк уходит несколько часов. Скоро — секунды. И отличить его от реальности будет невозможно. Обсуждать регулирование нужно уже сейчас.
Фальшивое будущее: международный опыт (не) регулирования дипфейков
Представьте: в сети вываливается видео, где президент РФ объявляет мировую войну и жмет «красную кнопку». Или ролик с вашим признанием в краже, которого вы никогда не совершали. Звучит как сценарий триллера? Дипфейки уже сделали это реальностью.
Суть проста: deepfake (от англ. «глубокий» и «подделка») — это аудио и видео, сгенерированные или измененные ИИ. Отличить от жизни на глаз почти невозможно. Десять лет назад такое могли только голливудские студии с бюджетами. Сегодня продвинутый пользователь тратит на создание качественной подделки пару часов. Итог: рэпер Jay-Z читает Шекспира, спикер Палаты представителей США Нэнси Пелоси «пьет» прямо в эфире, а Марк Цукерберг рассказывает о дипфейках (хотя на самом деле не говорил). Это не фантастика — это реальные примеры из YouTube и соцсетей.
Правовое поле тут — сплошные дыры. В большинстве стран четкого регулирования нет, хотя все пугают угрозами. Есть «позитивный» пример — Китай. С 1 января 2020 года там ввели обязательную маркировку дипфейков. Норма касается и создателей, и площадок. Как именно власти будут отличать правду от фейка — неясно, но за нарушение грозит уголовщина. Меры не случайные: дипфейки бьют по репутации (от звезд до обычных граждан) и угрожают нацбезопасности.
Вспомним выборы 2019 года в Британии. Организация Future Advocacy сделала видео, где Борис Джонсон призывает голосовать за своего оппонента Джереми Корбина, а Корбин — за Джонсона. Мимика, голос — всё идеально. Цель была показать, как технологии влияют на демократию.
Но кто борется с этим? Чаще всего не государство, а соцсети. И тут начинается цирк. Летом 2019 года YouTube удалил дипфейк с Ким Кардашиан, где она якобы высмеивала пиратов. Видео сняли активисты Brandalism Project. Удалили через две недели по жалобе Conde Nast (издатель Vogue) за нарушение авторских прав.
Весной 2020 года Jay-Z попробовал то же самое против канала Voice Synethesis, который использовал его голос для чтения Шекспира. YouTube сначала удалил ролики, потом вернул. Причина: спор между нарушением авторских прав (copyright infringement) и доктриной «добросовестного использования» (fair use).
Профессор права из Бостонского университета Тиффани С. Ли в статье для Slate пишет прямо: закон об авторском праве — не решение проблемы. Большинство дипфейков подпадают под fair use. Чтобы это доказать, смотрят на четыре фактора: цель использования, характер произведения, объем заимствования и влияние на рынок. Это сложная юридическая область с тысячами прецедентов.
Редактор Vice Саманта Коул добавляет: проблема не в авторских правах, а в репутации и достоинстве. Жалобы на нарушение прав — это просто «пластырь», который легко злоупотребляют влиятельные люди. Художники, делавшие фейки с Цукербергом и Кардашиан, как раз это и критиковали.
В США пытаются что-то делать. В Калифорнии запретили дипфейки за 60 дней до выборов. Эксперты скептичны: закон трудно исполнять, проще использовать старые нормы об авторском праве. На федеральном уровне в декабре 2019 года Трамп подписал закон, обязывающий правительство отслеживать «иностранный след» в дипфейках и информировать Конгресс о вмешательстве в выборы.
Но первая линия обороны — это модерация соцсетей. И тут хаос. Субраманиам Винсент (университет Санта-Клары) в Slate отмечает, что решения платформ зависят не от законов, а от общественного мнения и технологий.
Пример с Пелоси: Facebook и Twitter не удалили видео с «пьяной» спикером, хотя это явная ложь. YouTube удалил. Почему? Не за дезинформацию, а за нарушение правил против спама и мошенничества. В правилах YouTube вообще нет слова «дипфейк».
Позже в Instagram выложили фейк с Цукербергом. Facebook отказался удалять, ссылаясь на свободу слова. YouTube тоже оставил, так как видео не провоцировало ненависть. Facebook позиционирует себя так: ложные заявления — это часть свободы слова. Удаляют только если есть угрозы, разжигание ненависти или подстрекательство к насилию. Автоматическое отделение сатиры от лжи — «сложная и чувствительная» задача.