Сергей Корсунский

Чрезвычайный и Полномочный Посол Украины

Facebook, технологии "deep fake" – что дальше?

мнения

29 Ноября 2018, 12:46

В июле 2018 года в суд Южного округа Нью-Йорка был подан иск на президента Трампа в связи с тем, что он заблокировал нескольких подписчиков своего аккаунта @realDonaldTrump в Twitter в связи с критическими замечаниями в свой адрес. Заблокированные Трампом истцы утверждали, что несмотря на, якобы, частный характер этого аккаунта, он в действительности используется в официальных целях правительства США, и поэтому любой американец должен иметь к нему неограниченный доступ. Автор твиттов "стабильного гения" и хранитель ключей к его Twitter-аккаунту по имени Дан Скавино является более влиятельным сотрудником администрации, чем многие опытные политики и дипломаты, и получает максимально возможную в Белом доме зарплату. А ведь он только "твиттит".

Суд в США отказался снять обвинения с российской компании "Конкорд менеджмент и консалтинг" бизнесмена Евгения Пригожина. Пригожин, которого СМИ называют "поваром Путина" и связывают с "фабрикой троллей" в Санкт-Петербурге и "ЧВК Вагнера", нанял адвокатов, чтобы оспорить выдвинутые в адрес его структур обвинения во вмешательстве в выборы 2016 г. Адвокаты компании утверждали, что выдвинутые обвинения незаконны, поскольку факт преступления не был установлен надлежащим образом. Невзирая на решение суда, именно факт невозможности установить принадлежность "отпечатков пальцев" на клавиатуре условного компьютера, с которого, собственно, осуществлялись атаки на сервера, является основным элементом аргументации Путина и Ко против обвинений во вмешательстве в американские выборы.

В ноябре 2018 года 50 стран и 150 компаний подписали документ "Париж призывает к доверию и безопасности в киберпространстве", в котором взяли на себя обязанность бороться с киберпреступностью, в частности с разжиганием ненависти, онлайн-цензурой, воровством коммерческих секретов и вмешательством в выборы. Все бы ничего, но среди подписантов НЕ замечены США, РФ и Китай. При этом президент Франции Макрон и глава Facebook Цукерберг договорились о партнерстве в сфере борьбы с разжиганием ненависти в этой социальной сети. Представители французских властей на протяжении шести месяцев получат беспрецедентный доступ во внутреннюю "кухню" Facebook, чтобы сформулировать "конкретные рекомендации" в этой сфере.

Договоренность с Макроном была достигнута в сложный для популярной социальной сети период. За последние два года Facebook стал не только участником скандала с вмешательством в американские выборы, но и допустил две крупнейших утечки персональных данных пользователей. Особенно неприятно, что, как выяснилось, специалисты компании знали, что российские хакеры "копались" в аккаунтах пользователей, связанных с выборами, а контролируемые Россией учетные записи делятся информацией из взломанных переписок. Крупнейшая в мире социальная сеть попала в громкий скандал после того, как появилась информация, что британская консалтинговая фирма Cambridge Analytica, работавшая на Дональда Трампа на последних президентских выборах в США, неправомерно получила доступ к личной информации 87 миллионов пользователей Facebook. Цукерберг вынужден был приехать в Европу в связи со слушанием в Европарламенте об утечке данных. Ранее он уже дал показания по этому делу на слушаниях в Сенате США. Доказано, что Facebook манипулировал общественным мнением с помощью лоббистов, пробовал дискредитировать конкурентов из Google и  Apple. Все это привело к тому, что в США на политическом уровне развернулась кампания за регулирование Facebook. Еще десять лет назад невозможно было себе представить, что Конгресс США будет заниматься регулированием социальной сети, однако это становится реальностью. И Facebook не одинок – в октябре 2018 года на выборах в Бразилии вмешательство осуществлялось через WhatsUp. Кто следующий?

Что же объединяет все эти новости в самой их сути? Новая реальность, связанная с технологиями. Эта реальность предопределяет приоритетность вопроса о неконтролируемом прогрессе технологий в развитых странах мира. Технологии стремительно меняют не только наш быт. Люди, предприятия и государства более не могут игнорировать беспрецедентное в истории вторжение технологий в буквально все аспекты жизнедеятельности. Из 8 миллиардов населения планеты половина использует Интернет каждый день, боле трети "живет" в социальных сетях. Безобидная на первый взгляд платформа для разнообразных взаимодействий в виртуальном пространстве, давшая возможность миллиардам людей расширить круг общения, ощутить свою причастность к группам по интересам, важным общественным движениям и инициативам, стала политическим инструментом. Алгоритмы и правила, установленные отдельными компаниями или группами людей, намерения которых не всегда ясны и прозрачны, определяют не только степень приватности пользователей, их круг общения и контролируют содержание их "постов", но и политические процессы. Международные отношения – не исключение. 

И вот здесь начинаются совсем не технологические проблемы. Каждый пользователь легко определит, что называется "вмешательством в суверенитет" его личного аккаунта. Но как определить что называется нарушением электронного суверенитета государства? Вмешательство в выборы? В систему управления электросетями? Хакерская атака на правительственные сервера? Распространение заведомо ложной информации о государстве, событии или личности не является новым феноменом и известно с доисторическим времен. То, что является современным – это скорость, средства распространения информации и степень охвата аудитории. Есть и другие неожиданные повороты. Вот, в Китае, к примеру, доступ к Facebook ограничен. Является ли это нарушением прав человека или, скажем, свободы слова, и можно ли за это критиковать китайские власти? Ведь в Поднебесной существуют собственные социальные сети, и они весьма популярны. Почему беспрецедентные меры безопасности, принятые в США после 11 сентября 2001 года и давшие спецслужбам весьма широкие полномочия по контролю за индивидуумами – это правильно, а системы видеонаблюдения, покрывающие Китай – это тоталитарный контроль? Сложно понять, почему государства так беспокоятся о старом добром шпионаже, в то время, как со спутников можно не только заглянуть в окно, но и прочитать сообщение на экране телефона? Законодательное регулирование всех этих вопросов еще только в зародыше, а ведь мы уже на пороге эры искусственного интеллекта и квантовых компьютеров.

Целые государства стали строить свой бренд на технологиях. Индия, Эстония, Израиль – только несколько примеров. Хорошо, если их внедрение – на пользу обществу, экономике и безопасности. Но ведь это не всегда так. Одной из технологий, которая в наши дни вызывает серьезную озабоченность экспертов и политиков, является так называемая технология "deep fake". Изобретенная в 2014 году техника GAN (generative adversarial network) позволяет с помощью специальных алгоритмов создавать новые виды данных из уже существующих. До 2017 года эта техника не выходила за рамки исследователей искусственного интеллекта, пока в 2017 году один из пользователей платформы Reddit под никнеймом "deepfake" не стал размещать онлайн поддельные порнографические ролики со знаменитостями, где вместо проституток оказывались весьма известные люди. Разумеется, Reddit запретил подобную практику, однако позднее тот же пользователь создал FakeApp – бесплатную платформу для изготовление фейковых видео. Теперь каждый, кто имеет доступ к интернету и фотографиям некой особы, способен самостоятельно изготовить поддельный ролик с его или ее участием. В практическом плане это означает, что возможно создать крайне реалистичный видеосюжет, на котором президент какой-либо страны говорит абсолютно абсурдные вещи, да так, что отличить подделку может только специалист. Такие ролики уже были сделаны для Барака Обамы и Дональда Трампа. Очевидно поэтому группа членов Конгресса США обратилась к Директору национальной разведывательной службы США со следующим призывом: "Гипер-реалистичные цифровые подделки используют самые современные автоматизированные технологии обучения для производства весьма правдоподобных изображений физических лиц, делающих или говорящих вещи, которые они никогда не делали и не говорили, без их ведома или разрешения. Размывая линии между реальностью и вымыслом технологии "deep fake" вполне способны уже в ближайшем будущем полностью дискредитировать доверие к фотоизображениям и видеосъемкам как объективным отражениям реальности". Сегодня эта технология еще не совершенна и все еще не сложно различить подделку от реальности, но стремительное развитие искусственного интеллекта и квантовых компьютеров вскоре доведет "deep fake" до совершенства.

Не только мы, но и более развитые страны не готовы к этим вызовам. Нет ни технологических, ни правовых механизмов борьбы с подобными "гибридными" технологиями. Отлично, что в Киеве наконец-то громко заговорили об опыте гибридной войны и, независимо, презентовали Институт цифровых трансформаций. Плохо, что в процессе этих трансформаций участие и поддержка государства практически отсутствуют. Если мы не научимся виртуозно владеть технологиями распознавания "deep fake", через год-два доказать военные преступления России будет невозможно. Нет сомнений, что за поребриком уже вовсю трудятся над созданием виртуальной реальности на самых современных платформах. Немедленные и значительные инвестиции в эту сферу, объединение усилий государства и бизнеса становятся необходимым условием выживания в военное время. И обязательным условием развития в мирное.

Источник:

"Сегодня"

Если вы нашли ошибку в тексте, выделите её мышью и нажмите Ctrl+Enter

Загрузка...
Загрузка...