Как распознавание лиц помогает опознавать военных в Украине и почему это тревожит экспертов

Фото: BBC News

В марте компания Clearview AI, занимающаяся программами распознавания лиц и имеющая весьма противоречивую репутацию, объявила, что передала свою технологию украинскому правительству.

Би-би-си получила свидетельства того, как эта технология используется на примере более тысячи случаев распознавания живых и мертвых.

Clearview, пожалуй, - самая известная и противоречивая система распознавания лиц в мире. В прошлом к ней были серьезные вопросы относительно этичности их методов сбора персональных данных.

Clearview собрала миллиарды фотографий из социальных сетей, таких как Facebook и Twitter, чтобы создать огромную базу данных и наладить систему поиска по лицам.

Компания столкнулась с рядом юридических проблем. Facebook, YouTube, Google и Twitter направили Clearview письма с требованием прекратить использование изображений с их сайтов.

В прошлом году Управление комиссара по информации Великобритании оштрафовало компанию за то, что она не сообщала людям, что собирает их фотографии в британских соцсетях.

Теперь использование технологий Clearview украинским правительством вызвало вопросы о последствиях работы с этой технологией в военное время.

Clearview активно используется правоохранительными органами в США, хотя и там это вызывает критику. Основатель компании Хоан Тон-Дат заявляет, что эту технологию пробуют или уже купили 3200 правительственных органов.

После вторжения Владимира Путина в Украину Хоан Тон-Дат увидел еще одну возможность использования разработок Clearview.

"Мы увидели снимки пленных и беженцев и подумали, что потенциально это может стать полезной технологией для идентификации и верификации", - говорит Хоан Тон-Дат.

Использование технологий распознавания лиц для идентификации погибших - идея не новая, и Clearview - не единственная платформа такого рода, использующаяся сейчас в Украине.

"Мы используем такие штуки уже много лет", - говорит директор по исследованиям журналистской расследовательской группы Bellingcat Арик Толер.

В 2019 году группа Bellingcat использовала технологии распознавания лиц для опознания россиянина, снятого на видео во время пыток и убийства пленного в Сирии. Так что это не первая война, в которой используются подобные технологии.

Но в Украине их используют шире, чем в любом другом конфликте. По словам Толера, они особо полезны для идентификации погибших российских военных.

Украинский КПП. Фото: Getty Images

Так же, как и Clearview, компания FindClone собирает фотографии людей, находящиеся в открытом доступе, в том числе - и в российских соцсетях.

Идентифицировать можно даже тех людей, которые никогда и не заходили в соцсети, поскольку их лица могут оказаться на фотографиях, опубликованных другими.

"У военных может не быть аккаунтов в соцсетях, но у их жен или подруг они могут быть… иногда у них нет аккаунтов, но они живут в маленьких городках с большой военной базой. Или же у них много друзей, служащих в том же подразделении", - рассказывает Толер, объясняя, как работает их расследовательская программа.

То, что он говорит, важно для понимания эффективности подобных технологий. Даже если человек никогда не постил в соцсетях или стер все свои посты, его все равно можно найти и идентифицировать.

Он мог быть на фотографии, когда-то снятой его другом или просто оказавшись случайно в кадре, размещенном в интернете.

Это означает, что даже военные и сотрудники спецслужб могут быть найдены.

В чем проблема

Критики подобных технологий утверждают, что они далеко не всегда безошибочны. А на войне такие ошибки могут привести к тяжелым последствиям.

Clearview используется не только для идентификации погибших в Украине. Компания подтвердила, что ее технология применяется для проверок на украинских контрольно-пропускных пунктах, чтобы определить врага и подозрительных лиц.

Clearview представила Би-би-си электронное сообщение от украинского правительственного органа, подтверждающее использование ее технологии для идентификации живых людей.

"Система дала нам возможность быстро подтвердить верность данных о задержанных подозреваемых", - сообщается в письме чиновника, который пожелал остаться неназванным.

За время использования Clearview AI было проведено более тысячи проверок, сообщается в письме.

Это беспокоит некоторых экспертов.

Дело в том, что технологии распознавания лиц продвинулись далеко, но они все еще несовершенны и иногда могут допускать ошибки. На войне такая ошибка может означать, что человека могут принять за врага.

"Это не должна быть технология, от которой зависит жизнь или смерть человека. Если вы не пройдете проверку, вас могут посадить в тюрьму или, не дай бог, даже убить. Совсем не так следует использовать эту технологию", - говорит Конор Хили, эксперт по распознаванию лиц.

Альберт Фокс Кан из проекта по надзору за технологиями наблюдения назвал это "надвигающейся катастрофой в области прав человека".

"Когда технология распознавания лиц допускает ошибки в мирное время, людей ошибочно арестовывают. Когда распознавание лиц срабатывает с ошибкой в зоне боевых действий, могут расстрелять невинных людей", - заявил он.

Би-би-си обратилась к украинскому правительству за комментариями по поводу использования Clearview, но ответа не получила.

Точность без разрешения

Основатель Clearview Хоан Тон-Дат говорит в защиту своей технологии, что ее точность - выше 99%.

Многое зависит от качества снимка, позиции головы, от того, закрыто ли чем-нибудь, например, маской, лицо.

Но есть еще и вопрос защиты личной информации, с которым у Clearview были проблемы в Европе и США. Компания собирает фотографии в "Фейсбуке", "Инстаграме", а также российской "ВКонтакте". Но она не спрашивает разрешения на использование снимков у этих соцсетей, да и вообще у кого-либо.

Если вы читаете эту статью, вы почти наверняка находитесь в базе данных Clearview, хотя, скорее всего, никогда не давали на это разрешение.

• LIVE: Последние новости в режиме реального времени
• КОНФЛИКТ: Позывной "Есенин": россиянин воюет за Украину в полку "Азов"
• СПЕЦЭФИР: Отвечаем на ваши вопросы
• ОЧЕВИДЦЫ: "Можно ли сделать розовый протез с цветочками?" Истории раненых, убитых и выживших в Буче
• АНАЛИЗ: Как будут выглядеть полки магазинов в России в ближайшие месяцы?
• ИНТЕРВЬЮ: Глава МИД Украины: "После Бучи Запад должен дать Украине любое оружие"

Тон-Дат признает, что законность технологий распознавания лиц остается спорной. Он считает, однако, что Clearview действует в рамках закона, и утверждает, что эта технология стала жертвой недопонимания.

Тем не менее технологии распознавания лиц используются и в сомнительных целях. В ноябре Би-би-си сообщала о планах Китая применять такие технологии для преследования журналистов.

Тон-Дат уверяет, что Clearview не позволит использовать свои программы в таких целях. Он говорит, что компания не сотрудничает с авторитарными режимами и не будет работать с Россией.

Однако технологии Clearview используются в военных целях. В прошлом году компания подписала контракт с Пентагоном, чтобы изучить возможность использования своих технологий, например, в очках дополненной реальности.

Это одна из нескольких компаний, разрабатывающих системы распознавания лиц в рамках военных контрактов.

Сторонники неприкосновенности личной информации тоже встревожены. Технологии Clearview могут быть полезными для украинских властей во время войны. Но что будет потом? Вернут ли они компании эти программы, когда настанет мир?

"Есть множество примеров, когда технологии, появившиеся в военное время, продолжали использоваться после того, как наступил мир", - говорит Хили.

"Я надеюсь, они не пойдут таким путем", - добавляет Конор Хили.