Минулого місяця компанія з розпізнавання обличчя Clearview AI, яка має суперечливу репутацію, оголосила, що передала свою технологію українському уряду. ВВС отримала свідчення того, як її використовують – у понад тисячі випадків – для ідентифікації як живих, так і мертвих.
Ця історія містить натуралістичні описи, які можуть вразити деяких читачів.
На підлозі нерухомо лежить чоловік з нахиленою головою. З одягу на ньому – лише труси Calvin Klein. Навколо його очей синці. Тіло знайшли в Харкові, на сході України – у руїнах війни. BBC бачила фотографії, зроблені на місці події, але не знає обставин його смерті. Видно явні ознаки травми голови. Також є татуювання на лівому плечі.
Українська влада не знала, хто цей чоловік, тому вирішила звернутися до передового методу: розпізнавання обличчя за допомогою штучного інтелекту. Clearview є, мабуть, найвідомішою та найсуперечливішою системою розпізнавання облич у світі.
Компанія зібрала мільярди фотографій із соціальних мереж, таких як Facebook і Twitter, щоб створити величезну базу даних, яку її генеральний директор і засновник Хоан Тон-Тат називає “пошуковою системою для облич”.
“Це працює як Google. Але замість того, щоб вводити рядок слів або тексту, користувач розміщує фотографію обличчя”, – пояснює Тон-Тат.
Компанія зіткнулася з низкою юридичних проблем. Facebook, YouTube, Google і Twitter надіслали Clearview листи з проханням припинити використання зображень із сайтів. Офіс уповноваженого з питань інформації Британії навіть оштрафував компанію за те, що вона не повідомила людям, що збирає їхні фотографії.
Тепер використання цієї технології українським урядом підняло питання щодо наслідків таких дій під час активної війни.
Clearview широко – хоча й неоднозначно – використовують правоохоронні органи Америки. Тон-Тат каже, що його технологію купили або випробували 3 200 державних установ.
Після вторгнення Володимира Путіна в Україну засновник Clearview побачив можливість ще одного застосування цієї технології.
“Ми бачили фото людей, які були військовополоненими, і це наштовхнуло нас на думку, що ця технологія потенційно може бути корисною для ідентифікації, а також для перевірки”, – каже він.
Він швидко запропонував українському уряду технологію – і той пристав на пропозицію. Харківські чиновники сфотографували обличчя загиблого – піднята голова, запалі очі, які спрямовані на камеру.
Вони зробили знімок і пропустили його через базу даних Clearview. Під час пошуку знайшли кілька фотографій людини, дуже схожої на померлого. Одне фото було зроблено у спекотний день. Чоловік був без сорочки. У нього було татуювання на лівому плечі. Зображення збігалося. Вони отримали ім’я померлого.
Використання технології розпізнавання облич для ідентифікації загиблих не є новим, і Clearview — не єдина платформа, яку використовують для цього в Україні.
“Ми використовуємо такі програми протягом багатьох років”, – каже Арік Толер, директор з досліджень Bellingcat, організації, яка спеціалізується на журналістських розслідувань.
У 2019 році Bellingcat використала технологію розпізнавання облич, щоб допомогти ідентифікувати росіянина, який знімав катування та вбивство в’язня в Сирії. Тож це не перша війна, де використовують розпізнавання облич.
Але його використання в Україні є ширшим, ніж під час будь-якого з попередніх конфліктів. Толер каже, що він використовує платформу розпізнавання облич FindClone в Росії і що вона була особливо корисною для ідентифікації загиблих російських солдатів.
Як і Clearview, FindClone здійснює пошук серед загальнодоступних фотографій в інтернеті, включно зі сторінками в російських соцмережах. Можна знайти навіть людей, які не мають акаунтів у соцмережах.
“Вони можуть не мати профілю в соціальних мережах, але їхні дружини чи подруги мають… іноді у них є профілі, і вони живуть у маленькому містечку з великою військовою базою. Або у них може бути багато друзів, які зараз у їхній частині”, – пояснює Толер використання FindClone як інструменту розслідування.
Цей останній пункт є основоположним для розуміння потужності технології розпізнавання обличчя.
Це означає, що навіть якщо людина ніколи не мала профілю в соцмережах і думає, що стерла з інтернету свої фото, її все одно можна знайти. На фотографії, завантаженій другом, або просто на фоні випадкового зображення в інтернеті – вони потрапляють до бази даних.
Це означає, що навіть військовослужбовців чи співробітників служби безпеки, яких майже немає в інтернеті, все одно можна відстежити.
Питання точності
Проте критики зазначають, що технологія розпізнавання облич далеко не завжди є правильною – і що під час війни помилки можуть мати потенційно катастрофічні наслідки.
Clearview в Україні використовують не лише для ідентифікації загиблих. Компанія також підтвердила, що український уряд використовує їхню технологію на блокпостах для виявлення ворогів.иClearview показала BBC електронний лист від українського агентства, який підтверджує, що систему використовують для ідентифікації живих людей.
“Система дала нам можливість швидко підтвердити достовірність даних щодо затриманих підозрюваних”, – йдеться в електронному листі українського чиновника, який не побажав називати свого імені.
“Під час використання Clearview AI було виконано понад 1000 пошукових запитів для проведення відповідної перевірки та ідентифікації”, – йдеться в електронному листі.
Це хвилює деяких аналітиків.
Конор Гілі є експертом з розпізнавання обличчя в IPVM, організації, яка вивчає безпекові технології.
“Українським збройним силам важливо розуміти, що це не 100% точний спосіб визначити, хто є другом чи ворогом”, – каже Гілі.
“Це не повинна бути технологія “життя чи смерті”, через яку людину можуть ув’язнити або, не дай Боже, навіть убити. Її взагалі не слід так використовувати”, – додає він.
Інші висловлюють ще зловісніші застереження. Альберт Фокс Кан з групи Surveillance Technology Oversight Project назвав це “катастрофою прав людини, що наближається”.
“Коли розпізнавання облич робить помилки в мирний час, людей помилково заарештовують. Коли розпізнавання облич робить помилки в зоні бойових дій, невинних людей розстрілюють”, – сказав він Forbes.
BBC звернулася до українського уряду за коментарем щодо використання Clearview, але не отримала відповіді.
Містер Тон-Тат захищає точність технології Clearview – за його словами, тести показали, що її точність становить понад 99%.
Але багато залежить від якості зображення, положення голови та того, чи закрите обличчя – наприклад, маскою. кКрім того, є проблема конфіденційності, з якою Clearview зіткнулася у США та Європі. Компанія бере загальнодоступні фотографії з таких соцмереж, як Facebook і Instagram, щоб створити свою базу даних.
Але вона не питала дозволу в соціальних мереж – чи будь-кого іншого – брати ці фотографії. Якщо ви читаєте це, ви майже напевно також є у базі даних, хоча, ймовірно, не давали Clearview дозволу на використання ваших фото.
Минулого року Офіс уповноваженого з питань інформації Британії оштрафував Clearview за те, що компанія не поінформувала людей про те, що збирає їхні фотографії з платформ соціальних мереж.
Тон-Тат визнає, що все ще точаться дискусії щодо законності технології розпізнавання облич, але вважає, що Clearview діє в рамках закону, й каже, що технологію “неправильно зрозуміли”.
Проте технологія розпізнавання облич, очевидно, має антиутопічні застосування. У листопаді минулого року BBC повідомила, що в Китаї розробляють плани використовувати технологію розпізнавання облич для стеження за журналістами.
Тон-Тат каже, що Clearview не дозволить такі пошукові запити, навіть якщо її й можна використовувати таким чином. Він каже, що Clearview не працює з авторитарними урядами і що компанія не буде працювати з Росією.
Проте для технології Clearview є застосування у військовому контексті. Минулого року компанія підписала контракт з Пентагоном, щоб дослідити використання своєї технології в окулярах доповненої реальності. Це одна з кількох компаній, що розробляють штучний інтелект розпізнавання обличчя за військовими контрактами.
Захисники конфіденційності також мають приводи для занепокоєння. Технологія розпізнавання облич може допомагати українській владі під час війни. Але чи перестануть вони її використовувати у мирний час?
Джерело: ВВС