Як працює Palantir — компанія, яка озброїла спецслужби алгоритмами для масового стеження

Одна з найзагадковіших компаній сучасності. Секретний розробник ПЗ для спецслужб. Фірма, яка знає про вас усе. Так різні ЗМІ називали американську софтверну компанію Palantir Technologies, що працює з аналізом даних.

Серед її клієнтів — армія, поліція, спецслужби, банки, а віднедавна і Міністерство охорони здоров’я США, яке доручило Palantir працювати над платформою для боротьби з коронавірусом.

Чим компанія заслужила нелюбов правозахисників, які послуги надає американським силовикам, як на її створення вплинули атаки російського хакера на PayPal і чому її звинувачують у сприянні відстеженню іммігрантів, розібрався ForkLog.

• Palantir надає свої продукти широкому колу замовників, проте основні її клієнти — спецслужби та урядові організації.
• ПЗ Palantir дає змогу зіставляти дані з безлічі джерел, знаходити між ними взаємозв’язки та візуалізувати їх у вигляді різних діаграм.
• Правозахисники вважають, що співпраця Palantir з деякими американськими держструктурами може порушувати права людини.

Заснована 2003 року Palantir отримала свою назву від каменів-палантірів у легендаріумі Дж. Р. Р. Толкіна. З їхньою допомогою можна було бачити те, що відбувається або відбулося в іншому місці.

Palantir — дітище відомого підприємця та інвестора Пітера Тіля, тому відсилання до "Володаря перснів" не дивне. Він часто черпає натхнення в толкієнівському всесвіті — назви щонайменше п’яти компаній, співзасновником яких є Тіль, взяті з творів Толкіна.

Тіль відомий як "дон мафії PayPal". Саме під час роботи в PayPal у нього зародилася ідея створення Palantir. І посприяв цьому російський хакер.

У своїй книзі "Від нуля до одиниці. Як створити стартап, який змінить майбутнє" Тіль розповів про проблему, з якою PayPal зіткнулася в середині 2000-х — компанія не могла відслідковувати велику кількість переказів і через шахрайства з кредитними картками втрачала понад $10 млн щомісяця.

Спочатку створений математиками автоматичний алгоритм для відстеження транзакцій не працював — шахраї швидко підлаштовувалися під нього і змінювали тактику. Пізніше в PayPal переписали програму, використовуючи гібридний підхід — "комп’ютер відмічав найбільш підозрілі транзакції в призначеному для користувача інтерфейсі, а люди-оператори вже ухвалювали остаточне рішення про те, шахрайська вона чи ні".

"Ми назвали цю гібридну систему "Ігор" — на честь інтернет-шахрая з Росії, який похвалявся, що ми ніколи не зможемо впоратися з ним", — пише Тіль.

Завдяки новому рішенню перший квартал 2002 року виявився першим прибутковим в історії PayPal. Рішенням зацікавилося ФБР, яке попросило дозволу використовувати "Ігор" для розкриття фінансових злочинів.

Після продажу PayPal Тіль продовжив думати про рішення і поділився зі своїм однокурсником Алексом Карпом ідеєю нового стартапу — симбіозом людини та алгоритмів під час аналізу даних для пошуку терористичних мереж і фінансових шахраїв.

Згодом ця ідея втілиться у створенні компанії з виробництва ПЗ, що дає змогу витягувати максимум інформації з розрізнених джерел даних. Її назвуть Palantir, а Карп обійме посаду СЕО.

Крім Карпа, до створення Palantir Тіль залучив екс-інженера PayPal Натана Геттінгса і двох випускників Стенфорда Джо Лонсдейла і Стівена Коена. Вони мали розробити алгоритм.

Попри зацікавленість ФБР у розв’язанні "Ігоря", урядові організації не одразу звернули увагу на Palantir, який пропонував схожий алгоритм із легким у використанні інтерфейсом.

Спочатку розробку повністю фінансував сам Тіль. Алексу Карпу, якому доручили знайти фінансування, не щастило — десятки інвесторів відмовили стартапу.

Однак незабаром Palantir все ж зацікавилися — компанія отримала $2 млн від венчурного підрозділу ЦРУ In-Q-Tel.

"Інвестиції In-Q-Tel надали Palantir щось важливіше, ніж гроші: схвалення ЦРУ. Коли двері у Вашингтоні почали відчинятися, Palantir почав привертати прихильників із розвідки та організацій національної безпеки", — пише Intelligencer .

Згодом серед клієнтів Palantir були різні урядові служби, включно з ФБР, Міністерством внутрішньої безпеки США, АНБ, військово-повітряними силами США та іншими.

Серед замовників Palantir був і Департамент поліції Лос-Анджелеса.

Професор соціології Техаського університету в Остіні Сара Брейн (Sarah Brayne) провела понад два роки, вивчаючи як поліцейські Лос-Анджелеса використовують систему. Результати її дослідження не тільки відкрили завісу над тим, як саме працює Palantir, а й змусили багатьох занепокоїтися наслідками.

У базі даних Palantir містилася стандартна інформація про громадян — ім’я, стать, місце навчання тощо. Додаткові відомості надходили в систему від держустанов, наприклад, від Департаменту транспортних засобів США. Вона також наповнювалася даними, купленими у приватних компаній.

У систему потрапляли не тільки правопорушники, а й їхні контактні особи.

"Я б застерегла від думки, що якщо вам нема чого приховувати, вам нема чого боятися. Ця логіка заснована на припущенні, що інформацію [в систему] вводять без помилок або забобонів", — заявила Брейн.

ПЗ Palantir переглядає різні джерела даних — фінансові документи, інформацію про бронювання авіаквитків, дані мобільних телефонів, повідомлення в соцмережах — і шукає зв’язки, які можуть пропустити аналітики, повідомив Bloomberg . Потім воно представляє виявлені зв’язки в легко інтерпретованій графіці, яка виглядає як павутина.

Журналісти вивчили користувацьке керівництво до додатка Palantir Gotham, яким користуються правоохоронні органи.

Згідно з ним, поліція могла отримати велику інформацію про людину, практично не володіючи даними про неї — наприклад, знаючи тільки ім’я або номер машини.

Деякі джерела даних — наприклад, відомості про шлюб, розлучення, народження та комерційну діяльність — також включали дані про інших людей, які пов’язані з людиною. Сара Брейн назвала це вторинною мережею спостереження.

"Коли поліція зацікавилася кимось, вона не просто збирає номери телефонів, відомості про ділові стосунки, подорожі підозрюваного тощо. Вона також збирає інформацію про людей, пов’язаних із ним", — пише Vice.

Спеціальний інструмент давав змогу поліції фільтрувати, сортувати, відображати, аналізувати та експортувати різні дані. Знайдені взаємозв’язки візуалізували за допомогою діаграм, гістограм або часових шкал — інструмент підбирав найкращий варіант, зважаючи на дані, що аналізуються.

Коли людина з’являлася в системі, поліцейський міг "підписатися" на неї, випливає з дослідження Брейн взаємодії правоохоронців Лос-Анджелеса з Palantir.

Наприклад, поліцейський міг отримувати повідомлення на телефон, коли машина людини, яка його зацікавила, опинялася в "підозрілому" районі. Реалізувати це вдалося за допомогою інтеграції даних з камер вуличного відеоспостереження в систему Palantir.

"Без громадського нагляду або регулювання Palantir допомогла поліції Лос-Анджелеса створити велику базу даних з іменами, адресами, номерами телефонів, автомобільними номерами, відомостями про дружні та романтичні стосунки — винних, невинних і тих, хто посередині", — пише BuzzFeed .

Ще одним замовником Palantir була Імміграційна та митна поліція США (ICE). У 2014 році вона уклала з фірмою контракт на $41 млн на створення та обслуговування системи відстеження.

Правозахисники переконані, що саме Palantir зіграла ключову роль у депортаціях нелегальних мігрантів. У компанії ж наполягали, що не працюють із департаментом ICE, який відповідає за затримання іммігрантів без документів і депортацію.

Однак запевнення Palantir не переконали правозахисників. Організація Amnesty International розкритикувала контракти компанії з ICE і заявила, що Palantir "не виконує свої зобов’язання щодо дотримання прав людини".

Особлива увага до співпраці Palantir і ICE прикута і через зв’язки Пітера Тіля з президентом США Дональдом Трампом, який відомий своєю анти-іммігрантською риторикою. Тіль — чи не єдиний представник Кремнієвої долини, який відкрито підтримав Трампа.

Карп, який 2015 року різко критикував Трампа, відразу після обрання останнього президентом був помічений на зустрічі з ним серед керівників великих технологічних компаній.

Робота Palantir з ICE викликала внутрішнє невдоволення з боку співробітників компанії. Карп же заявив, що співпраця з владою продовжиться.

"Кремнієва долина говорить пересічному американцю: "Я не підтримаю ваші оборонні потреби", продаючи при цьому продукцію країнам, які вороже налаштовані проти Америки. Це позиція невдахи".

— Palantir (@PalantirTech) July 18, 2019

"Кремнієва долина говорить пересічному американцеві: "Я не збираюся підтримувати твою потребу в обороні", в той час, як сама продає розробки ворожим Америці країнам. Це позиція лузерів", — заявив Карп.

Така патріотичність є чи не основоположною ідеєю Palantir. У документах, поданих компанією до виходу на біржу, йдеться про те, що вона "не працює з клієнтами або урядами, чиї позиції чи дії несумісні з місією з підтримки західної ліберальної демократії та її стратегічних союзників".

Той факт, що основними клієнтами Palantir є саме силові структури і спецслужби США, повністю відображає прихильність компанії до цієї місії.

Як писав Bloomberg , за деякими відомостями, система Palantir навіть допомогла усунути терориста Усаму бен Ладена. Компанія не підтверджує і не розвінчує ці чутки. Тіль у своїй книзі лише заявив, що "нічого не може розповісти про ту операцію".

Він зазначив, що за допомогою програм, створених Palantir, аналітики змогли передбачити, "в яких місцях афганські заколотники планують влаштувати вибухи".

Водночас Palantir намагається послабити свою залежність від держконтрактів і розширити клієнтську базу. Комерційні клієнти працюють з Palantir Foundry — платформою для інтеграції даних.

Одним із перших корпоративних клієнтів компанії став фінансовий холдинг JPMorgan. Однак спочатку ця співпраця затьмарилася скандалом.

У 2009 році фахівці Palantir працювали з групою з виявлення інсайдерських загроз банку, повідомляє Bloomberg .

ПЗ Palantir аналізувало електронну пошту, історію браузера, розшифровки телефонних розмов, виявляючи ключові слова і моделі поведінки співробітників банку.

Наприклад, алгоритм Palantir попереджав команду інсайдерських загроз JPMorgan, коли співробітник починав приходити на роботу пізніше, ніж зазвичай, що було ознакою потенційного невдоволення.

Працівники були шоковані тим, що "ніхто з банку або Palantir не встановив жодних обмежень", пише видання.

Ця історія закінчилася тим, що топ-менеджери банку дізналися, що за ними теж стежать.

"Платформа, розроблена для війни з терористами, була використана проти звичайних американців", — резюмує Bloomberg.

Щоб виконати свої зобов’язання щодо забезпечення конфіденційності та безпеки, Palantir каталогізує і маркує дані користувачів системи — всі його дії записуються.

У компанії також намагаються дотримуватися певних "етичних норм" — для співробітників Palantir створено гарячу лінію під назвою Batphone з питань етики. З її допомогою вони можуть анонімно повідомляти керівництву Palantir про роботу на клієнта, яку вважають неетичною.

З’явилася гаряча лінія після скандалу з WikiLeaks . У 2011 році стало відомо, що один зі співробітників обговорював в електронних листах можливості стеження за інформаторами WikiLeaks, щоб не допустити розголошення організацією документів з Bank of America.

Карп публічно вибачився і заявив, що Palantir підтримує право на свободу слова і недоторканність приватного життя.

Сам Карп вважає, що компанія зможе знайти баланс між захистом особистого життя і забезпеченням безпеки.

"Я не підписувався на те, щоб уряд знав, коли я викурюю косяк або [з ким] у мене роман", — цитує Карпа Forbes.

У своєму листі Карп практично безпосередньо звинуватив компанії з Кремнієвої долини, на кшталт Facebook і Google, у продажі персональних даних і втручанні в приватне життя.

"Програмні проєкти з оборонними та розвідувальними агентствами нашої країни, чиї завдання полягають у забезпеченні нашої безпеки, стали суперечливими, тоді як компанії, засновані на рекламних грошах, стали звичайним явищем", — пише Карп.

Він зазначив, що інженерна еліта Кремнієвої долини, можливо, знає про створення ПЗ більше, ніж будь-хто інший, але "не знає більше про те, як має бути організоване суспільство і чого вимагає справедливість".

Але, як вказує Intelligencer, його аргумент ігнорує той факт, що Palantir використовували для аналізу даних із соціальних мереж, включно з публікаціями у Facebook.

У 2020 році Palantir провела прямий лістинг своїх акцій на Нью-Йоркській фондовій біржі (NYSE).

Згідно з розкритими Комісії з цінних паперів і бірж США документами, у першому півріччі 2020 року в компанії було 125 клієнтів. Виручка Palantir за цей період досягла $481,2 млн.

З документів також випливає, що виручка від державних контрактів зросла на 76%, а від комерційних — лише на 27%. Сукупно з червня 2019 року вона зросла майже наполовину.

Водночас Palantir зазнає збитків щороку з моменту свого заснування, вказала сама компанія в розділі, присвяченому ризикам. Значна частина виручки припадає на обмежену кількість клієнтів.

Крім того, як пише Bloomberg Businessweek, інвестори не зможуть практично ніяк вплинути на управлінські рішення, оскільки "Palantir створений таким чином, що Тіль, Карп і третій співзасновник Стівен Коен безстроково контролюють половину акцій з правом голосу через траст".

Видання зазначає, що компанія може собі це дозволити почасти тому, що її ПЗ "майже ідеально підходить для розв’язання проблем, пов’язаних із пандемією коронавірусу".

Наприкінці квітня Міністерство охорони здоров’я і соціальних служб США (HHS), яке відповідальне за боротьбу з пандемією у Сполучених Штатах, уклало з Palantir контракт на $25 млн. Компанія має контролювати роботу платформи HHS Protect зі збору та аналізу даних.

"Угода була однією з понад сотні, які Palantir уклав у перші дні пандемії — 83 з них припало на період з березня до початку квітня, — і це одна з причин поліпшення фінансових показників компанії цього року", — зазначає Bloomberg Businessweek.

На тлі цієї угоди одразу кілька членів Конгресу поцікавилися, які саме дані збиратиме HHS Protect і як їх використовуватимуть, згадавши скандал з ICE.

"У нас є побоювання з приводу того, як наявна система Palantir, що використовувалася для відстеження та арештів іммігрантів, буде доповнена персональною інформацією про здоров’я, яка надходитиме з HHS Protect", — йдеться в листі.

Розгортання масштабних систем відстеження громадян у період пандемії серйозно турбує правозахисників. Особливо, коли компанії, що створюють подібні системи, тісно пов’язані з владою.

Ще 2011 року Пітер Тіль розповів Bloomberg, що прихильники громадянських свобод мають вітати створення Palantir:

"Ми не можемо дозволити собі ще одне 11 вересня. Той день "відчинив двері" для всіх видів божевільних зловживань і драконівської політики".

На його думку, найкращий спосіб уникнути подібних сценаріїв у майбутньому — надати уряду передові технології та забезпечити захист від їхнього неправомірного використання.

Однак після безлічі викриттів відстеження громадян з боку влади світ, здається, вже не вірить у непогрішність співробітників спецслужб або урядових організацій у питаннях втручання в приватне життя.

З моменту одкровень Едварда Сноудена минуло багато років, а системи відстеження продовжують розвиватися і масштабуватися, про що свідчать численні дослідження.

Агрегування даних, що збираються цими системами, в одній базі загрожує створенням інструменту, який у буквальному сенсі знатиме про вас усе. Але де в такому разі залишиться місце для приватності?

Автор: Аліна Саганська.

Підписуйтесь на новини ForkLog у Telegram: ForkLog Feed — уся стрічка новин, ForkLog — найважливіші новини та опитування.