Публикувано на

Анти-лице | K-21-2019

Когато преди години Amazon обяви, че скенерите и технологията „лицево разпознаване“ ще направят излишни касиерите в магазините им за плод-зеленчук, повече бяха притесненията, свързани с евентуалното нарастване на безработицата, отколкото тези, свързани с факта, че човешките лица се превръщат в разпознаваема мишена за някакви роботи в толкова всекидневна и банална дейност като купуването на храна в магазина. Не за друго, ами тази същата технология по това същото време вече се ползваше от полицията в САЩ срещу 117 милиона американци. Amazon „само“ я вкара и в бита им, превръщайки я от репресивна в зловеща.

Днес наблюдението е навсякъде и по всякакви причини. Следят ни на работа, на улицата, по летищата… Следят ни с дронове. Следят ни от космоса даже. Всички сме терористи по подразбиране, така че беше нещо съвсем нормално в един момент да се появи и съпротива.

Може би сте чували за установилия се в Берлин американски артист и изследовател Адам Харви, който нашумя като първия измежду все повечето дизайнери и разработчици, действащи в посока неприкосновеността на личния живот в условия на повишен надзор.

Още като студент в програмата за интерактивни телекомуникации в Нюйоркския университет (преди това е учил фотожурналистика в Пенсилванския), той решава да експериментира със стратегии за запазване на контрола над личния живот на хората посредством объркване на алгоритмите за лицево разпознаване.

Неговият първи проект стана известен под името CV Dazzle. Посредством нещо толкова ниско технологично, като прически и грим, замъгляващи чертите, формата на носа и на главата и създаващи непривични контрасти и асиметрии, алгоритмите биват вкарвани в „недоумение“, защото те разчитат на разпознаваемите форми и на предполагаемата симетрия на лицата за добиване на недостигащата информация. „Аналогови решения за цифрови предизвикателства” нарече самият артист проекта си. CV Dazzle показа, че едно стилизирано „анти-лице” може да прикрие идентичността ни от софтуера (било то във ФБР или във Facebook) и дори да го накара да се усъмни в човешкото присъствие, досущ като животинския камуфлаж в дивата природа. В същото време, това е стил, който е и функционален и донякъде дори естетичен, а и достатъчно евтин, за да може да бъде вкаран в масова употреба.

CV Dazzle намери продължение в проекта HyperFace, в който Харви прилага друга тактика – хиляди „алгоритъм-специфични оптимизирани фалшиви лица, които намаляват достоверността на истинското ви лице“. Тези фалшиви лица могат да бъдат принтирани на произволна дреха и да бъдат интерпретирани от софтуера като реални, претоварвайки го и обърквайки го по този начин.

„…Ако компютърният алгоритъм очаква лице, дайте му каквото иска“, четем на страницата на проекта.

Харви стига и по-далеч в сътрудничество с други артисти. С нюйоркската дизайнерка Джоана Блумфилд създава „модна“ линия за „противонаблюдателно“ облекло под названието „StealthWear“, а също и „Anti-Drone“ облекло, което е нещо като бурка от метализирана тъкан и обърква уредите, действащи на принципа на топлинна детекция.

Другите съвместни проекти са с Ай Вейвей пак в областта на лицевото разпознаване, с Констан Дюлар по невронните вериги, а също и с Hyphen Lab върху един проект за „измамливи шалове“ и с vframe.io за набори от синтетични данни за обучение на алгоритми за компютърно зрение върху обекти в конфликтни зони. Към разработваните артикули можем да добавим също и разни „очила-невидимки“, добавящи „шум“ в областта на очите и основата на носа, калъфи за айфони, предотвратяващи локализирането на собственика им.

Засега това са само арт проекти, подкрепяна с грантове от институции, изследващи правата на човека, но може да се каже, че те вече навлизат в стила ни на живот, в бита ни, превръщат се в мода, все още твърде ексцентрична и маргинална, но нищо чудно скоро да бъде подхваната и от индустриите. Кои ли биха се превърнали в нейни привърженици? Някоя градска субкултура? Подземният свят? Глобалният тероризъм? Или всички ние, превърнати в престъпници до доказване на противното?

 

Публикувано на

Паноптимизиране | Култура – Брой 20 (2723), 28 май 2010

На 10 май, след почти три години съпротива от страна на граждани, интернет доставчици, мобилни оператори, Законът за електронните съобщения  бе окончателно приет, макар и не в най-суровия си вариант – този с интерфейса за пряк достъп отпадна. Като причина за узаконяването на ровенето в личното ни пространство МВР посочи борбата си с тежката престъпност (с цялата неяснота около термина “тежка престъпност”). Според по-параноичните ни сънародници това е стъпка назад към позабравените методи за контрол над „сивото вещество на нацията“ – по-активните, по-осведомените и по-можещи българи.
Чисто времевата близост на това събитие обаче с някои други, подписването на „Меморандума за разбирателство и сътрудничество за противодействие на интелектуалното пиратство в България”, например, подсказва друга версия – борбата с пиратството. Текстът на този меморандум, подписан на 27.04.2010 г. от МВР, Сдружението на издателите на бизнес софтуер и Международната федерация на звукозаписната индустрия, така и не е обнародван, поради което е трудно да се направят окончателни изводи, но ето цитат от обръщението на Пиратската партия към МВР по този повод, доказващ, че не съм сама в съмненията си: “Ние ясно заявяваме, че всеки автор трябва да бъде припознат като такъв и да бъде достойно овъзмезден за труда си, но считаме, че налагането на тотална цензура на интернет трафика на всеки потребител не е и не може да бъде решение на един проблем, който в същността си е следствие от архаичността на съществуващата в момента система от авторски и сродни права. Евентуалното законодателно задължаване на доставчиците на интернет да осъществяват пълен мониторинг на интернет трафика на своите потребители с цел филтриране на незаконно използвани защитени произведения е в разрез с европейските демократични ценности и с Конституцията на Република България.”
Ето че от 10 май доставчиците на интернет са вече не евентуално, а наистина задължени от законодателството да осъществяват мониторинг.
За повечето от нас личната ни информация в мрежата е нещо прекалено абстрактно, за да бъде взето насериозно. По-лесно ни е наивно да вярваме, че сме безинтересни за държавата (конкурента, спамъра, съседа, психически неуравновесения системен администратор, технологизирания престъпник).
Всъщност, точно сега е моментът да си припомним едно ключово понятие, изведено от концепцията на Бентъм за идеалния затвор. Това е т.нар. “паноптицизъм” от „Надзор и наказание“ на Фуко.
Паноптицизмът се крепи на идеята за неуловим систематичен контрол с цел поддържане на ред в човешки колективи. Колкото по-модерни са технологиите, толкова по-рафиниран и ефективен е контролът, сведен в един момент до автоконтрол и поява на самодисциплиниращо се общество. Ако във времената на Бентъм архитектурата на кръглия затвор е била достатъчна гаранция за ефективност, в началото на нашия век това са вездесъщите камери за видеонаблюдение и призивът на държавата към гражданите: If you see something, say something (“видиш ли нещо, докладвай”).
Представете си: всички ние сме резиденти на Паноптикума, осветени и прозрачни за надзирателите, но в същото време изолирани един от друг по силата на едно “видиш ли, докладвай”. Ако сме затворници, няма опасност от заговор и колективно бягство, ако сме пациенти, няма опасност от зарази, ако сме луди – няма опасност да упражним насилие един над друг, ако сме ученици, няма да преписваме и да шумим, а ако сме пирати, то е ясно, няма да копираме незаконно.
Има една малка подробност обаче и тя е имерсивната, заразна природа на съвременните комуникации. При наличието на технологии, като частните виртуални мрежи (VPN) и Tor, разчитащи на криптиране и устройване на рутинг около местата за контрол, идеята за мониторинг на информационния трафик започва да изглежда леко безпочвена. Ако целта на ЗЕС е чрез принудителна самодисциплина да ни излекува от нагона за пиратство и критикуване на властта, то тази цел е относително трудно постижима. От МВР обаче могат да са спокойни – ние, резидентите на Паноптикона, сме вече дотолкова изолирани един от друг, че се обединяваме ефективно единствено в името на благополучието на други биологични видове. Пресен пример е съчувствието, което получи кучето Мима и коeто баба Гена няма да дочака.