Анти-лице | K-21-2019

Когато преди години Amazon обяви, че скенерите и технологията „лицево разпознаване“ ще направят излишни касиерите в магазините им за плод-зеленчук, повече бяха притесненията, свързани с евентуалното нарастване на безработицата, отколкото тези, свързани с факта, че човешките лица се превръщат в разпознаваема мишена за някакви роботи в толкова всекидневна и банална дейност като купуването на храна в магазина. Не за друго, ами тази същата технология по това същото време вече се ползваше от полицията в САЩ срещу 117 милиона американци. Amazon „само“ я вкара и в бита им, превръщайки я от репресивна в зловеща.

Днес наблюдението е навсякъде и по всякакви причини. Следят ни на работа, на улицата, по летищата… Следят ни с дронове. Следят ни от космоса даже. Всички сме терористи по подразбиране, така че беше нещо съвсем нормално в един момент да се появи и съпротива.

Може би сте чували за установилия се в Берлин американски артист и изследовател Адам Харви, който нашумя като първия измежду все повечето дизайнери и разработчици, действащи в посока неприкосновеността на личния живот в условия на повишен надзор.

Още като студент в програмата за интерактивни телекомуникации в Нюйоркския университет (преди това е учил фотожурналистика в Пенсилванския), той решава да експериментира със стратегии за запазване на контрола над личния живот на хората посредством объркване на алгоритмите за лицево разпознаване.

Неговият първи проект стана известен под името CV Dazzle. Посредством нещо толкова ниско технологично, като прически и грим, замъгляващи чертите, формата на носа и на главата и създаващи непривични контрасти и асиметрии, алгоритмите биват вкарвани в „недоумение“, защото те разчитат на разпознаваемите форми и на предполагаемата симетрия на лицата за добиване на недостигащата информация. „Аналогови решения за цифрови предизвикателства” нарече самият артист проекта си. CV Dazzle показа, че едно стилизирано „анти-лице” може да прикрие идентичността ни от софтуера (било то във ФБР или във Facebook) и дори да го накара да се усъмни в човешкото присъствие, досущ като животинския камуфлаж в дивата природа. В същото време, това е стил, който е и функционален и донякъде дори естетичен, а и достатъчно евтин, за да може да бъде вкаран в масова употреба.

CV Dazzle намери продължение в проекта HyperFace, в който Харви прилага друга тактика – хиляди „алгоритъм-специфични оптимизирани фалшиви лица, които намаляват достоверността на истинското ви лице“. Тези фалшиви лица могат да бъдат принтирани на произволна дреха и да бъдат интерпретирани от софтуера като реални, претоварвайки го и обърквайки го по този начин.

„…Ако компютърният алгоритъм очаква лице, дайте му каквото иска“, четем на страницата на проекта.

Харви стига и по-далеч в сътрудничество с други артисти. С нюйоркската дизайнерка Джоана Блумфилд създава „модна“ линия за „противонаблюдателно“ облекло под названието „StealthWear“, а също и „Anti-Drone“ облекло, което е нещо като бурка от метализирана тъкан и обърква уредите, действащи на принципа на топлинна детекция.

Другите съвместни проекти са с Ай Вейвей пак в областта на лицевото разпознаване, с Констан Дюлар по невронните вериги, а също и с Hyphen Lab върху един проект за „измамливи шалове“ и с vframe.io за набори от синтетични данни за обучение на алгоритми за компютърно зрение върху обекти в конфликтни зони. Към разработваните артикули можем да добавим също и разни „очила-невидимки“, добавящи „шум“ в областта на очите и основата на носа, калъфи за айфони, предотвратяващи локализирането на собственика им.

Засега това са само арт проекти, подкрепяна с грантове от институции, изследващи правата на човека, но може да се каже, че те вече навлизат в стила ни на живот, в бита ни, превръщат се в мода, все още твърде ексцентрична и маргинална, но нищо чудно скоро да бъде подхваната и от индустриите. Кои ли биха се превърнали в нейни привърженици? Някоя градска субкултура? Подземният свят? Глобалният тероризъм? Или всички ние, превърнати в престъпници до доказване на противното?

 

Назоваването на Звяра | K-20-2019

Съдържанието на авторитетното списание CIO[1] не е безплатно, но понякога там се появяват статии със свободен достъп като например тази, озаглавена „Какво е дигитална трансформация? Един необходим разрив“. Статията разказва за „мъчителния подвиг“, пред който са изправени CIO-тата на корпоративна Америка поради необходимостта да проумеят смисъла на словосъчетанието „дигитална трансформация“ и да видят в него нещо повече от модна фраза.

Проблемът, според статията, идва от рекламната и пропагандна злоупотреба с термина. Той се е превърнал в „мейнстрийм“, преди да е бил осмислен (както се случи с термина „електронно правителство у нас“, например). За CIO-тата този термин е „в най-добрия случай объркващ и безсмислен в най-лошия.“

Според цитираните в статията данни, за провеждането на дигитална трансформация до 2019 г. в САЩ са били предвидени 40% от всички технологични корпоративни харчове. Това са над $2 трилиона! И тъй като дигиталната трансформация съвсем не е само преминаване към нова архитектура, нови локални системи, нови услуги и други такива конкретни, осезаеми неща, а и по-абстрактни като „преосмисляне на начините, по които организациите ползват технологиите, хората и процесите“ (това, според Джордж Уестърман, главен изследовател в MIT по дигиталната икономика), междуведомствено сътрудничество и съвместяване на бизнес-философии, можем да си помислим, че този термин е евфемизъм за мащабно крадене, провеждано под камуфлажа на организационни реформи. Знаете как е: обучения, преквалификация на персонала, изследователска дейност… Могат да се точат до безкрай. Но все пак, става дума за частния сектор в САЩ и най-вероятно страхът от дигиталната трансформация на бизнесите е съвсем реален; и много компании са наясно, че няма да оцелеят в новата среда.

Движещите сили на трансформацията, според статията, са главно две: променливите и често непредсказуеми потребности на хората от стоки и услуги; и трансформацията на продуктите в услуги – всичко във физическия свят, което може да се сдобие с дигитално копие, се сдобива с такова. Просперитет ще има там, където IT лидерите успяват да си партнират с администраторите (CIO-тата), и там, където изграждането на дигитални услуги ще успее да „стимулира ангажираността на потребителите“.

Тук обаче ще припомня, че цитирам статия в CIO и тя представя проблемите с дигиталната трансформация през погледа на висшия корпоративен мениджмънт, не на обществото. Споменават се менящите се непредвидими нужди на потребителите, но никъде не се твърди, че целта на компаниите е тяхното задоволяване. Споменава се и „стимулиране на ангажираността на потребителите“, но нито дума за хроничния глад за данни, канибализиращ личния живот на потребителите. Може би наистина част от събираната информация служи за подобряване на обслужването, но главната цел е печалба. А ако е така, защо да бъдат предвиждани желания, ако те могат да бъдат провокирани или пък манипулирани, за да гарантират печалбата?

Всъщност, пак иде реч за онази нова, мутантна форма на капитализъм, която мрежа/паяжина вече обговаря като „платформен капитализъм“ (по Ник Срничек) и която можем да срещнем на други места като „капитализъм на надзора“. Това, второто, е по Шошана Зубофф, чиято нова книга се появи съвсем наскоро. Книгата на Зубофф е озаглавена именно така: „Ерата на надзорния капитализъм: борбата за човешко бъдеще в новите граници на властта“. Това е обширно изследване на начините, по които биваме колонизирани, досущ като туземци, от големите компании-конкистадори; на начините по които те успяват да извлекат принадена стойност от нашето поведение, да го превърнат в прогностичен продукт, да търгуват с него или да разиграват с него залози на нещо, което Зубофф нарича „поведенчески фючърсен пазар“ [behavioural futures market].

Ендшпил? Гледайки и четейки интервютата на Зубофф, оставам по-скоро с чувството, че това е само началото на играта, началото на опитомяването на този невиждан звяр, на този нов вид капитализъм. Той вече бива назоваван, бива сочен, за него вече се говори.

–-

[1] CIO е съкращение от Chief information officer и значи главен информационен директор или директор по информационни технологии – длъжност от висшия мениджмънт.

Езикът на еднорозите | K-19-2019

След като напоследък машините могат да композират музика не по-зле от хората, как ли стоят нещата с композирането на текст? Езикът е много по-сложна семиотична система, това предполага и по-сложни алгоритми. Но ето, че преди дни на сайта на OpenAI – изследователска, некомерсиална организация, подпомагана от Илън Мъск, се появи публикация за един доста внушителен експеримент в тази област. Става дума за езиковия модел GPT-2, който може да чете „с разбиране“, да превежда, да отговаря на въпроси и да прави обобщения, а също така и да произвежда напълно реалистични, последователни и логични абзаци от текст, които при това могат да са в най-различен стил – публицистичен, научно фантастичен… Новото е, че моделът добива „представа“ за задачите си не от някакви специфични, предварително зададени тренинг-данни, а направо от суровия образец, приспособявайки се като хамелеон към стила му.

Става дума за нещо изключително мащабно. GPT-2 е езиков модел с 1,5 милиарда параметри, обучен върху набор от данни от 8 милиона уеб страници. Целта му е проста: да предскаже следващата дума в един текст, като се имат предвид всички предишни думи. Както сигурно можете да си представите, става дума за огромно разнообразие от комбинации в съответствие с огромния брой задачи, които обикновено се изпълняват в даден „домейн“ (Уикипедия, новинарски емисии, книги). Просто моделът се зарежда на входа на GPT-2 и той, без предварително да е трениран, генерира безпрецедентно откъм качество продължение, трудно отличимо от творението на човек.

OpenAI предлага пример. Човешката подсказка звучи така: Учен, шокиран, открива стадо еднорози, обитаващи отдалечена, неизследвана долина в Андите. Още по-изненадващ за изследователите е фактът, че еднорозите говорят перфектно английски.

В замяна моделът връща резултат с размерите на статия, описваща сребристобели твари, наречени от д-р Хорхе Перес, еволюционен биолог от Университета в Ла Пас, Еднорози на Овидий, както и обитаваната от тях среда – приказен пейзаж, напомнящ не толкова пренаселен вариант на „градината на земните удоволствия“ на Бош. И все пак, в резултата има и някои недостатъци – повтарящи се пасажи, прекалени неправдоподобности – (огньове под водата, например), твърде странни преходи от една тема на друга…

Изследванията доказват, че колкото по-добре е представена темата в данните, толкова по-добър е и резултатът. И обратно – колкото по-екзотична е, толкова по-лошо се справя и моделът. Примерно, GPT-2 би могъл да напише задоволителна статия на тема Brexit или за Майли Сайръс, която и да е тя. Или, ако се настрои достатъчно фино с данни от ревюта в Amazon, да напише сносно ревю за Amazon.

Тук обаче идват и някои съображения: ако ревютата в мрежата досега се пишеха по подразбиране от хора, доволни от даден продукт, книга например, то какво би станало, ако издателите почнат да си служат с GPT за рекламни цели? A представяте ли си GPT да влезе в масова употреба, толкова масова, че да достигне и до нас, където дори критиката изпълнява функцията на реклама? Тогава псевдокритиците, наемани от издателите да пишат положителни рецензии за боклучави книги, ще станат излишни, защото на GPT просто няма да има нужда да му се плаща за долнопробния труд. Резултатът от този труд обаче ще е налице. А какво ли би станало, ако и писателите със закърнели способности, но с жива потребност за изява, почнат да го ползват?

Но дори GPT да не влезе в масова, комерсиална употреба, дори да си остане във владение на един съвсем тесен и елитен политически кръг, как в бъдеще бихме могли да отличаваме истината от лъжата, науката от пропагандата, новината от дезинформацията, ако политиката го вземе на въоръжение? Ето това вече би било проблем!

Миналата седмица писах с негодувание за европейската копирайтна директива, възпрепятстваща експерименти в полето на ИИ като този конкретен OpenAI експеримент. Е, тази седмица ви припомням за кутията на Пандора, която подобни експерименти отварят пред нас. Такива експерименти са безспорно интересни и полезни, защото позволяват дълбинно вникване в същността на езика, но нужно ли е подобно познание да напуска научните кръгове? Във всеки случай, OpenAI не бързат да публикуват целия резултат от изследването си. От морални задръжки или в очакване на добър купувач?

Машини за цензура | К-18 – брой 6, 22 февруари 2019

Трудно е човек да отклони вниманието си от бурната законодателна самодейност у нас напоследък, за да го съсредоточи върху европейската, но там в последно време стават важни неща.

През септември миналата година Европейският парламент гласува т.нар. „Директива за авторското право“ със съкрушаващо мнозинство (438 депутати „за“ и 226 „против“). Непрозрачният и противоречив документ събуди доста недоволство, но на 13 февруари, след месеци дебати и поправки, окончателният му текст бе одобрен. Най-оспорвани разпоредби в него са член 11, член 13 и член 3. Изброявам ги по степента на зловредност, която вижда в тях Рейган Макдоналд, старши политически мениджър и ръководител на отдел „Публични политики на ЕС” в Mozilla.

Член 11 се отнася за набралия популярност вече „данък линк“, който има уж за цел да даде на издателите в интернет възможност за допълнителни приходи, като таксуват мощните агрегатори на новини като Facebook и Google всеки път, когато препращат към тяхното съдържание. Проблемът е, че на големите агрегатори не им пука изобщо. Google например заяви, че или ще получава безплатен лиценз, или издателят трябва да се откаже от търсачката. И издателите приемат. Но дори и да решат да се съпротивляват, срещу гигантските платформи Facebook и Google имат шанс само големите. Малките издатели просто ще бъдат смазани, а това ще се отрази на разнообразието и качеството на съдържанието в мрежата, т.е. цензура, но прикрита зад комерсиални доводи и процъфтяваща във вид на пропаганда, реклама и фалшиви новини.

Член 13 пък налага съвсем откровена цензура, като принуждава платформи като YouTube да филтрират машинно цялото си съдържание за нарушени авторските права. YouTube го правеше досега и без директива, при това на доста произволен принцип, но сега ще го прави законно. Наричат член 13 „убиец на мемите“, които, знаем, са народното творчество на дигиталната ера и съществуват единствено благодарение на свободното си разпространение. Но дори и да прежалим мемите, ще трябва да забравим и за всякакви форми на критика, пародия и сатира, разчитащи на цитирането. Лошото е, че и цитирането ще трябва да забравим. Дори мрежовият протест може да стане невъзможен, защото протестното съдържание лесно се филтрира от машините. Но пък кой знае: забранен в мрежата, протестът може да се върне към по-ефикасните си аналогови форми.

И накрая член 3, който, според Макдоналд, е най-зловреден, защото засяга пряко развитието на технологиите и прилагането им в практиката. Новите продукти и услуги напоследък се появяват предимно на базата на изкуствения интелект и големите данни, а това означава сигурен достъп до голямо количество качествено свободно съдържание в мрежата. Как младите стартиращи европейски компании ще получат финансиране, след като инвеститорите първо сканират законовия пейзаж и ако се натъкнат на ограничения и несигурност, ще предпочетат да се отдръпнат?

А колкото и да критикуваме платформения капитализъм, основан на изкуствен интелект и големи данни, трябва да се съгласим, че става дума не само за бизнес, но и за област с огромен научен потенциал и възможности за изследвания, които Комисията ще осуети на европейска почва, внасяйки правна несигурност тъкмо с директива, претендираща да защитава правата на автори и иноватори.

Директивата си има доста и влиятелни противници: Мартин Зенфтлебен, професор по интелектуална собственост в университета в Амстердам; основателят на Уикипедия Джими Уелс; известната защитничка на свободата в Интернет в Европарламента Джулия Реда; изобретателят на интернет Тим Бърнърс-Лий, който в открито писмо заклейми Директивата.

Нещата са като че ли ясни – Директивата пречи и трябва съпротива.

Не бива обаче да се заблуждаваме, че става дума за нещо различно от властови сблъсък: сблъсък на бизнес модели, на несъвместими регулационни режими, на алчни лобита… Има геополитика. Има го и вечното противопоставяне, ако щете, между свободата и контрола в сложните технологични системи. Има какво ли не, само не и битка за права и гарантиране на ценности. Потребителите, творците, създателите на съдържание, разработчиците, учените изобщо не са страна в този сблъсък. И е факт, че съвременна Европа не може да предложи никаква алтернатива на пощръклелия високотехнологичен платформен капитализъм, може да измисля само регулации.

 

Смъртна присъда за URL-ите | K-17-2019

Усещаме ли при всекидневното си потапяне в web как мрежата еволюира? Кога точно стана излишно да пишем на ръка www и http в полето на браузъра пред адреса на сайта, който искаме да посетим? А дали ни прави впечатление как напоследък вече можем да пишем произволни думи и изрази в браузъра и да получаваме резултат като от търсачка, вместо съобщение за грешка? Промените настъпват неусетно и ние някак инстинктивно ги приемаме или им се съпротивляваме, без да се замисляме какво стои зад тях.

Дали някой помни, например, как през септември 2008-а Google извади от торбата с чудесата чисто новия браузър Chrome и по света изведнъж се заговори за голяма промяна, за революция в света на уеб, за web 3.0? У нас по това време „плоските клиенти“, за които главно бе предназначен Chrome, не бяха разпространени, така че едва ли сме се почувствали разтърсени от новината, но е факт, че освен всичко, което Chrome даде на web разработчиците, за нас, потребителите, това бе първата успешна комбинация от браузър и операционна система, комбинация, която направи десктопа напълно достатъчен, а Windows-a – излишен. На някои това им се стори заплаха. Други го приеха заедно с модата на смартфоните. Тази драстична промяна обаче няма да е последната.

Миналия септември Chrome навърши 10 години и продължава да стряска с радикални и противоречиви инициативи. Това, което е на път в момента да се случи, е „основно преосмисляне на URL адресите в мрежата“ или иначе казано, ликвидиране на URL-ите с един нов инструмент – TrickURI. (В кавичките са думите на Емили Старк, техническият ръководител на Chrome, цитирана от Wired по повода.)

Какво налага това? Налага го развитието на web, разширяване на функционалността на мрежата – URL-ите стават все по-дълги и неразбираеми, маскират се от съкращаващи връзки и схеми за пренасочване (на мобилните си устройства ние дори не виждаме повечето URL-и), а тази непрозрачност е добре дошла за кибер престъпниците и техните фишинг схеми. Теглили ли сте фалшиви приложения, приемали ли сте съмнителни уеб услуги просто защото не виждате самоличността на сайта отсреща, с който осъществявате транзакцията? Екипът на Chrome се е заел да промени това, да усъвършенства начина за предаване на идентичност в уеб, за да се повиши сигурността и това да не е за сметка на удобството при такива ежедневни, рутинни действия като споделяне на линкове, например.

Да, но нямаше ли вече подобен опит и през 2014? Екипът на Chrome тогава се опита да въведе една „дреболия“, наречена чип за произход (origin chip) – името на действителния домейн се изписваше горе в полето на браузъра, а целият URL се показваше след кликване. По някаква причина Chrome се отказа от идеята си, но защо? Факт е, че все по-рядко въвеждаме пълен URL адрес в адресната лента, освен това, много модерни уеб приложения, задвижвани от JavaScript, отхвърлят URL адресите (тъкмо мозъците в Google откриха web-потенциала на Java, впрочем), пък и пълният URL адрес поначало рядко се вижда на телефоните и следователно става все по-ненужен. Google няма как да не е забелязал тази тенденция на отмиране на URL. Защо да не заложи тъкмо на нея, ако това ще привлича трафик за сметка на други компании, заинтересовани от това как хората браузят в web? Защото другите компании ще негодуват? Защото хората инстинктивно ще се съпротивляват на новото и ще се страхуват от хаос и дезинтеграция в уеб? Да си спомним съпротивата при стартирането на HTTPS инициативата за web криптиране. Опитът на Chrome да превърне HTTPS в стандарт, макар и за добро, вместо да събуди доверие, направи всички сайтове, които не са криптирани, да изглеждат съмнителни. Сега страховете са подобни и „най-важното предизвикателство ще е да се избегне маркирането на легитимни домейни като съмнителни“- казва Емили Старк. Но хаос и дезинтеграция на web-инфраструктурата няма как да има. Сигурна съм, че няма и да усетим кога нововъведението е влязло в сила. И все пак, става дума за „една наистина стара, отворена и доста широка платформа“, така че каквато и промяна да се предприеме, все някой ще е недоволен. Но промяна ще има, защото сега всички са недоволни.

 

Кражба и продажба на нищо | K-16-2019

Джесика Райчли, най-обикновена тийнейджърка от Минесота, един ден с удивление открива, че профилът й в Twitter сe е размножил и че двойникът й се занимава с неща, които родителите и приятелите й, меко казано, не биха одобрили: промотиране на инвестиционни сметки за недвижими имоти в Канада, търговия с криптовалута, поддържане на радиостанция в Гана и груба порнография… Освен това открива, че може да туитва на арабски и индонезийски езици.

Репортер на New York Times решава да разследва случая и установява, че двойничката на Джесика е собственост на клиенти на странна американска компания на име Devumi, чийто будещ доверие сайт предлага „бързо набиране на последователи, зрители, харесвания и други с нашата комбинация от маркетингови тактики“.

Когато репортерът на NYT посещава Манхатънски адрес, посочен на сайта, открива скъпа бизнес сграда на REGUS[1], но сред 1800-те офиса в нея няма и един, нает от Devumi или от свързана с Devumi компания, нито някога е имало. Реалният офис на Devumi е открит чак в западен Палм Бийч, Флорида, и се оказва малък апартамент над ресторант за мексиканска храна с изглед към наблъскана с боклукчийски контейнери и паркирани коли алея. Физическата личност на собственика на Devumi, някой си Герман Калас, е също такава мистерия, каквато и офисът на Devumi. В LinkedIn той се представя като „сериен предприемач” с огромен стаж в IT бизнеса, с научна степен по физика от Принстън и докторска степен от Масачузетския технологичен институт. Всъщност, Калас е на 27 години, израснал е в Южна Флорида и като тийнейджър се е занимавал с направата на уеб страници за локални бизнеси. После вероятно е добил компетентност в оптимизация на търсачки. А после е посещавал колежа в Палм бийч, където се е сдобил със средно образование.

Калас е трудно да бъде докопан, защото дори собствените му служители не го познават. Всъщност, служителите му не се познават и помежду си, нито са особено наясно със същността на работата си заради стриктното разделение на дейности, поддържано в компанията. А и повечето служители се намират във Филипините, явно с оглед по-ниското заплащане.

Парадоксално или не, Калас се оказва уязвим тъкмо за типа посегателства, които извършва сам – кражбата на социални идентичности.

От миналия август насам мистър Калас се съди с някой си филипинец Рануалдо Боадо, бивш мениджър по поддръжката на клиенти в Devumi, който след уволнението си установил контрол над пощенската кутия на фирмата и успял да измъкне изпод носа на Калас повече от 170 000 поръчки. Просто г-н Боадо създал фалшив двойник на Devumi. И както се полага на фалшивите двойници, кръстил го с име, производно на оригинала – DevumiBoost – копирайки даже дизайна на сайта и фантомния манхатънски адрес.

По време на процеса става ясно и още нещо: Devumi дори не фабрикува собствени ботове, а ги купува на едро от процъфтяващия глобален сив пазар за фалшиви хора, извинете, фалшиви профили в социалните мрежи.

Каква е технологията за фабрикуване на фалшиви профили, е отделна тема, сега само ще уточня, че те биват няколко категории. Най-долнопробните ботове са лесни за идентифициране – те си нямат профилни снимки, имената им са поредици от цифри и букви или части от думи. Те са производно на по-качествените, които от своя страна дублират реални хора като споменатата Джесика. Малко фотошоп и цветово модулиране е достатъчно за осуетяване на автоматичното разпознаване. Най-качествените, „органични“ ботове обаче идват от изоставените профили на реални хора в социалните мрежи. Това примесване на фалшиви профили с реални прави понякога доста трудно идентифицирането и обезвредяването на спама, а блокирането на нечий профил само по подозрение, че е бот, е доста лоша политика.

Интересно е обаче да се помисли не само за последствията от цялата тази процъфтяваща „икономика на влиянието“ върху доверието на потребителите в предлаганите им услуги и върху представата им кое е ценно и кое не, но и върху икономиката въобще. Както и да го погледнем, това е кражба и продажба на нищо! Това дори не е реклама, това е чиста измама. Къде е принадената стойност тук?

Райна Маркова

[1]  Regus, сега IWG plc, е мултинационална корпорация, въртяща бизнес с офис пространства. Основана в Брюксел, Белгия, през 1989 г. Има REGUS офиси и в София.

 

Секретност и сигурност | K-15-2019

На 23 януари на сайта на пресцентъра на МС се появи странна новина, а именно, че с промяна в Постановление № 181/2009 г. правителството е включило Агенцията по вписванията в Списъка на стратегическите обекти и дейности, сиреч, засекретява я. Вестник „Сега“ нарече това „прецедент“, понеже сред засекретените обекти досега не е имало агенции, а само язовири, военни и енергийни съоръжения, мобилни оператори, седалища на властта и държавната администрация и други подобни. Защо пък да няма и агенция, ще попитате. На няколкото, предполагаемо свързани помежду си публични регистъра, които Агенцията по вписванията администрира, се намира важна информация за статута и правата на субектите в страната, т.е. информация за нас самите, поддържана с наши пари. Защо да не искаме тя да е защитена, особено ако знаем, че тези същите регистри сегиз-тогиз се сриват? През август миналата година в продължение на 18 дни Търговският регистър бе вън от строя и целият търговски оборот в страната бе блокиран. Така беше и през 2011. В момента, в който пиша това, Регистърът пак не работи! Ако ви е правило впечатление, сривовете всеки път биват обяснявани с хардуерна недостатъчност, а после биват потулвани с някой по-малък, но много шумен скандал – за раздаване на бонуси, например. А накрая, уж с цел предотвратяване на бъдещи катастрофи, биват похарчени милиони за осъвременяване на системите. И следват рестрикции. При сривовете през 2011 се вдигна доста шум около ограничаването на достъпа до фирмените дела. Ако сте следили изявите на Александър Кашъмов, ръководител на правния екип на „Програма достъп до информация“, сигурно помните изказването му, че „достъпът до фирмените дела твърде много заприличва на достъпа до държавна тайна”. Достъпът е важен, той е основание тези регистри изобщо да съществуват, но така и не стана ясна тогава връзката между ограничаването на достъпа и сривовете. Дали имаше връзка? Необходимостта от сигурност на регистрите съвсем не променя характера им на публични, но в медийната шумотевица тогава като че ли и без това не много ясната разлика между „сигурност“ и „секретност“ се замаза още повече. Сега пък ни грози засекретяване. Какво точно й засекретяват на тази Агенция, след като електронните регистри са част от инфраструктура, която така или иначе е секретна (мобилните оператори, осигуряващи комуникационната мрежа, са си в Списъка на стратегическите обекти); сървърите, съхраняващи базите данни на регистрите пък, по закон се намират в сграда, сертифицирана и отговаряща на всички възможни европейски стандарти за сигурност. Това е сградата на Агенцията на ул. „Елисавета Багряна“ № 20.

Нима сървърите на администрираните от Агенцията по вписванията регистри не са там? Къде са тогава? Кой знае? Сигурно фирмата, която е изграждала системата, но коя е тя? Със сигурност е някоя частна фирма, но къде можем да видим договора с нея? Интересно би било да видим “exit клаузата” в този договор. Да не би пък контролът над системата (пароли за рутери, ключове за сървърни шкафове) да са си останали в тази фирма? Защото, ако е така, как се справя със задачата си фирмата по поддръжката? Къде можем да видим договора и с нея; и изобщо с всички фирми, сключвали договори с Агенцията? Важно е.

Във вестник „Сега” се появи предположение, че засекретяването ще създаде възможност за „заобикаляне на Закона за обществените поръчки, както и да се направи всичко възможно оттам да не излиза неудобна информация“. Оттам, но откъде? Информацията за обществените поръчки, поне откакто сме в ЕС, се намира в регистъра на друга агенция – Агенцията за обществени поръчки.

Да не би пък промяната на Постановление № 181/2009 г. да цели просто да се закрепи с нормативен документ вече съществуваща секретност? Защото, реално погледнато, около Агенцията имаше доста проблеми и неясноти дори още преди създаването й. И ако тази секретност досега осуетяваше разследването и публикуването на информация за фирмите, сключвали договори с Агенцията по вписванията, то излиза, че оттук нататък това ще е незаконно.

Излиза, че на сегашната власт й е нужен закон, с който да осигури успешното сриване на системите и в бъдеще.

Д-р Знам | K-14-2019

„Гладни умове, добре дошли при д-р Знам, където бързата храна за ума се сервира 24 часа в денонощието… на 40 000 места в цялата страна. Попитайте д-р Знам. (…) Два за пет и получавате един безплатно.“

Сещате ли се за този епизод от филма „Изкуствен интелект“ на Спилбърг от 2001 г., когато след пускане на монети в един автомат анимационен Айнщайн отговаряше на въпросите на героите? Е, 2001-а бе годината, в която се появи на бял свят реалният д-р Знам, неанимиран, но много полезен, пък и безплатен. На 15 януари 2019 г. се навършиха 18 години от появата на Уикипедия.

Забележете, сравнявам с д-р Знам не Siri, Alexa или Google, а Wiki. Защото за каквото и да попитаме Siri, Alexa или Google, те ще ни препратят, почти без изключение, към Wiki.

„Представете си един свят, в който всеки на планетата има достъп до цялото човешко познание. Това е целта на моя живот“, каза преди време Джими Уейлс, създателят на този фантастичен инструмент. Какво може да се напише днес, освен очевидното: той надмина фантастиката. Wikipedia се разрасна неимоверно. Само статиите на английски в нея са 5.7 милиона, а посещенията само миналата година са били 92 милиарда.

В „Мрежа/Паяжина” неведнъж е ставало дума за това какъв уникален феномен е Свободната енциклопедия. Тя е най-пълната енциклопедия в историята на човечеството и това не би било възможно без помощта на технологиите, същите тези технологии, които ни хвърлят в такова униние напоследък с неограничената си способност да дезинформират, да навлизат в личния живот, да крадат самоличности, да фалшифицират… Ботовете на Wiki не се занимават с това. Те се занимават с други работи: те автоматично определят качеството на съдържанието, премахват неенциклопедичното съдържание, справят се с вандализма, с лошия правопис и ругатните, поддържат интегритета на цялата система. Такъв бот е ClueBot NG, разработен от самите редактори на Уики.

Но как тази утопия, този оазис на познанието не просто успява да оцелее насред опустошенията, причинени от комерсиализацията на изкуствения интелект, но и да процъфти?

„В нашата общност има поговорка, казва Саманта Лиен от фондация Wikimedia.  Добре, че Уикипедия работи на практика, защото на теория това е катастрофа.”

Та, тайната е може би в кооперирането – Уики работи с библиотеки, музеи и архиви по целия свят, като им помага да споделят собствените си колекции и ресурси. Уикипедия работи и с училища и университети. Много професори отхвърлят традиционните домашни и вместо това канят учениците да разширят или създадат статия на Уикипедия по дадена тема. Уики е главно от и за студентите. Финансово се разчита само на отделни донори, като средното дарение е около 15 долара.

Успехът на Уики вероятно се дължи и на добрата репутация. Тя все по-често бива цитирана в научни трудове и дори съдебни становища. Не се правят компромиси и с неприкосновеността на личния живот, опитите за дезинформация, политически натиск и реклама. Поне засега.

Уикипедия се превръща във все по-незаменим ресурс и тази незаменимост и единственост не може да не ни изпълва със загриженост за бъдещето дори в период на абсолютен разцвет.

Самите уикипедианци са наясно, че съвършенството е още далеч, като някои виждат главния недостатък в… „Половите пристрастия на Wikipedia“. Тези пристрастия „отразяват факта, че преобладаващото мнозинство от доброволни редактори на Уикипедия, особено на сайта на английски език, са мъже. Това води до по-малко и не толкова обширни статии за жени или теми, важни за жените“. Като пример за тези пристрастия е посочен неоспоримият факт, че страницата, посветена на порнографски актриси, е много по-пълна и добре организирана от страницата, посветена на жени-писатели.

Но дали мъжката доминация в редакторския екип на Wikipedia не се дължи на нежеланието на самите жени да участват в ожесточените и направо груби дебати, съпровождащи почти всяка тема в Wiki?

Най-епичните битки между редактори са на политически теми. Можете да видите каква история е натрупала статията за „Джордж Уокър Буш“. Мюсюлманството е друга лесно възпламенима тема.

Така че, въпросът остава актуален: ще успее ли Wikipedia да опази привързаността си към фактите в свят на политически натиск, дезинформация и подмяна, инвазия в личния живот, нови и нови неравенства и контрол?

Преобръщането | K-13-2019

Чували ли сте за Микела Соуза (Miquela Sousa), известна още като LilMiquela? Тя се появи в Instagram през април 2016 г. и оттогава за нейния профил са се абонирали 740 хиляди човека.

LilMiquela е на 19 години, живее в Лос Анджелис и се занимава с музика. Дебютният й сингъл “Not Mine” се нареди на осмо място в класацията на музикалната платформа Spotify Viral през август 2017 г. Тя е също така активистка в „Black Lives Matter“, бори се за правата на транссексуалните и е застъпница на мултикултурализма.

Тя често е забелязвана в магазини, заведения, артистични пространства в компанията на знаменитости, като диджея и продуцент Diplo, активистката-блогерка Моли Сода, музикантите Нил Роджърс и Саманта Ърбани. Често дава интервюта, правят се очерци за нея във Vogue, Buzzfeed, Nylon, Guardian, Business of Fashion, The Cut и BBC.com. Можете да я видите в пълния й блясък в блога за мода High Snobiety или позираща в Instagram за Prada по време на Миланската седмица на модата. И изобщо, тя води доста наситен живот на Insta-знаменитост.

„Голяма оптимистка съм за силата на социалните мрежи – казва Соуза. – Те ми помогнаха, да си създам приятели, да се сдобия с увереност и да вдъхновявам хората по цял свят. Бих искала те да бъдат ползвани с добри намерения, защото, харесва ни или не, сега те се явяват част от културата ни и това няма как да бъде пренебрегнато“.

Като всяка звезда, Соуза си има приятелка, която е и нейна съперница. Тя се казва Бермуда, бяла, руса и открита симпатизантка на Доналд Тръмп. Има десни възгледи, запалена е по любимата водеща на консервативната общност в САЩ Томи Ларън и на всеослушание твърди, че белите жени са майките на американската нация. Освен това, Бермуда изобщо не крие, че е симулация, изкуствен интелект, разработен в компанията Сain Intelligence. Нищо, че както The Cut изясни, такава компания не съществува.

През април тази година Бермуда хакна профила на Микела в Instagram и написа:

„Добре, Микела, направих всичко, за да изглеждам мила. Звъних ти, писах ти и не исках така да се получи, но твоята игра свърши. Мир.“ След което изтри профила й с призива да „спре с лъжите и да разкаже цялата истина за себе си“ в срок от 48 часа.

Каква точно истина трябва да разкаже Микела за себе си? Може би тази, че също като Бермуда е бот, създаден с помощта на компютърна графика. И че въпреки стотиците си хиляди последователи и ролята на важен „инфлуенсър“ с огромно социално присъствие, в реалността тя просто не съществува.

„Ние живеем в епоха, в която става все по-сложно да се открие нещо автентично“ – откровеничи в едно от многото си интервюта Микела, но никъде не споменава собствената си неавтентичност. А насред целия този фалш, в съзнанието на интернет потребителя започва да набъбва един тревожен въпрос: какво ни кара нас, хората, да следваме бот в социалните мрежи? Какво ни кара да се наслаждаваме на „творенията“ му, да се вслушваме в призивите му, да имитираме стила му на „живот“? Как нещо толкова неавтентично може да предизвиква автентични трепети? Факт е, че това се случва, но защо бива провокирано? С каква цел? И не се ли случва вече в мащаб, надхвърлящ отделните платформи и засягащ цялата WWW? В последния си брой за миналата година двуседмичникът „New York Magazine” писа: „Измамниците създадоха симулакрум на интернет, в който единственото истинско нещо са рекламите.”

Разбираемо е: знаменитости, спортисти, проповедници и политици – всички те се нуждаят от милиони фалшиви последователи, за да поддържат илюзията за своята значимост, а осигуряването на тази илюзия е доста доходен бизнес за други. Но какво става, ако бъдат подменени не само последователите с ботове, но и самата следвана персона, самата звезда с фалшива?

Тъкмо служителите в рекламата започнаха първи да се притесняват от подмяната и тъкмо те вкараха в обръщение термина „инверсия“, за да я опишат – инверсията, преобръщането на Интернет в място, където не просто фалшиви хора с фалшиви „бисквитки“ и фалшиви профили в социалните мрежи движат на ужким фалшивите си курсори, за да дадат по някой фалшив клик на фалшив сайт, а където всичко е по подразбиране фалшиво.

Езикови бездни | K12 – 21 декември 2018

Вълнувало ли ви е някога това дали и как се отнасят помежду си Кодексът (в най-общия смисъл на кодифицирано, обединено, систематизирано знание за човешките закони и правни норми) и Кодът – машинният код, решаващ сложни задачи и взимащ трудни решения вместо хората? И двете разчитат на логиката и последователността на някакви процедури, следвани при решаването на даден проблем, което означава, че ако проблемът е дефиниран примерно така: „съгласно този и този наказателен кодекс, при тази и тази специфична съвкупност от обстоятелства, виновен ли е обвиняемият?“, той да може да бъде решен еднозначно с „да“ или „не“.

Ако погледнем на една правна система от софтуерно-инженерна гледна точка така, както гледаме на една компютърна игра или на инструмент за управление на бизнеса, а наместо набора правила с определена степен на изчислителна сложност имаме набор закони, нещата изглеждат осъществими на теория, но дали са и практически приложими? Сякаш всичко зависи от понятието „сложност“. С каква степен на сложност би трябвало да е един правен проблем, за да е решим с помощта на машинен алгоритъм; как се преценява степента на сложност и изобщо, що е то „сложност“? Сложността несъмнено има отношение към времето, необходимо, за да се изпълни алгоритъмът/да се реши проблемът. А времето за това зависи от броя елементи, които трябва да се обработят. Тоест, за да оценим степента на сложност на една система, налага се най-малко да знаем броя на тези елементи. Това е броят на всички изходни данни, с които ще се оперира, или нещо повече? И как може, може ли изобщо да се определи за системи като един наказателен кодекс, за да се таксува времето за изчисление на алгоритъма по начина, по който се таксува и времето на един адвокат?

Първа трудност: юридическият език твърде малко се различава от езика, с който си служим всекидневно, а той е така безкрайно сложен и имплицитен, така произволен на моменти, че може да се наложи да се търси определение на всяка дума във всяко едно изречение и това да продължи до безкрайност. Един пример: в повечето правни системи съществува възможността за законно нараняване и дори убийство при самозащита. В британското наказателно право пише: лице може да използва разумно количество сила според обстоятелствата за предотвратяване на престъпление. Какво обаче е „разумно“? Съдебната практика дефинира „разумно“, но във всеки отделен специфичен случай, а не като обща дефиниция в Кодекса. В такива случаи решаването на случая би било възможно само в съда, а не машинно.

Просто подобни произволни, непрестанно менящи се според контекста и опасно гъвкави дефиниции е практически невъзможно да се опишат с програмни езици. Ако сложим в сметката и процеса по оценка на различен брой доказателства и улики по всеки отделен случай, тогава сложността нараства още повече.

Законът, освен всичкото, е отворена система и непрекъснато се мени. Буквално всичко може да му повлияе, дори културните и социални промени. Защо да не добавим тук и намесата в съвременното законодателство на разни публични и частни лобита, ad hoc съветници и консултанти? Колко точно гъвкав може да е един Кодекс, колко точно противоречия и произвол може да си позволи, преди да изгуби смисъла си? Да си спомним неотдавнашната съпротива по повод опитите да се вкара в наказателния кодекс понятието „полова идентичност“. Ако това понятие може да присъства в НК, защо да не могат да присъстват и поетични тропи? Гъвкавостта на правния език трябва да има граници.

Така че, колкото и да се променя във времето, колкото и ужасно локализиран да е и безкрайно двусмислен езикът в един Кодекс, погледнат от гледната точка на формалния анализ, той трябва все пак да не губи своята безпристрастност и да гарантира някаква справедливост.

Може ли в такива случаи софтуерът да е от помощ или е безсилен?

Между другото, докато пишех, по съвсем неофициални канали научих, че у нас е имало разработки в БАН навремето за формална верификация на правната ни система, но са били открити твърде много противоречия в нея и държавата е спряла финансирането.