„Правдиво и балансирано“ | K-23-2019

През 1949 Федералната комисия по комуникациите в САЩ започва да прилага т.нар. „Доктрина за справедливост“, според която притежателите на лиценз за медийно излъчване са длъжни да представят важните събития “правдиво и балансирано”, т.е. без да клонят към една или друга политическа сила.

През 1987 Рейгън налага вето на доктрината – тя не се вписва в новия (либерален) дневен ред. И докато после се правят някакви опити за възраждането й, започват да изникват и нови медии, още по-трудни за регулиране, още по-лесни за манипулиране, още по-масови – медиите в web.

Миналата седмица припомних WelFargo и Gambridge Analitica скандала и как Facebook работи за републиканците в САЩ. В духа на тази старомодна доктрина ми се ще сега да припомня и начина, по който Google работи за демократите.

Със специалното изследване на феномена Google се занимава д-р Робърт Епщайн, психолог бихейвиорист и експерт по търсачките от Американския институт за поведенчески изследвания и технологии (American Institute for Behavioral Research and Technology – AIBRT). В едно свое проучване от 2016 г. той доказва, че голям процент от гласовете за Хилари Клинтън на президентските избори са дошли от нерешителния електорат, който е прибегнал до океана от ресурси, индексирани в Google, и се е  задоволил с това, което Google им е предложил първо като най-релевантно.

Епщайн нарича това Ефект на манипулативните търсачки (Search Engine Manipulation Effect – SEME). Хората дори не подозират, че са манипулирани, а това е последното, което биха искали преди избори. Изпълнителните директори на Google, разбира се, отричат. Отричат и демократите. И как иначе!

Наскоро станаха известни резултатите и от едно по-ново изследване на Епщайн за три ключови надпревари за Конгреса в Южна Калифорния на изборите през 2018. Тези резултати са силно приблизителни заради допускането на Епщайн, че гласувалите са извършвали едно търсене седмично, докато в действителност свързаните с изборите търсения в Google са били четири-пет дневно, което значи и многократно по-голям процент за демократите. Епщайн е пренебрегнал и класифицирането на източниците в Google по нивото им на пристрастност. Така, както откровено консервативни източници като „Breitbart News” са класифицирани за силно пристрастни, така привидно центристките като „New York Times” са всъщност силно либерални, без да са в класацията. Дори Wikipedia, която минава за аполитична, се оказва окупирана от неолиберални редактори и това се отразява на съдържанието на ключови статии в нея, без някой да го отчита.

От своя страна, самият Епщайн дори не е републиканец и публично е подкрепял Хилъри Клинтън през 2016 г., но демократите и либералите го клеймят като привърженик на конспиративните теории и ренегат заради колаборацията с Брайтбарт.

Дори и с тези допускания обаче, изчисленията на Епщайн показват значителното влияние на Google и по-точно на SEME върху изборния резултат. Може би заради малкия и лесно преодолим марж, с който напоследък се печелят избори в САЩ.

Каквото и да се твърди за релевантността на Google, официалната реакция е винаги една и съща: “доставянето на релевантни отговори е крайъгълен камък на подхода“ и „ако компанията промени своя курс в това отношение, това би подкопало доверието в нея“.

Всъщност, има поне 3 сценария, по които това подкопаване да се случи.

Сценарий тип „Western Union“: 19-ият президент на САЩ, Ръдърфорд Хейс, бе възкачен на престола през 1877 от комуникационния монопол Western Union и тази технологично гарантирана победа осигури после на Western Union съответната протекция.

Сценарий „Мариус Милнър“: нелоялен служител върти зад гърба на Google схеми със свой приятел, който пък участва в кампанията на някой политик. Ако помните, преди време Милнър (уж) беше този, който изложи Google пред 30 държави, злоупотребявайки с Google Street View колите, без (уж) Google да знае за това.

И третият сценарий, най-финият – алгоритмичният. В този сценарий никой, освен алгоритъмът, не е виновен, ако даден кандидат излиза все напред в търсачката и непрекъснато ви боде очите.

Просто Google са наистина много добри в това, което правят. Най-добрите!

Б.а. „Правдиво и балансирано“ е иконичното лого на Fox News, което те захвърлиха през 2017 като вече ненужно.

Facebank | K-22-2019

Не само нашите паянтови регистри се сриват, сриват се и най-добрите. Миналата седмица, на 13 март, Facebook, Instagram и WhatsApp излязоха от строя за цели 6 часа между 9 и 13 часа тихоокеанско време. Причината за тази незапомненa с мащабите си катастрофа е все още мистерия. Дотук има само догадки и опровержения на една или друга от тях, като например класическата за „претоварване на базата данни“ или за изтичане на маршрутизиращи данни по подобие на миналогодишния Google Cloud срив. Каквато и да е причината, потребителите не са длъжни да знаят – сривът е факт. А този факт става много тревожен в комбинация с друг един факт: само дни преди белята стана ясно, че Facebook тайничко работи по проект за своя собствена криптовалута. Тоест, мрежа, която не е много сигурна и се срива, когато си иска, без някой да знае защо, има амбицията да „сече“ свои криптомонети и тези монети да влязат в обръщение като обещание за безусловно плащане въз основа на някакво изключително доверие на потребителите в тях! Лиценз за тази дейност Facebook е получил без много шум още през 2016 от Ирландската централна банка, а с това и разрешението за предоставяне на финансови услуги като кредити, платежни операции, парични преводи… Досущ като банка! Facebank! По повод на това разкритие, във Forbes припомниха писмото на Джейми Даймон, изпълнителният директор на JP Morgan, от 2015 до акционерите в банковия сектор, в което той предупреди, че “Силициевата долина настъпва” (разбирайте „GAFA настъпва“) и скоро криптовалутите ще залеят банкирането и разплащанията. Тогава той нарече Bitcoin измама, но явно е направил остър завой във вижданията си, защото наскоро беше пусната в обръщение JPM Coin и бе обявена за „стейбълкойн“. „Стейбълкойните“ са проектирани с цел намаляване на така присъщата на криптовалутите волатилност. Facebook Coin също е обявена за „стейбълкойн“, явно въз основа на високото доверие на потребителите в социалната мрежа. С какво ли го е заслужила? Та дори самите банки, дори най-стабилните сред тях изживяха кошмарно десетилетие. Доверието в тях завинаги се срина, а официалното навлизане на криптовалутите в банковия сектор не само не се оказа добра алтернатива, но и влоши ситуацията още повече. Нали помните скандала с Well Fargo? Балонът на криптовалутите през 2018 би по показатели дори епичния dotcom балон от края на миналия век. В резултат на хакерски атаки изчезна криптовалута на стойност десетки милиони долари и това постави под въпрос устойчивостта не на една или друга криптовалута, а на самия фундамент на криптовалутите – прехвалената заради децентрализираността си верижно-блокова инфраструктура. Криптовалутите обаче по някакво чудо продължават да процъфтяват. Защо да не процъфти и тази на Facebook? Какво значи тук някакъв си скандален срив?

Впрочем, и скандалът с Cambridge Analytica също не е забравен. Напротив! Той предизвика верижна реакция на институционно негодувание: веднага след разкритията на Крис Уайли, членовете на Конгреса привикаха Зукърбърг да дава обяснения и да се извинява, а британският комисар по информацията започна свое собствено разследване на използването на данни в предизборната кампания. Федералната търговска комисия на САЩ също започна проучване на практиките на Facebook за поверителност. Американското правосъдие, Комисията по ценните книжа и борсите, ФБР – и те не изостанаха. До тях скоро след това се наредиха и Комисариатът по поверителността в Австралия и Централното бюро за разследване на Индия.

Иде реч за политика, очевидно е, а подкрепата за Зукърбърг в американския сенат никога не е била особено голяма (вероятно поради технологичното невежество на сенаторите). Наскоро, май в oпит зa набиране на лесна пoпyляpнocт зa предстоящите пpeзидeнтcĸи избopи пpeз 2020, срещу GAFA (и Facebook в частност) скочи и неизбираемата по мое скромно мнение ceнaтopĸa oт Macaчyзeтc, демократката Eлизaбeт Уopън.

Опитите на Facebook да се прави на банка са май предварително обречени, но нека не бързаме с изводите. Facebook преживя и #deleteFacebook кампанията, ще преживее и този титаничен срив. За да се срива благополучно още много, много пъти.

Анти-лице | K-21-2019

Когато преди години Amazon обяви, че скенерите и технологията „лицево разпознаване“ ще направят излишни касиерите в магазините им за плод-зеленчук, повече бяха притесненията, свързани с евентуалното нарастване на безработицата, отколкото тези, свързани с факта, че човешките лица се превръщат в разпознаваема мишена за някакви роботи в толкова всекидневна и банална дейност като купуването на храна в магазина. Не за друго, ами тази същата технология по това същото време вече се ползваше от полицията в САЩ срещу 117 милиона американци. Amazon „само“ я вкара и в бита им, превръщайки я от репресивна в зловеща.

Днес наблюдението е навсякъде и по всякакви причини. Следят ни на работа, на улицата, по летищата… Следят ни с дронове. Следят ни от космоса даже. Всички сме терористи по подразбиране, така че беше нещо съвсем нормално в един момент да се появи и съпротива.

Може би сте чували за установилия се в Берлин американски артист и изследовател Адам Харви, който нашумя като първия измежду все повечето дизайнери и разработчици, действащи в посока неприкосновеността на личния живот в условия на повишен надзор.

Още като студент в програмата за интерактивни телекомуникации в Нюйоркския университет (преди това е учил фотожурналистика в Пенсилванския), той решава да експериментира със стратегии за запазване на контрола над личния живот на хората посредством объркване на алгоритмите за лицево разпознаване.

Неговият първи проект стана известен под името CV Dazzle. Посредством нещо толкова ниско технологично, като прически и грим, замъгляващи чертите, формата на носа и на главата и създаващи непривични контрасти и асиметрии, алгоритмите биват вкарвани в „недоумение“, защото те разчитат на разпознаваемите форми и на предполагаемата симетрия на лицата за добиване на недостигащата информация. „Аналогови решения за цифрови предизвикателства” нарече самият артист проекта си. CV Dazzle показа, че едно стилизирано „анти-лице” може да прикрие идентичността ни от софтуера (било то във ФБР или във Facebook) и дори да го накара да се усъмни в човешкото присъствие, досущ като животинския камуфлаж в дивата природа. В същото време, това е стил, който е и функционален и донякъде дори естетичен, а и достатъчно евтин, за да може да бъде вкаран в масова употреба.

CV Dazzle намери продължение в проекта HyperFace, в който Харви прилага друга тактика – хиляди „алгоритъм-специфични оптимизирани фалшиви лица, които намаляват достоверността на истинското ви лице“. Тези фалшиви лица могат да бъдат принтирани на произволна дреха и да бъдат интерпретирани от софтуера като реални, претоварвайки го и обърквайки го по този начин.

„…Ако компютърният алгоритъм очаква лице, дайте му каквото иска“, четем на страницата на проекта.

Харви стига и по-далеч в сътрудничество с други артисти. С нюйоркската дизайнерка Джоана Блумфилд създава „модна“ линия за „противонаблюдателно“ облекло под названието „StealthWear“, а също и „Anti-Drone“ облекло, което е нещо като бурка от метализирана тъкан и обърква уредите, действащи на принципа на топлинна детекция.

Другите съвместни проекти са с Ай Вейвей пак в областта на лицевото разпознаване, с Констан Дюлар по невронните вериги, а също и с Hyphen Lab върху един проект за „измамливи шалове“ и с vframe.io за набори от синтетични данни за обучение на алгоритми за компютърно зрение върху обекти в конфликтни зони. Към разработваните артикули можем да добавим също и разни „очила-невидимки“, добавящи „шум“ в областта на очите и основата на носа, калъфи за айфони, предотвратяващи локализирането на собственика им.

Засега това са само арт проекти, подкрепяна с грантове от институции, изследващи правата на човека, но може да се каже, че те вече навлизат в стила ни на живот, в бита ни, превръщат се в мода, все още твърде ексцентрична и маргинална, но нищо чудно скоро да бъде подхваната и от индустриите. Кои ли биха се превърнали в нейни привърженици? Някоя градска субкултура? Подземният свят? Глобалният тероризъм? Или всички ние, превърнати в престъпници до доказване на противното?

 

Назоваването на Звяра | K-20-2019

Съдържанието на авторитетното списание CIO[1] не е безплатно, но понякога там се появяват статии със свободен достъп като например тази, озаглавена „Какво е дигитална трансформация? Един необходим разрив“. Статията разказва за „мъчителния подвиг“, пред който са изправени CIO-тата на корпоративна Америка поради необходимостта да проумеят смисъла на словосъчетанието „дигитална трансформация“ и да видят в него нещо повече от модна фраза.

Проблемът, според статията, идва от рекламната и пропагандна злоупотреба с термина. Той се е превърнал в „мейнстрийм“, преди да е бил осмислен (както се случи с термина „електронно правителство у нас“, например). За CIO-тата този термин е „в най-добрия случай объркващ и безсмислен в най-лошия.“

Според цитираните в статията данни, за провеждането на дигитална трансформация до 2019 г. в САЩ са били предвидени 40% от всички технологични корпоративни харчове. Това са над $2 трилиона! И тъй като дигиталната трансформация съвсем не е само преминаване към нова архитектура, нови локални системи, нови услуги и други такива конкретни, осезаеми неща, а и по-абстрактни като „преосмисляне на начините, по които организациите ползват технологиите, хората и процесите“ (това, според Джордж Уестърман, главен изследовател в MIT по дигиталната икономика), междуведомствено сътрудничество и съвместяване на бизнес-философии, можем да си помислим, че този термин е евфемизъм за мащабно крадене, провеждано под камуфлажа на организационни реформи. Знаете как е: обучения, преквалификация на персонала, изследователска дейност… Могат да се точат до безкрай. Но все пак, става дума за частния сектор в САЩ и най-вероятно страхът от дигиталната трансформация на бизнесите е съвсем реален; и много компании са наясно, че няма да оцелеят в новата среда.

Движещите сили на трансформацията, според статията, са главно две: променливите и често непредсказуеми потребности на хората от стоки и услуги; и трансформацията на продуктите в услуги – всичко във физическия свят, което може да се сдобие с дигитално копие, се сдобива с такова. Просперитет ще има там, където IT лидерите успяват да си партнират с администраторите (CIO-тата), и там, където изграждането на дигитални услуги ще успее да „стимулира ангажираността на потребителите“.

Тук обаче ще припомня, че цитирам статия в CIO и тя представя проблемите с дигиталната трансформация през погледа на висшия корпоративен мениджмънт, не на обществото. Споменават се менящите се непредвидими нужди на потребителите, но никъде не се твърди, че целта на компаниите е тяхното задоволяване. Споменава се и „стимулиране на ангажираността на потребителите“, но нито дума за хроничния глад за данни, канибализиращ личния живот на потребителите. Може би наистина част от събираната информация служи за подобряване на обслужването, но главната цел е печалба. А ако е така, защо да бъдат предвиждани желания, ако те могат да бъдат провокирани или пък манипулирани, за да гарантират печалбата?

Всъщност, пак иде реч за онази нова, мутантна форма на капитализъм, която мрежа/паяжина вече обговаря като „платформен капитализъм“ (по Ник Срничек) и която можем да срещнем на други места като „капитализъм на надзора“. Това, второто, е по Шошана Зубофф, чиято нова книга се появи съвсем наскоро. Книгата на Зубофф е озаглавена именно така: „Ерата на надзорния капитализъм: борбата за човешко бъдеще в новите граници на властта“. Това е обширно изследване на начините, по които биваме колонизирани, досущ като туземци, от големите компании-конкистадори; на начините по които те успяват да извлекат принадена стойност от нашето поведение, да го превърнат в прогностичен продукт, да търгуват с него или да разиграват с него залози на нещо, което Зубофф нарича „поведенчески фючърсен пазар“ [behavioural futures market].

Ендшпил? Гледайки и четейки интервютата на Зубофф, оставам по-скоро с чувството, че това е само началото на играта, началото на опитомяването на този невиждан звяр, на този нов вид капитализъм. Той вече бива назоваван, бива сочен, за него вече се говори.

–-

[1] CIO е съкращение от Chief information officer и значи главен информационен директор или директор по информационни технологии – длъжност от висшия мениджмънт.

Езикът на еднорозите | K-19-2019

След като напоследък машините могат да композират музика не по-зле от хората, как ли стоят нещата с композирането на текст? Езикът е много по-сложна семиотична система, това предполага и по-сложни алгоритми. Но ето, че преди дни на сайта на OpenAI – изследователска, некомерсиална организация, подпомагана от Илън Мъск, се появи публикация за един доста внушителен експеримент в тази област. Става дума за езиковия модел GPT-2, който може да чете „с разбиране“, да превежда, да отговаря на въпроси и да прави обобщения, а също така и да произвежда напълно реалистични, последователни и логични абзаци от текст, които при това могат да са в най-различен стил – публицистичен, научно фантастичен… Новото е, че моделът добива „представа“ за задачите си не от някакви специфични, предварително зададени тренинг-данни, а направо от суровия образец, приспособявайки се като хамелеон към стила му.

Става дума за нещо изключително мащабно. GPT-2 е езиков модел с 1,5 милиарда параметри, обучен върху набор от данни от 8 милиона уеб страници. Целта му е проста: да предскаже следващата дума в един текст, като се имат предвид всички предишни думи. Както сигурно можете да си представите, става дума за огромно разнообразие от комбинации в съответствие с огромния брой задачи, които обикновено се изпълняват в даден „домейн“ (Уикипедия, новинарски емисии, книги). Просто моделът се зарежда на входа на GPT-2 и той, без предварително да е трениран, генерира безпрецедентно откъм качество продължение, трудно отличимо от творението на човек.

OpenAI предлага пример. Човешката подсказка звучи така: Учен, шокиран, открива стадо еднорози, обитаващи отдалечена, неизследвана долина в Андите. Още по-изненадващ за изследователите е фактът, че еднорозите говорят перфектно английски.

В замяна моделът връща резултат с размерите на статия, описваща сребристобели твари, наречени от д-р Хорхе Перес, еволюционен биолог от Университета в Ла Пас, Еднорози на Овидий, както и обитаваната от тях среда – приказен пейзаж, напомнящ не толкова пренаселен вариант на „градината на земните удоволствия“ на Бош. И все пак, в резултата има и някои недостатъци – повтарящи се пасажи, прекалени неправдоподобности – (огньове под водата, например), твърде странни преходи от една тема на друга…

Изследванията доказват, че колкото по-добре е представена темата в данните, толкова по-добър е и резултатът. И обратно – колкото по-екзотична е, толкова по-лошо се справя и моделът. Примерно, GPT-2 би могъл да напише задоволителна статия на тема Brexit или за Майли Сайръс, която и да е тя. Или, ако се настрои достатъчно фино с данни от ревюта в Amazon, да напише сносно ревю за Amazon.

Тук обаче идват и някои съображения: ако ревютата в мрежата досега се пишеха по подразбиране от хора, доволни от даден продукт, книга например, то какво би станало, ако издателите почнат да си служат с GPT за рекламни цели? A представяте ли си GPT да влезе в масова употреба, толкова масова, че да достигне и до нас, където дори критиката изпълнява функцията на реклама? Тогава псевдокритиците, наемани от издателите да пишат положителни рецензии за боклучави книги, ще станат излишни, защото на GPT просто няма да има нужда да му се плаща за долнопробния труд. Резултатът от този труд обаче ще е налице. А какво ли би станало, ако и писателите със закърнели способности, но с жива потребност за изява, почнат да го ползват?

Но дори GPT да не влезе в масова, комерсиална употреба, дори да си остане във владение на един съвсем тесен и елитен политически кръг, как в бъдеще бихме могли да отличаваме истината от лъжата, науката от пропагандата, новината от дезинформацията, ако политиката го вземе на въоръжение? Ето това вече би било проблем!

Миналата седмица писах с негодувание за европейската копирайтна директива, възпрепятстваща експерименти в полето на ИИ като този конкретен OpenAI експеримент. Е, тази седмица ви припомням за кутията на Пандора, която подобни експерименти отварят пред нас. Такива експерименти са безспорно интересни и полезни, защото позволяват дълбинно вникване в същността на езика, но нужно ли е подобно познание да напуска научните кръгове? Във всеки случай, OpenAI не бързат да публикуват целия резултат от изследването си. От морални задръжки или в очакване на добър купувач?

Машини за цензура | К-18 – брой 6, 22 февруари 2019

Трудно е човек да отклони вниманието си от бурната законодателна самодейност у нас напоследък, за да го съсредоточи върху европейската, но там в последно време стават важни неща.

През септември миналата година Европейският парламент гласува т.нар. „Директива за авторското право“ със съкрушаващо мнозинство (438 депутати „за“ и 226 „против“). Непрозрачният и противоречив документ събуди доста недоволство, но на 13 февруари, след месеци дебати и поправки, окончателният му текст бе одобрен. Най-оспорвани разпоредби в него са член 11, член 13 и член 3. Изброявам ги по степента на зловредност, която вижда в тях Рейган Макдоналд, старши политически мениджър и ръководител на отдел „Публични политики на ЕС” в Mozilla.

Член 11 се отнася за набралия популярност вече „данък линк“, който има уж за цел да даде на издателите в интернет възможност за допълнителни приходи, като таксуват мощните агрегатори на новини като Facebook и Google всеки път, когато препращат към тяхното съдържание. Проблемът е, че на големите агрегатори не им пука изобщо. Google например заяви, че или ще получава безплатен лиценз, или издателят трябва да се откаже от търсачката. И издателите приемат. Но дори и да решат да се съпротивляват, срещу гигантските платформи Facebook и Google имат шанс само големите. Малките издатели просто ще бъдат смазани, а това ще се отрази на разнообразието и качеството на съдържанието в мрежата, т.е. цензура, но прикрита зад комерсиални доводи и процъфтяваща във вид на пропаганда, реклама и фалшиви новини.

Член 13 пък налага съвсем откровена цензура, като принуждава платформи като YouTube да филтрират машинно цялото си съдържание за нарушени авторските права. YouTube го правеше досега и без директива, при това на доста произволен принцип, но сега ще го прави законно. Наричат член 13 „убиец на мемите“, които, знаем, са народното творчество на дигиталната ера и съществуват единствено благодарение на свободното си разпространение. Но дори и да прежалим мемите, ще трябва да забравим и за всякакви форми на критика, пародия и сатира, разчитащи на цитирането. Лошото е, че и цитирането ще трябва да забравим. Дори мрежовият протест може да стане невъзможен, защото протестното съдържание лесно се филтрира от машините. Но пък кой знае: забранен в мрежата, протестът може да се върне към по-ефикасните си аналогови форми.

И накрая член 3, който, според Макдоналд, е най-зловреден, защото засяга пряко развитието на технологиите и прилагането им в практиката. Новите продукти и услуги напоследък се появяват предимно на базата на изкуствения интелект и големите данни, а това означава сигурен достъп до голямо количество качествено свободно съдържание в мрежата. Как младите стартиращи европейски компании ще получат финансиране, след като инвеститорите първо сканират законовия пейзаж и ако се натъкнат на ограничения и несигурност, ще предпочетат да се отдръпнат?

А колкото и да критикуваме платформения капитализъм, основан на изкуствен интелект и големи данни, трябва да се съгласим, че става дума не само за бизнес, но и за област с огромен научен потенциал и възможности за изследвания, които Комисията ще осуети на европейска почва, внасяйки правна несигурност тъкмо с директива, претендираща да защитава правата на автори и иноватори.

Директивата си има доста и влиятелни противници: Мартин Зенфтлебен, професор по интелектуална собственост в университета в Амстердам; основателят на Уикипедия Джими Уелс; известната защитничка на свободата в Интернет в Европарламента Джулия Реда; изобретателят на интернет Тим Бърнърс-Лий, който в открито писмо заклейми Директивата.

Нещата са като че ли ясни – Директивата пречи и трябва съпротива.

Не бива обаче да се заблуждаваме, че става дума за нещо различно от властови сблъсък: сблъсък на бизнес модели, на несъвместими регулационни режими, на алчни лобита… Има геополитика. Има го и вечното противопоставяне, ако щете, между свободата и контрола в сложните технологични системи. Има какво ли не, само не и битка за права и гарантиране на ценности. Потребителите, творците, създателите на съдържание, разработчиците, учените изобщо не са страна в този сблъсък. И е факт, че съвременна Европа не може да предложи никаква алтернатива на пощръклелия високотехнологичен платформен капитализъм, може да измисля само регулации.

 

Смъртна присъда за URL-ите | K-17-2019

Усещаме ли при всекидневното си потапяне в web как мрежата еволюира? Кога точно стана излишно да пишем на ръка www и http в полето на браузъра пред адреса на сайта, който искаме да посетим? А дали ни прави впечатление как напоследък вече можем да пишем произволни думи и изрази в браузъра и да получаваме резултат като от търсачка, вместо съобщение за грешка? Промените настъпват неусетно и ние някак инстинктивно ги приемаме или им се съпротивляваме, без да се замисляме какво стои зад тях.

Дали някой помни, например, как през септември 2008-а Google извади от торбата с чудесата чисто новия браузър Chrome и по света изведнъж се заговори за голяма промяна, за революция в света на уеб, за web 3.0? У нас по това време „плоските клиенти“, за които главно бе предназначен Chrome, не бяха разпространени, така че едва ли сме се почувствали разтърсени от новината, но е факт, че освен всичко, което Chrome даде на web разработчиците, за нас, потребителите, това бе първата успешна комбинация от браузър и операционна система, комбинация, която направи десктопа напълно достатъчен, а Windows-a – излишен. На някои това им се стори заплаха. Други го приеха заедно с модата на смартфоните. Тази драстична промяна обаче няма да е последната.

Миналия септември Chrome навърши 10 години и продължава да стряска с радикални и противоречиви инициативи. Това, което е на път в момента да се случи, е „основно преосмисляне на URL адресите в мрежата“ или иначе казано, ликвидиране на URL-ите с един нов инструмент – TrickURI. (В кавичките са думите на Емили Старк, техническият ръководител на Chrome, цитирана от Wired по повода.)

Какво налага това? Налага го развитието на web, разширяване на функционалността на мрежата – URL-ите стават все по-дълги и неразбираеми, маскират се от съкращаващи връзки и схеми за пренасочване (на мобилните си устройства ние дори не виждаме повечето URL-и), а тази непрозрачност е добре дошла за кибер престъпниците и техните фишинг схеми. Теглили ли сте фалшиви приложения, приемали ли сте съмнителни уеб услуги просто защото не виждате самоличността на сайта отсреща, с който осъществявате транзакцията? Екипът на Chrome се е заел да промени това, да усъвършенства начина за предаване на идентичност в уеб, за да се повиши сигурността и това да не е за сметка на удобството при такива ежедневни, рутинни действия като споделяне на линкове, например.

Да, но нямаше ли вече подобен опит и през 2014? Екипът на Chrome тогава се опита да въведе една „дреболия“, наречена чип за произход (origin chip) – името на действителния домейн се изписваше горе в полето на браузъра, а целият URL се показваше след кликване. По някаква причина Chrome се отказа от идеята си, но защо? Факт е, че все по-рядко въвеждаме пълен URL адрес в адресната лента, освен това, много модерни уеб приложения, задвижвани от JavaScript, отхвърлят URL адресите (тъкмо мозъците в Google откриха web-потенциала на Java, впрочем), пък и пълният URL адрес поначало рядко се вижда на телефоните и следователно става все по-ненужен. Google няма как да не е забелязал тази тенденция на отмиране на URL. Защо да не заложи тъкмо на нея, ако това ще привлича трафик за сметка на други компании, заинтересовани от това как хората браузят в web? Защото другите компании ще негодуват? Защото хората инстинктивно ще се съпротивляват на новото и ще се страхуват от хаос и дезинтеграция в уеб? Да си спомним съпротивата при стартирането на HTTPS инициативата за web криптиране. Опитът на Chrome да превърне HTTPS в стандарт, макар и за добро, вместо да събуди доверие, направи всички сайтове, които не са криптирани, да изглеждат съмнителни. Сега страховете са подобни и „най-важното предизвикателство ще е да се избегне маркирането на легитимни домейни като съмнителни“- казва Емили Старк. Но хаос и дезинтеграция на web-инфраструктурата няма как да има. Сигурна съм, че няма и да усетим кога нововъведението е влязло в сила. И все пак, става дума за „една наистина стара, отворена и доста широка платформа“, така че каквато и промяна да се предприеме, все някой ще е недоволен. Но промяна ще има, защото сега всички са недоволни.

 

Кражба и продажба на нищо | K-16-2019

Джесика Райчли, най-обикновена тийнейджърка от Минесота, един ден с удивление открива, че профилът й в Twitter сe е размножил и че двойникът й се занимава с неща, които родителите и приятелите й, меко казано, не биха одобрили: промотиране на инвестиционни сметки за недвижими имоти в Канада, търговия с криптовалута, поддържане на радиостанция в Гана и груба порнография… Освен това открива, че може да туитва на арабски и индонезийски езици.

Репортер на New York Times решава да разследва случая и установява, че двойничката на Джесика е собственост на клиенти на странна американска компания на име Devumi, чийто будещ доверие сайт предлага „бързо набиране на последователи, зрители, харесвания и други с нашата комбинация от маркетингови тактики“.

Когато репортерът на NYT посещава Манхатънски адрес, посочен на сайта, открива скъпа бизнес сграда на REGUS[1], но сред 1800-те офиса в нея няма и един, нает от Devumi или от свързана с Devumi компания, нито някога е имало. Реалният офис на Devumi е открит чак в западен Палм Бийч, Флорида, и се оказва малък апартамент над ресторант за мексиканска храна с изглед към наблъскана с боклукчийски контейнери и паркирани коли алея. Физическата личност на собственика на Devumi, някой си Герман Калас, е също такава мистерия, каквато и офисът на Devumi. В LinkedIn той се представя като „сериен предприемач” с огромен стаж в IT бизнеса, с научна степен по физика от Принстън и докторска степен от Масачузетския технологичен институт. Всъщност, Калас е на 27 години, израснал е в Южна Флорида и като тийнейджър се е занимавал с направата на уеб страници за локални бизнеси. После вероятно е добил компетентност в оптимизация на търсачки. А после е посещавал колежа в Палм бийч, където се е сдобил със средно образование.

Калас е трудно да бъде докопан, защото дори собствените му служители не го познават. Всъщност, служителите му не се познават и помежду си, нито са особено наясно със същността на работата си заради стриктното разделение на дейности, поддържано в компанията. А и повечето служители се намират във Филипините, явно с оглед по-ниското заплащане.

Парадоксално или не, Калас се оказва уязвим тъкмо за типа посегателства, които извършва сам – кражбата на социални идентичности.

От миналия август насам мистър Калас се съди с някой си филипинец Рануалдо Боадо, бивш мениджър по поддръжката на клиенти в Devumi, който след уволнението си установил контрол над пощенската кутия на фирмата и успял да измъкне изпод носа на Калас повече от 170 000 поръчки. Просто г-н Боадо създал фалшив двойник на Devumi. И както се полага на фалшивите двойници, кръстил го с име, производно на оригинала – DevumiBoost – копирайки даже дизайна на сайта и фантомния манхатънски адрес.

По време на процеса става ясно и още нещо: Devumi дори не фабрикува собствени ботове, а ги купува на едро от процъфтяващия глобален сив пазар за фалшиви хора, извинете, фалшиви профили в социалните мрежи.

Каква е технологията за фабрикуване на фалшиви профили, е отделна тема, сега само ще уточня, че те биват няколко категории. Най-долнопробните ботове са лесни за идентифициране – те си нямат профилни снимки, имената им са поредици от цифри и букви или части от думи. Те са производно на по-качествените, които от своя страна дублират реални хора като споменатата Джесика. Малко фотошоп и цветово модулиране е достатъчно за осуетяване на автоматичното разпознаване. Най-качествените, „органични“ ботове обаче идват от изоставените профили на реални хора в социалните мрежи. Това примесване на фалшиви профили с реални прави понякога доста трудно идентифицирането и обезвредяването на спама, а блокирането на нечий профил само по подозрение, че е бот, е доста лоша политика.

Интересно е обаче да се помисли не само за последствията от цялата тази процъфтяваща „икономика на влиянието“ върху доверието на потребителите в предлаганите им услуги и върху представата им кое е ценно и кое не, но и върху икономиката въобще. Както и да го погледнем, това е кражба и продажба на нищо! Това дори не е реклама, това е чиста измама. Къде е принадената стойност тук?

Райна Маркова

[1]  Regus, сега IWG plc, е мултинационална корпорация, въртяща бизнес с офис пространства. Основана в Брюксел, Белгия, през 1989 г. Има REGUS офиси и в София.

 

Секретност и сигурност | K-15-2019

На 23 януари на сайта на пресцентъра на МС се появи странна новина, а именно, че с промяна в Постановление № 181/2009 г. правителството е включило Агенцията по вписванията в Списъка на стратегическите обекти и дейности, сиреч, засекретява я. Вестник „Сега“ нарече това „прецедент“, понеже сред засекретените обекти досега не е имало агенции, а само язовири, военни и енергийни съоръжения, мобилни оператори, седалища на властта и държавната администрация и други подобни. Защо пък да няма и агенция, ще попитате. На няколкото, предполагаемо свързани помежду си публични регистъра, които Агенцията по вписванията администрира, се намира важна информация за статута и правата на субектите в страната, т.е. информация за нас самите, поддържана с наши пари. Защо да не искаме тя да е защитена, особено ако знаем, че тези същите регистри сегиз-тогиз се сриват? През август миналата година в продължение на 18 дни Търговският регистър бе вън от строя и целият търговски оборот в страната бе блокиран. Така беше и през 2011. В момента, в който пиша това, Регистърът пак не работи! Ако ви е правило впечатление, сривовете всеки път биват обяснявани с хардуерна недостатъчност, а после биват потулвани с някой по-малък, но много шумен скандал – за раздаване на бонуси, например. А накрая, уж с цел предотвратяване на бъдещи катастрофи, биват похарчени милиони за осъвременяване на системите. И следват рестрикции. При сривовете през 2011 се вдигна доста шум около ограничаването на достъпа до фирмените дела. Ако сте следили изявите на Александър Кашъмов, ръководител на правния екип на „Програма достъп до информация“, сигурно помните изказването му, че „достъпът до фирмените дела твърде много заприличва на достъпа до държавна тайна”. Достъпът е важен, той е основание тези регистри изобщо да съществуват, но така и не стана ясна тогава връзката между ограничаването на достъпа и сривовете. Дали имаше връзка? Необходимостта от сигурност на регистрите съвсем не променя характера им на публични, но в медийната шумотевица тогава като че ли и без това не много ясната разлика между „сигурност“ и „секретност“ се замаза още повече. Сега пък ни грози засекретяване. Какво точно й засекретяват на тази Агенция, след като електронните регистри са част от инфраструктура, която така или иначе е секретна (мобилните оператори, осигуряващи комуникационната мрежа, са си в Списъка на стратегическите обекти); сървърите, съхраняващи базите данни на регистрите пък, по закон се намират в сграда, сертифицирана и отговаряща на всички възможни европейски стандарти за сигурност. Това е сградата на Агенцията на ул. „Елисавета Багряна“ № 20.

Нима сървърите на администрираните от Агенцията по вписванията регистри не са там? Къде са тогава? Кой знае? Сигурно фирмата, която е изграждала системата, но коя е тя? Със сигурност е някоя частна фирма, но къде можем да видим договора с нея? Интересно би било да видим “exit клаузата” в този договор. Да не би пък контролът над системата (пароли за рутери, ключове за сървърни шкафове) да са си останали в тази фирма? Защото, ако е така, как се справя със задачата си фирмата по поддръжката? Къде можем да видим договора и с нея; и изобщо с всички фирми, сключвали договори с Агенцията? Важно е.

Във вестник „Сега” се появи предположение, че засекретяването ще създаде възможност за „заобикаляне на Закона за обществените поръчки, както и да се направи всичко възможно оттам да не излиза неудобна информация“. Оттам, но откъде? Информацията за обществените поръчки, поне откакто сме в ЕС, се намира в регистъра на друга агенция – Агенцията за обществени поръчки.

Да не би пък промяната на Постановление № 181/2009 г. да цели просто да се закрепи с нормативен документ вече съществуваща секретност? Защото, реално погледнато, около Агенцията имаше доста проблеми и неясноти дори още преди създаването й. И ако тази секретност досега осуетяваше разследването и публикуването на информация за фирмите, сключвали договори с Агенцията по вписванията, то излиза, че оттук нататък това ще е незаконно.

Излиза, че на сегашната власт й е нужен закон, с който да осигури успешното сриване на системите и в бъдеще.

Д-р Знам | K-14-2019

„Гладни умове, добре дошли при д-р Знам, където бързата храна за ума се сервира 24 часа в денонощието… на 40 000 места в цялата страна. Попитайте д-р Знам. (…) Два за пет и получавате един безплатно.“

Сещате ли се за този епизод от филма „Изкуствен интелект“ на Спилбърг от 2001 г., когато след пускане на монети в един автомат анимационен Айнщайн отговаряше на въпросите на героите? Е, 2001-а бе годината, в която се появи на бял свят реалният д-р Знам, неанимиран, но много полезен, пък и безплатен. На 15 януари 2019 г. се навършиха 18 години от появата на Уикипедия.

Забележете, сравнявам с д-р Знам не Siri, Alexa или Google, а Wiki. Защото за каквото и да попитаме Siri, Alexa или Google, те ще ни препратят, почти без изключение, към Wiki.

„Представете си един свят, в който всеки на планетата има достъп до цялото човешко познание. Това е целта на моя живот“, каза преди време Джими Уейлс, създателят на този фантастичен инструмент. Какво може да се напише днес, освен очевидното: той надмина фантастиката. Wikipedia се разрасна неимоверно. Само статиите на английски в нея са 5.7 милиона, а посещенията само миналата година са били 92 милиарда.

В „Мрежа/Паяжина” неведнъж е ставало дума за това какъв уникален феномен е Свободната енциклопедия. Тя е най-пълната енциклопедия в историята на човечеството и това не би било възможно без помощта на технологиите, същите тези технологии, които ни хвърлят в такова униние напоследък с неограничената си способност да дезинформират, да навлизат в личния живот, да крадат самоличности, да фалшифицират… Ботовете на Wiki не се занимават с това. Те се занимават с други работи: те автоматично определят качеството на съдържанието, премахват неенциклопедичното съдържание, справят се с вандализма, с лошия правопис и ругатните, поддържат интегритета на цялата система. Такъв бот е ClueBot NG, разработен от самите редактори на Уики.

Но как тази утопия, този оазис на познанието не просто успява да оцелее насред опустошенията, причинени от комерсиализацията на изкуствения интелект, но и да процъфти?

„В нашата общност има поговорка, казва Саманта Лиен от фондация Wikimedia.  Добре, че Уикипедия работи на практика, защото на теория това е катастрофа.”

Та, тайната е може би в кооперирането – Уики работи с библиотеки, музеи и архиви по целия свят, като им помага да споделят собствените си колекции и ресурси. Уикипедия работи и с училища и университети. Много професори отхвърлят традиционните домашни и вместо това канят учениците да разширят или създадат статия на Уикипедия по дадена тема. Уики е главно от и за студентите. Финансово се разчита само на отделни донори, като средното дарение е около 15 долара.

Успехът на Уики вероятно се дължи и на добрата репутация. Тя все по-често бива цитирана в научни трудове и дори съдебни становища. Не се правят компромиси и с неприкосновеността на личния живот, опитите за дезинформация, политически натиск и реклама. Поне засега.

Уикипедия се превръща във все по-незаменим ресурс и тази незаменимост и единственост не може да не ни изпълва със загриженост за бъдещето дори в период на абсолютен разцвет.

Самите уикипедианци са наясно, че съвършенството е още далеч, като някои виждат главния недостатък в… „Половите пристрастия на Wikipedia“. Тези пристрастия „отразяват факта, че преобладаващото мнозинство от доброволни редактори на Уикипедия, особено на сайта на английски език, са мъже. Това води до по-малко и не толкова обширни статии за жени или теми, важни за жените“. Като пример за тези пристрастия е посочен неоспоримият факт, че страницата, посветена на порнографски актриси, е много по-пълна и добре организирана от страницата, посветена на жени-писатели.

Но дали мъжката доминация в редакторския екип на Wikipedia не се дължи на нежеланието на самите жени да участват в ожесточените и направо груби дебати, съпровождащи почти всяка тема в Wiki?

Най-епичните битки между редактори са на политически теми. Можете да видите каква история е натрупала статията за „Джордж Уокър Буш“. Мюсюлманството е друга лесно възпламенима тема.

Така че, въпросът остава актуален: ще успее ли Wikipedia да опази привързаността си към фактите в свят на политически натиск, дезинформация и подмяна, инвазия в личния живот, нови и нови неравенства и контрол?