Господ Бот | Култура – Брой 28 (3082), 20 юли 2018

В един от диалозите на Платоновата „Държава“ Сократ е недоволен от начина, по който поетите представят боговете. Той настоява да им се дадат модели, които те да следват, за да са от полза на Полиса, и с това се слага началото на нещо, което после ще бъде наречено политическа теология – науката за връзката на земната власт (иманентното) с Бога (трансцендентното). През Средновековието никой не поставя под съмнение тази връзка – Църквата управлява редом с кралете. Но идва Модерността и политическите теории, които следват, радикално отричат всеки монопол над репрезентацията на Бог и превръщането му във фундамент на политиката. Политиката (поне привидно) следва либералните принципи на съвещателната демокрация и целта е да се избегнат всякакви тоталитаризми и фашизми. Дали обаче те са в миналото и какво се е случило напоследък, та еклесиастични теми се връщат така стремително на мода? Случват се страшно много неща, но аз ще ви припомня само как през септември 2015, насред възбудения срещу него съдебен процес за злоупотреба с търговски тайни[1], инженерът мултимилионер Антъни Левандовски обяви на всеослушание, че основава нова религиозна организация, Пътят на бъдещето (Way of the Future). WOTF ще си има химн, озаглавен „Наръчника“ (The Manual), а също и място за поклонение (макар засега да разполага единствено с уебсайт). Целта на WOTF е „да развива и насърчава реализацията на Божество, основаващо се на изкуствен интелект“.
Звучи шокиращо и гротескно – да се покланяме на робот! Още по-гротескното е, че пророкът му е съден за злоупотреба. Да не би просто отново да става дума за пари? Все пак, лансирането на нов култ изисква средства. Левандовски обаче е категоричен: WOTF няма нищо общо с бизнеса. Целта на WOTF е безкористна и е продиктувана от грядущата промяна, тази същата, която в Силициевата долина с трепет наричат The Singularity (Сингулярността) и говорят за нея така, както се говори за Деня на Страшния съд. The Singularity, това е Денят, в който сингулярната точка на кривата, описваща възхода ни като вид, ще бъде достигната, еволюцията ни рязко ще смени посоката си и човешкото битие ще се трансформира във всеки свой аспект – труд, почивка, вяра, познание, политика, може би дори и физическото ни оцеляване…
Левандовски не ползва думата „сингулярност“ в изказванията си. Той ползва по-мекото „преходът“. Хората са отговорни за планетата, защото са по-умни от другите животни и са способни да изграждат инструменти и да прилагат правила, казва той в свое интервю за Wired. В бъдеще, ако нещо е много, много по-умно от нас, отговорността ще премине към него. Това, което искаме ние, е мирен и спокоен преход на контрола на планетата от хората към все едно какво.
Звучи налудно, но, исторически погледнато, човечеството е загърбило ирационалността сравнително отскоро. Нека си спомним само доктрината за изкуствените тела на Хобс. Според нея, обществото и неговите институции отдавна са престанали да бъдат отражение на природата. Те са механични, изкуствени образувания, плод на обсъждане и консенсус, а не на инстинкти. Такива изкуствени тела могат да са държавите, църквата, отделни личности, все едно какво. И те ще съществуват дотогава, докато хората имат нужда да ги боготворят и да вярват в тях. В крайна сметка, дори не е важно в какво хората вярват. Защо тогава да не вярват в изкуствения интелект? Кризата в репрезентацията на Бог, предизвикана от Модерността, остави на мястото на Бог празно място, просто бяло петно, lieu vide, както засукано би се изразил някой моден троцкист… Дявол знае какво ще последва, ако на това място поставим изкуствения интелект, но истината е, че тази роля му подхожда. Машините с тяхното безкористно добро (пък и зло), с тяхната мощ (и с техните смъртоносни бъгове и хакове) и най-вече – с пълната им незаинтересованост от човешкото ни битие, са идеални за ролята на нов Бог. Проблемът обаче е този, че с появата му ще се наложи и появата на нова политическа теология, тъй като неминуемо Властта ще пожелае да поднови връзката си с него.

[1] Става дума за Waymo, компанията на Google за самоуправляващи се автомобили, чиито тайни Левандовски предоставил на новия си работодател Uber.
още от автора

 

Образцово саламопроизводство | Култура – Брой 26 (3080), 06 юли 2018

Наскоро писах за океана от законови, социални и културни различия, делящ Стария континент от Новия, и за това, че в нововъведената европейска регулация на лични данни GDPR няма нищо изненадващо. Но ето, че тия дни в САЩ, и то не къде да е, а в родния щат на Big Tech, Калифорния, бе приет, при това в рекорден срок, закон близнак на европейския GDPR – Законът за поверителността на потребителите в Калифорния 2018 (California Consumer Privacy Act 2018). В обхвата му се озовава всяка компания, държаща данните на повече от 50 000 души, а всеки от 40-те милиона калифорнийци вече има право да знае какви точно данни се събират за него, дали и как те се търгуват с трети страни и да изисква унищожаването им в случай, че положението не го устройва.
Големият бизнес не крие безпокойството си. Говорителят на Google, например, изрази опасенията си от „трудно предвидимите усложнения“, които ще последват приемането на закона и как те ще накърнят иначе „законни бизнес нужди.“ Цялата съвременна икономика се крепи на данните, това е вярно, но е вярно също и това, че законното не винаги е легитимно.
Как изобщо се стигна до този закон? По каква процедура е бил изготвен, придвижен, приет и то точно в Калифорния, без да срещне яростния отпор на лобистите на Силициевата долина?
Има една поговорка, че правенето на закони е като правенето на салами – искаш крайния резултат, но не и да знаеш как се стига до него. А бързината, с която този „калифорнийски GDPR“ се превърна от проектозакон в закон, и изненадата, която предизвика не само в средите на бизнеса, но и сред потребителите, меко казано намирисва. Каква ли машинация се крие зад това?
Ето как Тhe Register проследява историята.
В началото на 2016, в столицата на щата Сакраменто и близкия Оукланд, неколцина разполагащи с пари и законодателно ноу хау люде започват да правят координирани усилия да осигурят на калифорнийците възможност да контролират личните си данни. Първоначалният импулс идва от разработчика на недвижими имоти Алистър Мактагърт. След случаен разговор с инженер от Google в Оукланд, който му казал, че „Ако хората разберат колко много знаем за тях, те наистина ще се притеснят“, той решава, че е открил кауза, в която да инвестира някой и друг милион. После се запознава с бащата на дете от училището, в което учи неговото – финансист на име Рик Арни, който преди това е работил в Сената в Калифорния, поради което бил доста запознат с необичайната система на така наречената „ballot measure“[1] – система, при която всеки в щата може да предложи инициатива и ако тя събере достатъчно много привърженици, да участва с бюлетина на следващите избори и ако спечели гласове, да се превърне в закон. Понякога това се случва, понякога – не, но предвид силното влияние на Силициевата долина в Сакраменто, подобен инструмент на директната демокрация е единственият начин да се прокара закон пряко волята на Big Tech.
Третият в играта е Мери Стоун Рос – бивша служителка на ЦРУ и юридически съветник на Комисията за разузнаване към Камарата на представителите, също от Оукланд, и очевидно доста веща в изготвянето на закони, провеждането на политики и ползване на съществуващата система за прокарването им.
Тези тримата в продължение на година привличат привърженици от средите на юристите и техноекспертите, та до академични среди и обикновените граждани. И така, благодарение на добре структурираната им инициатива, професионално проведена политика и добър „тайминг“, успяват да съберат необходимата подкрепа и през ноември 2017 инициативата им е вече законопроект.
Това предизвиква очакваната паника сред законодателите, но една “ballot measure” може да се неутрализира единствено с друга “ballot measure”, а за да се проведе такава, просто няма време. Ето така, в рекордно кратък срок, Законът за поверителността на потребителите в Калифорния бе подписан от губернатора Браун миналия четвъртък (29 юни 2018), въпреки пълчищата лобисти на Google и Facebook в Сакраменто и милионите долари, приготвени специално за това. Огромната маса калифорнийци също тепърва ще бъдат изненадани, но така се творят закони – далеч от взора на потребителя. Дори когато е по правилата на пряката демокрация.


[1] Най-вероятно „мярка за гласуване“ на български.

Дигиталните крепости | Култура – Брой 24 (3078), 22 юни 2018

Наскоро четох във Wired статия, посветена на новия кмет на Барселона, активистката от Подемос Ада Колау, която, без какъвто и да е административен опит, но с помощта на програмисти и криптографи, e успяла да извърши малка локална революция в управлението на града.
Усилията й са в две взаимно изключващи се посоки: към по-голяма прозрачност на управлението чрез отварянето му за гражданите и в посока на по-голяма сигурност за тях, тоест, те да могат да решават какви точно данни да предоставят за себе си на това управление така, че да е сигурно, че „умният град“ работи в тяхна услуга, а не обратното – те да работят в полза на един управляван като корпорация град.
Това се случва благодарение на платформата за управление на участието Decidim (“Ние решаваме”, на каталански), създадена от екипа на Колау. Гражданите участват не само пасивно като донори на данни, но и активно – участвайки в споделяне на идеи, в дебати, в гласувания и вземане на решения. Според Франческа Бриа, главния технически директор по дигиталните иновации на Барселона, чрез тази платформа идват над 70% от предложенията и те показват ясно на какво най-много държат барселонци и върху какво трябва да се фокусира градската власт: достъпни жилища, енергиен пренос, качествени публични пространства. В град като Барселона това не е особено трудно, тъй като става дума за един от най-умните градове в света със заварена, добре развита информационна инфраструктура и сензори за всичко и навсякъде. Те са нервната система на града и изсмукват от всяка негова точка данни за транспорта, за консумацията на енергия, за нивата на шума, напояването на зелените площи и ги транслират към кметството и партньорите от частния сектор. Това се е случвало и преди Колау, просто сега целта на употребата на цялата тази инфраструктура, цялата парадигма, цялата политика на управление на града е преобърната в посока отдолу нагоре. “Вместо на преден план да са технологиите с извличането на всички данни, казва Бриа, технологичния дневен ред се напасва към дневния ред на града.” А данните, предоставяни от гражданите, трябва да принадлежат на самите тях, а не на трети лица, както е било досега. Старата сделка между градските власти и частния сектор вече не е в сила. Доскоро например кметството е имало договор с Vodafone и Vodafone е трябвало всеки месец да му предоставя машинно четими данни, което не се е случвало. Vodafone са ползвали данните за своя лична изгода и с това са ощетявали града и гражданите.
Все пак, умният град е една съвсем млада концепция (така беше и с Интернет през 90-те, впрочем) и тази концепция иска неконтролируемо да се разраства, не затормозявана от никакви регулации. Благодарение на 5G, интернета от неща и изкуствения интелект, тя буквално експлодира пред очите ни. От гледна точка на регулациите, тя е все още tabula rasa, поради което с нея може лесно да се злоупотреби. Амбицията на новата градска управа в Барселона е да я регулира така, че да се придвижи от модела на съществуващия надзорен капитализъм с неговата информационна непрозрачност и създаването на съвсем нови неравенства в посока към модел, в който гражданите да имат контрола. Пример: системата за здравеопазване би следвало да има достъп до данните за здравния статус на гражданите, но не и застрахователната и рекламна индустрии.
Това звучи наистина революционно и въпреки всичко, четейки за бъдещето на градовете, ние имаме странното чувство, че се връщаме към времена, когато градовете са били крепости и мефистофелската мощ на капитализма все още не ги е била впримчила в мрежата си от пътища и мостове. Това странно напомня за „новото Средновековие“ на Бердяев: „сриването на легитимния принцип на властта и на юридическия принцип на монархиите и демокрациите и заменянето му с принципа на силата, на жизнената енергия, на неформалните спонтанни социални съюзи и групи…“ Напомня ни и за едноименното есе на Ален Менк, писано преди четвърт век, в зората на глобализма, за зараждащия се неофеодализъм в недрата на либералната капиталистическа система.
Това ли е Барселона в днешно време – един неофеодален град, вписващ се, отлично при това, в корпоративния европейски цифров дневен ред?

Здрава лична връзка | Култура – Брой 22 (3076), 08 юни 2018

Тия дни на адреса на добрия стар TechCrunch ме посрещна сайт със страховитото име Oath[1]  и ми се представи на чист български: Запознайте се с Oath! Ние сме мултимедийна и технологична компания, която свързва 1 милиард потребители по целия свят чрез сайтове и приложения, като HuffPost, Tumblr, Yahoo Sport, TechCrunch и други.
Това, което Oath не спомена, е, че е дъщерна на Verizon. Verizon я създаде преди 9 месеца, след като купи Yahoo, за да я слее с AOL. И фактът, че Oath не бърза да го спомене, навява мисълта, че Verizon я ползва като шапка-невидимка за някои свои недотам прилични дейности.
За какво все пак ме уведоми Oath?
Уведоми ме, че е възможно не всички услуги или функции да са налични в държавата или региона ми. Ах да, проблемът с GDPR! В европейска юрисдикция Oath извършва дейност под името Oath (EMEA) Limited.
Oath ме уведоми също, че държи да опознае моята личност, защото само така е сигурно, че ще получа най-подходящото за мен обслужване. Това, разбира се, е свързано със събиране на данни от редица надеждни източници:
– от мен самата – това е съдържанието, което аз споделям и съхранявам в мрежата (текстове, снимки, видеа);
– от моето сърфиране в мрежата – съдържанието и приложенията, които аз ползвам;
– от моите устройства: бисквитки, идентификатори на мобилни устройства, версията на браузъра и операционната система на компютъра ми и „тънките“ ми клиенти;
– от моето местоположение: IP адрес, GPS данни, WiFi, Bluetooth, данни от отбелязванията ми върху картата;
– от различни други източници…
Така запомнена и анализирана, аз ще бъда възнаградена с „персонализирано изживяване“, което никога не свършва, защото, свързвайки информацията на всичките ми устройства, Oath ще ги синхронизира и така ще ми „помогне“ да не напускам мрежата никога. И без Oath вече съм забелязала, че дори да затворя на лаптопа си браузъра, от който съм влязла в социалната мрежа, съобщенията продължават да изскачат направо върху екрана му. Просто лаптопът ми е синхронизиран с телефона и таблета, където продължавам да съм log-ната. Интересното е, че дори да се logout-на, пак получавам индикация под една или друга форма. Просто е невъзможно да се изолирам! Тази висока оперативна съвместимост се осигурява от безпрепятствения достъп до данни, а той става възможен не само посредством безшевова технология, но и на „безшевово“ законодателство. И понеже Oath е наясно, че европейка или не, аз държа на неприкосновеността си, бърза да ме увери, че прилага технически, административни и физически мерки за защита от неразрешен достъп, използване или оповестяване на клиентската информация, която събира или съхранява. Нищо, че разрешава достъп до мен и на трети лица. И нищо, че миналата година тъкмо Yahoo влезе в историята с най-големия сървърен срив, който изложи на риск информацията на три милиарда потребители. Преди години Reuters не публикува ли разкритието, че Yahoo дължи лидерството си на задната вратичка на сървърите си, през които NSA тършува в базите й данни? Е, сега Yahoo е на Oath, а Oath е на Verizon… А ние с вас вече си мислим как можем да осъдим Oats, ако се издъни.
Oats обаче е помислил преди нас: като важна част от връзката, която компанията иска да изгражда с нас, е и новата политика на… ограничаване на правата ни да я съдим.
Разбирате, че като се съгласите с тези условия, арбитражът или исковете с малък материален интерес ще бъдат единственото и изключително средство за разрешаване на всеки спор между нас. Също така разбирате, че като се съгласите с тези условия, вие се отказвате от правото да подадете иск в съда или пред жури (освен в случаите, които могат да бъдат заведени в съда за малки искове); и че се отказвате от правото си на каквито и да е колективни искове или други представителни действия.
Арбитражът на Oath ще бъде разглеждан от Американската арбитражна асоциация. Колективният арбитраж няма да е разрешен, което означава, че всеки потребител ще трябва да прави дело и срещу най-добрите адвокати на Verizon/Oath и да се надява да спечели.
При обещанията на Oath за здрава лична връзка с нас, наситена на незабравими изживявания, още ли сме сърдити на Facebook?


[1] oath (англ.) – клетва

Къща от карти | Култура – Брой 20 (3074), 25 май 2018

Русия, Facebook, Brexit, донорът на републиканците, Робърт Мърсър, медийният стратег на Тръмп, Стив Банън – свързва ли ги нещо и как? Според серия публикации в Guardian, свързва ги компанията Cambridge Analytica. Само тази пролет публикациите за нея са 84, но като че ли за пръв път тя попадна на медийната мушка през май 2017, когато нейният основател, розовокосият Кристофър Уайли, направи сензационни разкрития за участие в Brexit кампанията.
Кой е Уайли? Канадски гей и веган – както сам се представя – либерален демократ, създал оръжието на републиканците за психологическа война – несъмнено личност, „предразполагаща“ към доверие! На 24 годишна възраст, завършвайки докторантурата си за предсказване на модните тенденции, той бива осенен от идеята, че психологическите профили на хората могат лесно да бъдат свързани не само с модата, но и с тяхното политическо поведение. Това, което му е нужно да развърти идеята, са пари и, естествено, данни. Уайли се опитва да заинтригува либералните демократи със своята идея за идентифициране и привличане на евентуални гласоподаватели на предстоящите избори, но те допускат фатална грешка – не проявяват интерес. Покрай това обаче компанията SCL Group и по-точно Александър Никс, шефът на SCL Elections, една от дъщерните фирми на SCL Group, забелязва Уайли и му помага за създаването на Cambridge Analytica.
SCL group е частна фирма, развиваща дейност в сферите на отбраната и електоралните операции. В областта на отбраната тя има договори с британското Министерство на отбраната и съответния департамент в САЩ, като експертизата й е в сферата на т.нар. psyops (от “psychological operations”) – промяна в мисленето на хората чрез внушения, клюки, дезинформация. В сферата на изборите технологията е сходна и, ако може да се вярва на Guardian, прилагана е над 200 пъти в не особено развитите страни по света. Така, с интереса на Банън към инструментите за „информационна доминация“ и с парите на Мърсър, пред Уайли се отварят големи възможности. Остава само проблемът с данните.
Данните идват по договор, сключен специално за целта на 4 юни 2014 между SCL и Global Science Research (GSR), фирма, притежавана от кембриджския професор Александър Коган. Методът на Коган е следният: винаги има хора, готови срещу заплащане да направят един личностен тест с Mechanical Turk и Qualtrics[1], а след това, с приложението на Коган, наречено thisismydigitallife (товаемоятцифровживот), лесно да се получи достъп и до техните, че и на приятелите им Facebook профили. Така Коган е успял да събере данните от милиони профили за седмици под предлог академични изследвания. Продажбата или предоставянето им на трети страни с различни от академичните цели е незаконно и, според Уайли, Facebook е бил съвсем наясно какво става, защото протоколите за сигурност биха реагирали на изтеглянето на такова количество данни, но явно съпротива е нямало, защото всичко е било „за академични цели“.
Каква обаче е връзката на Русия с това? Връзката е Коган, който е и асоцииран професор в Санкт-Петербургския университет и ползва руски правителствени грантове за изследването си “Стрес, здраве и психологично благополучие в социалните мрежи”. Освен това, Уайли пази имейл от 17 юли 2014 (предварителните президентски избори в САЩ почнаха през февруари 2016), в който Никс споменава за меморандум до Лукойл, описващ как услугите им могат да се приложат в петролния бизнес и по-точно – за „поведенческо микротаргетиране в контекста на изборите”. Меморандумът е адресиран до Вагит Алекперов – шефът на Лукойл и бивш съветски министър по добива на петрол, приближен на Путин.
Няма свидетелство Cambridge Analytica да е работила за Лукойл, но е видно, че през 2014 Лукойл е прекрасно осведомена за предизборната обстановка… А Уайли, който може да намери връзка между антисемитизма и консумацията на вафли КитКат, е искрено учуден: защо й е на руска петролна компания да се интересува от изборите в САЩ?
Ръката на Путин явно е много дълга и в сравнение с признанията на „разкаяния“ Уайли, прочутият сериал „Къща от карти“ изглежда плосък като кулинарна поредица. Как обаче тези сюжети (и особено Brexit) се вписват в настоящата ситуация на обтягане на отношенията между Вашингтон и Брюксел?


[1] Краудсорсинг платформи на Amazon, ползвани от много изследователи като достъпен начин за събиране на данни.

Узаконяване на отношенията | Култура – Брой 18 (3072), 11 май 2018

Между Европа и САЩ лежи океан от различия – законови, социални, културни. Това като че ли най-ясно си личи в политиката по отношение на личните данни. В САЩ традиционно се подхожда „на парче“ и „на частно“ за справяне с проблема с неприкосновеността на личния живот. Неприкосновеността е стока, която може да се отчужди и изтъргува, докато в Европа тя е фундаментално право, защитено от закон. Законът, макар и в сила за всички, като негъвкава и формална мярка, не винаги е ефективен, освен това, не е дошъл веднага. Първо е европейската Конвенция за защита на личността от 1970-те. После идва първият конкретно свързан с развитието на технологиите, макар и необвързващ опит – препоръките на ОИСР от 1981 г. за регулиране на автоматизираната обработка на лични данни. С появата на Евросъюза и с напредъка на глобализацията възниква обаче и необходимостта от истински обвързващ закон. Така през 1995 г. влиза в сила Директивата за защита на данните на ЕС 95/46. Според нея, на фирмите, опериращи в ЕС, не е разрешено да споделят лични данни с „трети страни“ извън Европейското икономическо пространство, освен ако: не е гарантирана адекватна защита; „субектът на данните е съгласен с трансфера“; „ако задължителните фирмени правила или стандартните договорни клаузи го разрешават.“ Парадоксално или не, но това, последното, означава, че неприкосновеността на личния живот на наднационално ниво е все пак по-скоро въпрос на сделка, скрепена с фирмен договор, отколкото със закон. В интервала 1998-2000 бяха разработени и самите принципи за неприкосновеност, фиксирани през юли 2000 г. в Решението „Сигурно пристанище“ (т.нар. Safe Harbour), само дето се оказа, че това решение е уязвимо за прословутия американски PATRIOT Act, според който в името на борбата с тероризма компаниите могат да предават данни на правителството на САЩ дори без предизвестие на клиента. После (2004/2006) се случиха атентатите в Мадрид и Лондон, от които логично последва нова мярка – Директивата за задържане на данни (2006/24/EC). А после от американска страна дойде и покритото с лоша слава Изменение и допълнение на Закона за чуждестранно разузнаване (2008). После пък се случиха няколко шумни, силно компрометиращи САЩ скандала (случаят „Шремс“, разкритията на Асанж и Сноудън). Така, в тази сложна обстановка, на 29 октомври 2015 г. се появи „Safe Harbour 2.0“, а на 14 април 2016, на мястото на Директивата за защита на данните, бе приет Общ регламент за защита на данните (GDPR). Между другото, GDPR ще влезе в сила съвсем скоро (25 май 2018) и е прицелен в чудовищата GAFA и гигантските им бази данни. Коментира се обаче и ефектът й върху други структурни услуги под американска юрисдикция, каквато е Whois – услугата, контролирана от ICANN. Whois десетилетия наред обхващаше милиони имена на домейни, обвързани с личните данни за контакт на регистрантите, включително имена, имейли и телефонни номера, и гарантираше до голяма степен прозрачността на отношенията в мрежата. На тази важна услуга дефакто се сложи край на 11 април т.г., когато с едно писмо до ICANN Работната група по член 29[1] заяви, че съгласно GDPR, след 25 май услугата става незаконна.
Как реагира ICANN на натиска?
В блога на компанията се появи признанието, че без мораториум върху GDPR и отсрочка, Whois просто ще се счупи. Работната група обаче еи против отсрочката. Но пък президентът на отдел „Глобални домейни“ на ICANN, Акрам Атала, заяви за The Register, че докато има „общо съгласие относно това, че пълната публичност не е най-доброто решение“ за Whois, ще я има и надеждата, че няма да бъде окончателно ликвидиран.
Замалко да си помислим, че проблемът е в доброто старо неразрешимо технологично противоречие между достъпа до данни и сигурността на системите, но ето че нещата пак опират до бизнес, до „мултистейкхолдъристки“ консенсус относно това, кои точно данни да са достъпни и за кого?


[1] Работната група по член 29 е консултативен орган, съставен от представител на органа за защита на данните на всяка държава членка на ЕС, Европейския надзорен орган по защита на данните и Европейската комисия, a член 29 e от Директивата за защита на данните от 1996 г.

Овластяване на разума | Култура – Брой 16 (3070), 27 април 2018

Тези от нас, които ползват Facebook, със сигурност от известно време се чувстват примамени от разни интересни заглавия да посетят сайт, наречен Kialo. Мрежовата неутралност, ГМО в земеделието, полезността на месоядството, автономните бойни машини, селективното отглеждане на животни, има ли Бог – темите на Kialo са всевъзможни, но заглавията не водят към статии, а към онлайн диспути и то в някакъв съвсем различен, невиждан досега формат. Той позволява не само участие, но и проследяване на аргументите „за“ и „против“ дадено твърдение – примерно, има ли Бог?
Но какво представлява Kialo? Kialo идва от „kial“ – „защо“ на есперанто, към което е добавено окончанието „о“ за обозначаване на съществително. Сайтът е в мрежата от август 2017, базиран е в Ню Йорк и Берлин, негов основател е Ерикос Пицос и вече има над 30 000 последователи в социалните медии. Сайтът обещава иновативна и предразполагаща към мислене среда и има амбицията да стане център за „критично мислене, обмислена дискусия и съвместно вземане на решения“ насред врявата и безумството на Интернет. „Овластяване на разума“ – това е мотото на Kialo и то звучи предизвикателно във времена, когато на власт при взимането на решения са изкуственият интелект и big data. И все пак, от личен опит знаем, че цивилизованият дебат, независимо дали офлайн или онлайн, винаги се случва с цената на много тромава процедура и тежко, не винаги добре посрещано от дебатиращите страни модериране. Различно ли е при Kialo? Различното е, че дискусиите са структурирани „арборесцентно“, както биха се изразили Дельоз и Гатари – нещо, което би ни позволило бързо и отчетливо да разберем защо е било взето едно или друго решение и кой как е допринесъл за него. Не се допуска обичайният за мрежата шум – коментари, които не обогатяват с някаква конструктивна гледна точка спора. Основната „валутна единица“ на Kialo, според Пицос, е твърдението, а не аргументът; и понякога се случва сътрудниците, които изказват твърдения, да пишат и контрааргументи към собствения принос.
Предполага се, че на Kialo най-добре се чувстват експертите, чиито мисли по даден въпрос всеки би искал да знае (има и система за оценяване), но могат да се срещнат в мрежата и такива, които са очаквали експертността им да е добре посрещната, а вместо това са се натъкнали на пренебрежително и дори агресивно отношение от страна на модераторите. Такива се заканват да продължат да са верни на доста по-стария (от 2006) сайт за дебати IQ2US. Очевидно проблемите с груповото мислене и изобщо с комуналните начинания си остават все същите, независимо от формата и технологията, и един от тези проблеми е тъкмо модерирането. Ако до дискусия биват допускани само експерти в дадена област, ще бъде въведена ненужна йерархия, дискриминация (и възможност за манипулация) там, където би трябвало да има повече комуникация и прозрачност. Добър опит може да се почерпи от Wikipedia, която също е колективно начинание. Задкулисните дискусии там често са много по-информативни от самите статии.
От друга страна, без известна експертност или дори просто грамотност, дискусия няма как да се случи, защото, за да има смислена размяна на аргументи, трябва да има яснота и еднозначност при ползването на понятията.
И още един проблем: около подобни инструменти винаги съществува подозрението, че развитието им се случва благодарение на впрегнатия колективен (и безплатен) ентусиазъм на потребителите, но крайният резултат се осребрява винаги и единствено от основателя и тесния кръг около него. Как се издържа Kialo, след като не допуска реклами, нито какво да е манипулиране на потребителите?
Според признанието на Пицос пред Financial Times, сайтът, коствал му шест години работа и поддържан от 50-членен екип, в момента се финансира с негови средства. Пицос не назовава сумата, но споделя, че вече се е свързал с компании и правителствени организации, които искат да лицензират подобен софтуер, тъй като той „работи много по-добре в една корпорация, отколкото срещите на живо и дългите вериги в електронната поща“.
Каква ще е съдбата на „бялата врана“ Kialo, само времето ще покаже.

Терорът е безсмъртен | Култура – Брой 14 (3068), 13 април 2018

Странно или не, но през 90-те много от нас започнаха живота си в мрежата, фасцинирани, от една страна, от новата технология, а от друга – от лудизма на Качински. Да припомня: 1993-1995 бе периодът, в който полуделият учен, Тед Unabomber Качински, успя да извърши последните 4 от 16-те си бомбени атентата, след което изпрати до медиите есе, озаглавено „Промишленото общество и неговото бъдеще“ (наречено от ФБР Unabomber Manifesto), с искането то да бъде дословно отпечатано, ако властите желаят терорът да спре. И въпреки че през 1996, след най-дългото и най-скъпо (поне дотогава) разследване, ФБР най-сетне успя да арестува Качински, идеите му се оказаха заразни дотам, че се превърнаха в своеобразен мейнстрийм. През април 2000 г., например, във Wired се появи статия, озаглавена „Защо бъдещето не се нуждае от нас„, от Бил Джой. Бил Джой не е кой да е, а съоснователят на Sun Microsystems. Та в тази статия има препратка към манифеста на Качински за типовете общества, които биха се появили в случай, че хората бъдат напълно изместени от изкуствения интелект. Тъкмо Джой няма как да е привърженик на лудизма, нито Wired – проводник на подобна идеология, просто това, че Качински е лудит, „не опровергава аргумента му“ срещу технологиите и Джой предпочита да се изправи срещу този аргумент, вместо да се преструва, че го няма.

За известността на Качински допринесе и това, че по време на процеса негов довереник стана друг известен неолудит, Джон Зерзан, който мейнстрийм медиите започнаха през глава да канят за интервюта заради сензационната му близост с опасния терорист. Тандемът Зерзан/Качински е странен, защото Зерзан е типичният левичар с франкфуртска закваска, а Качински презира левичарите. За него те са „главно социалисти, колективисти, ‘политкоректни’ типове, феминисти, гей и инвалиди, активисти за правата на животните и подобни“ – изобщо хора, водени от „чувство за малоценност и свръхсоциализация“, и представлява „една от най-разпространените манифестации на лудост в света“, и трябва да се избягва всяко сътрудничество с него.

Зерзан от своя страна подкрепя доктрината на Качински, но критикува крайната му жестокост и в интервюто си от 7 май 1995 в The New York Times, озаглавено „Кой е Unabomber?“; там твърди, че дори да има защо да бъдат поразени агентите и архитектите на настоящата катастрофа и всички тези „малки Айхмановци“, които подготвят „Прекрасния нов свят“, нищо не може да оправдае съпътстващите жертви – напълно невинните пощенски работници, разнасящи пратките с взривни устройства, случайно оказалите се в зоната на терора граждани и дори деца. През 2001 в интервю за The Guardian той казва, че се надява да няма нов Качински и тепърва да се явят начини, по които всеки несъгласен с новия световен порядък да може да изрази протеста си, без да се стига до подобни отчаяни ексцеси.

Но ето че 10 години по-късно се появи Брейвик, който едва ли е лудит, но е копирал в манифеста си цели пасажи от „Промишленото общество и неговото бъдеще“, само дето е заменил „левичари“ с „културни марксисти“.

Негодуванието срещу технологиите обаче расте като лавина. През ноември миналата година бе нападнат центърът за научна, техническа и индустриална култура „La Casemate“ в Гренобъл, Франция. Година преди това нещо подобно се случи и в Нант. И докато на тези инциденти може да се погледне като на единични и локални, анти-Uber вълната напоследък добива застрашителни, глобални размери. От Москва до Йоханесбург, от градове в Хърватия, Унгария и Полша, та до Колумбия, таксиметровите шофьори негодуват и приемат като подигравка „перспективата“ да се преквалифицират в уеб разработчици и специалисти по машинно обучение. И изобщо не се знае в какво може да прерасне техният гняв. Гардиън миналия месец пък постави в неолудитски контекст недоволството на някои срещу Facebook и дори спомена възможността тази нова вълна да се слее с крайно десните и с ислямистите.

Дали обаче зад терора в днешни дни непременно трябва да стоят идеологии? И нима тъкмо „борбата с терора“ не е това магично словосъчетание, чието споменаване в заседателните зали не прави възможно приемането и на най-безумните закони?

 

Твърда вилица | Култура – Брой 12 (3066), 30 март 2018

В зората на Интернет техно-евангелистите толкова много говореха за свобода, че на никого и през ум не му минаваше как може да се развият нещата с контрола над глобалната мрежа. Днес същата еуфория се надига покрай blockchain системите. Четем непрестанно колко неутрални са политически и как контролът в тях е ex ante – кодиран в самите протоколи и процесите, и нищо, никаква човешка намеса не може да промени това. Предния път, споменавайки проекта Ethereum, обещах да се върна на темата за злоупотребата с контрола над подобни системи, така че нека ви разкажа какво се случи с Ethereum и по-точно със софтуера на Ethereum – DAO.
DAO идва от decentralized autonomous organization (децентрализирана автономна организация). Този софтуер е предназначен да управлява доверителните задължения, свързани с притежаването и изплащането на блокчейн активи без никакво човешко участие. Кодът, разработен за приложението DAO, беше именно това, което обговорих предния път като „интелигентен договор“ – първият „интелигентен договор“ в историята. DAO издаваше токени (символите на криптовалутата) чрез този свой интелигентен договор и ги търгуваше за токените на блокчейна на Ethereum, наречени „етер“-и. Тази продажба се случи благодарение на масивна кампания за групово финансиране, което повиши стойността на етерите с над 150 милиона долара.
Според оригиналната визия на създателите на Ethereum, компютърният код трябваше да замени Закона (буквално!) в общността и да служи за заместител на правните споразумения и регулации. Кодът беше договорът и законът за DAO. Но, за съжаление, беше дефектен. И в един момент един притежател на токен на DAO използва този дефект, за да открадне една трета от стойността, натрупана в приложението (значи, около 50 милиона долара). Това изтегляне на част от общите средства, макар и инцидентно, не наруши нито правилата на Ethereum, нито правилата на DAO, нито изглеждаше да е нарушило някакви други правила и закони. Само дето в края на деня много от членовете на Ethereum, включително и някои от лидерите му, претърпяха огромни загуби. Тогава ръководството на Ethereum успя да координира със заинтересованите страни мрежата и създаде т. нар. „Твърда вилица“ – разцепление на блока на Ethereum за постоянно, така че контролът върху използваните средства да бъде преместен в група доверени лидери. Тоест, в не йерархичната мрежа се появи йерархия. Появи се паралелна, дублираща Ethereum верига блокове, бяха нарушени благородните първоначални принципи на създателите, поради които на Ethereum и изобщо на blockchain технологията се гледаше като на това Голямо Ново Нещо, което ще спаси света от хиляди злини, дори от такива, като бюрокрацията и политиците. За капак новата мрежа си присвои името Ethereum, а оригиналната бе ребрандирана на “Ethereum Classic”. Изтъркано, нали? Дублирай, ребрандирай и унищожи! – това е девизът на „твърдата вилица“.
Нейсе, „кодът като закон“ също продължи да действа, наказвайки селективно само част от потребителите на Ethereum (тези, които лекомислено бяха обменяли етери за DAO токени), а други да „бейлаутва“. След тази случка като че вече никой не смее и да твърди, че интелигентните договори могат да заместят адвокатите и нотариусите, да ликвидират правната индустрия и изобщо правото. Умните договори не са нито чак толкова умни, нито дори изпълними споразумения. Блокчейнът може и да е иновативен подход към управлението, но не може да замени човешкия фактор. Трябва да устоим на изкушението да антропоморфизираме кода, съветва Патрик Мърк от Центъра за Интернет и общество „Бъркман Клайн“ в Харвардския университет. Кодът е закон за машините, а законът е код за хората. И когато тези концепции се объркат, приключваме със ситуации като DAO.
Та нали силата на blockchain беше в това, че бе разпределена между всички участници в общността така, че никой да няма по-голяма власт от останалите, да променя протокола! Нали силата беше именно в тази взаимозависимост и заинтересованост от нерушимите и установени правила на нетуърка?
Та нали всяка промяна в тази установеност изискваше съгласуване с всички останали? В медиите този конфликт бе обговорен като „управленска криза“. Първата управленска криза в крипто света, но едва ли последната.

Умните договори | Култура – Брой 9 (3063), 09 март 2018

Преди време писах какво би станало, ако политиците бъдат подменени от телефонни приложения за гласуване на закони – нищо съществено, доколкото избираемите политици са само видимата част от властовия айсберг и ако изобщо има смисъл от тези приложения, той би бил в замяната на купуването на един политик с далеч по-трудното купуване на хиляди избиратели.
Освен това, тези приложения и появилите се покрай тях политически движения не биха премахнали политиците изобщо, а само биха променили статуса им от хора, взимащи решения, в прости изпълнители на волята на избирателите. Напоследък обаче се говори за технология, която би ги премахнала и от тази им роля.
Вече стана дума за това, че с развитието на криптовалутите се е разкрил и огромният потенциал на технологията „верига блокове“, но кога и как конкретно се случи този исторически пробив? Случи се през 2013 г. благодарение на проекта Ethereum. Подобно на Bitcoin, Ethereum е отворена софтуерна платформа, базирана на технологията „вериги блокове“, но докато Bitcoin може да се използва единствено за проследяване на собствеността върху биткойни, един от основателите на Ethereum, Виталик Бутерин, предложил Ethereum да се ползва не само за сделки с етери, а за универсална децентрализирана платформа, в която всеки да реализира програмно каквито си иска системи за съхраняване и обработка на информация, в това число и класическото споразумение (договор) между страни. Това е т.нар. „умен договор“ (smart contract).
Представете си всичко онова, с което оперира правната, икономическа и политическа система на една държава; всичко онова, което се вписва и съхранява в нейните регистри – договори, финансови операции, досиета; всичко онова, което циркулира из нейните мрежи и отразява, съхранява, защитава от подправяне историята на всяка една сделка, спомагайки така за справедливото взимане на решения (т.е. правенето на политика). Може ли цялата тази комплексност да бъде иззета от компетенцията на бюрократи, експерти, юристи и поверена на машини? Явно може. За целта кодът просто трябва да има безпрепятствен достъп до всички обекти на договора. Тези обекти са:
– Страните в договора – те присъстват в изчислителната среда с електронните си подписи.
– Предмет на договора – той трябва да може да се случи изцяло без човешко участие, т.е. да е математически описан – нещо невъзможно за осъществяване преди появата на криптовалутите.
– Условия на договора – това е, което описва логиката на изпълнение на предмета на договора точка по точка, автоматически, сиреч – отново програма;
Децентрализирана платформа, на която да се случва и съществува всичко това, е блокчейн платформата.
След като договорът може да има точно математическо описание и ясна логика на изпълнение, след като взаимоотношенията между преговарящите страни могат да се формализират до степен да се изпълняват от машини, а самото изпълнение да е необратимо и лесно проследимо във времето за грешки, то значи на такава система може да се повери и взимането на самостоятелни решения по сложни казуси въз основа на някакви зададени параметри, т.е. машината да върши това, което доскоро бе работа на политиците и експертите. Значи, политиците наистина могат да изчезнат, а заедно с тях да изчезнат и адвокатите, и нотариусите, и регистрите, и законите, и изобщо – цялата правна индустрия. Вече всичко може да бъде заменено от алгоритми и кодове – само чиста и свята технология, която е толкова недостъпна за човешката корист и профанщина, че никой не би могъл да злоупотреби с нея.
Злоупотребата е тема, на която задължително ще се върна, сега само ще ви припомня един-едничък проблем на прекалено автономните „умни“ системи. Помните ли Боб и Алис? Помните ли склонността на изкуствените интелекти да създават собствени нечовешки криптографски схеми, които е практически невъзможно да бъдат разбити дори от себеподобните им? Налага ли се да припомням какво значи това? Не знам дали движението за освобождение на роботите и опитите за „интегриране на свободните роботи в модерното общество и бъдещето“ продължават да са актуални, но за роботите ние дори не съществуваме.