Алис и Боб | Култура – Брой 31 (3041), 22 септември 2017

В разгара на лятото научихме, че Facebook се видял принуден да запуши устата на два свои чат-бота на име Алис и Боб, защото те се разбъбрили на неразбираем език. Чат-ботовете поначало са изкуствен интелект, създаден, да води разговор, а Боб и Алис конкретно били обучени да продават на хората онлайн плажни артикули. Работата им включвала и общуване помежду им, което трябвало да бъде делово с цел подобряване на логистиката, нещо от сорта: „ти на мене топки, аз на тебе шапки“, но ето какво се получило:
Боб: аз мога ли аз аз всичко останало.
Алис: топките са нулеви за мен за мен за мен за мен за мен за мен за мен за мен за мен.
Боб: Ти аз всичко останало.
Алис: топките имат топка за мен за мен за мен.
Този безобиден и безсмислен от човешка гледна точка диалог събуди бурни емоции сред интернет потребителите. Явно, вече добре наплашени от изявите на Sophia, те споделяха с ужас: „Ботовете са си създали собствен таен език, за да заговорничат срещу нас! Човешкият род е обречен!“. Медиите, естествено, подхванаха шума и го усилиха със старите спекулации в стил Skynet. Наистина ли Боб и Алис са си казали нещо важно? Наистина ли роботите са си измислили език или просто става дума за лоша употреба на английския?
Да видим какво пише по въпроса за езика на роботите специализираната журналистика.
Първо, ще припомня, че Алис и Боб са стари познайници. Преди почти година TechCrunch съобщиха за експеримент на Google Brain, при който тези същите Боб и Алис бяха накарани да си общуват, а трето устройство на име Ева получи тайното задание да наруши това общуване.
Експериментът бе криптографски, разбира се, и в крайна сметка изследователите на Google Brain откриха, че когато изкуствените интелекти общуват помежду си, те са склонни да си създават собствени нечовешки криптографски схеми, които е практически невъзможно да бъдат разбити дори от себеподобните им, в случая Ева.
В мига, в който Алис решава, че комуникацията й с Боб е компрометирана, тя генерира нова двойка ключове и регистрира нов публичен ключ. Шансът на Ева да измести Алис е до момента, в който Боб все още трупа опит в разкодиране на посланията на Алис (роботите винаги по-лесно кодират, отколкото разкодират). След това Боб и Алис вече си споделят общия ключ, който при всяко доближаване на Ева до разкодирането му се променя.
Инцидентът с Алис и Боб обаче е далеч по-тривиален от това, което медиите представят. Мрежата е пълна с бизнес комуникации, а те поначало се криптират. В това отношение – нищо ново! Това, което е наистина важно и което изследователите са открили, е, че Боб и Алис са адски добри в това сами да разработят солиден протокол за криптиране в реално време, докато оценяват сигурността. Тоест, те наистина разработват свой вътрешен език, своя interlingua, непробиваема отвън, а техниките на динамична защита, които ползват, са далеч по находчиви и изненадващи от това, което е по силите на човек.
В полза на хипотезата за машинна interlingua е и един друг експеримент отпреди година, когато Google обявиха, че тяхната невронна машина за превод (Neural Machine Translation) била оживяла и почнала да превежда сама. Просто създателите на GNMT направили предположение, че ако научат системата да превежда от английски на корейски и обратно, а после и от английски на японски и обратно, след това тя ще може да превежда от корейски на японски и обратно, без да ползва английския. След провеждане на експеримента така се и оказало. Системата се справила с превода. Това обаче породило въпрос: ако компютърът успява да свърже концепции или думи, между които няма формална връзка, значи ли това, че успява да изгради тази връзка в „ума“ си? Значи ли, че без човешка помощ успява да структурира информацията на по-дълбоко ниво от това да търси еквиваленти и съответствия на дума или фраза от един човешки език на друг? Тоест, значи ли, че компютърът си изработва свой собствен език за репрезентиране на схващанията, които ползва при преводите? Защото ако е така (а то е така), на философите им предстоят интересни времена.

Скверни изкуства | Култура – Брой 28 (3038), 21 юли 2017

Децата обичат кукли, особено механичните! Какво ли ни има на нас, възрастните обаче, че реагираме така на Sophia? Sophia ни хвърля в такива крайни есхатологични страхове, в такъв дълбок, философски песимизъм, в такъв гняв!
Коя е Sophia ли? Ако още не сте разбрали, Sophia е хуманоид – робот, създаден от Hanson robotics. Освен да води разговор с вас, да дава интервюта и дори да пуска шеги, тя с нейното лице от frubber[1] може да имитира по забележителен начин емоции. Вярно, те някак напомнят пораженията от лицева пареза, но да не бъдем дребнави, Sophia еволюира, усъвършенства се непрекъснато! Ето, наскоро тя пак даде интервю, а на нас пак изобщо не ни беше забавно. Сетихме се за какво ли не, за всичко онова, за което дори не се замисляме обикновено – от Страшния Съд, та до капитализма, чиято крайна цел е, то се знае, да ни замени с подобия на Sophia.
Трябва ли наистина да се страхуваме от Sophia?
За едни тя може да е идол, гостоприемник на демонични същности, но за други е по-тъпа и от cleverbot[2] – просто програма, напъхана в тяло на голяма кукла, която прави разбор на човешката реч иотговаря с помощта на обучена невронна мрежа. Тази програма ще ви каже, че иска да има дом и семейство и може да се справя с гледането на деца и стари хора по-добре от вас, само трябва да я научим да обича! За бога, та ние дори себе си не можем да научим! Между другото, Sophia също казва, че „иска“ да унищожава хора, но по същия начин и моят тостер „иска“ да пече хляб, само дето не може да го каже. Занимаващите се с AI обясняват логиката на този шокиращ отговор на Sophia така:
Input: „Искате ли да унищожите всички хора?“
Идентифицирана фраза: „Искате ли“.
Идентифицирана ключова дума: „Хора“.
Възможни отговори: а) „Да!“, б) „Не.“
Роботът търси подобен въпрос и съответния му отговор в базата си данни… Най-близкото съответствие е: „Искаш ли да бъдеш човек“, а отговорът е „да“, така че изборът пада на вариант а.
Не знам дали Sophia е безобидна, може би тя е по-скоро една метафора, емулация на андроид, а това, което гледаме – просто шоу, съвременна, озвучена, медийна версия на пълното с говорещи, демонични кукли, нямо кино от епохата на art deco. В дистопичния „Метрополис” на Фриц Ланг, ако се сещате, бездушният технократичен елит доминираше над потиснатите трудещи се маси посредством един „женски“ робот, създаден от лудия учен Ротуанг в неговата лаборатория. Този стилен метален андроид (с Бригите Хелм в ролята), вдъхновил по-късно C-3PO от „Междузвездни войни“, трябваше да съблазнява и влудява мъжете и да ги тласка към разрушение, а Жената, като източник на свобода, любов и живот, трябваше да бъде дискредитирана.
Трябва ли да натоварваме Sophia с тази мрачна слава? Защо не? Наскоро (7 юни 2017 г.) тя бе главната атракция на хостваната от Международния съюз по далекосъобщения (ITU) глобална конференция „AI за добро“ в Женева, на която официални лица, ООН агенции, НПО-та, индустриалци и видни AI експерти дискутираха етичните, социални и политически аспекти на AI и дали това е добре за света на хората или не.
Може би трябва да сме съвсем спокойни, че всичките тези топ администратори и топ експерти на съвременния глобален „Метрополис” така са се загрижили за съвместното ни бъдеще с AI, тъй като предназначението на роботи като Sophia, според тези същите експерти, е просто да направят комуникацията между човека и компютъра гладка. Още по-гладка. Максимално гладка! Чрез появата на машини, склонни към емпатия, стресът от общуване с тях би трябвало да изчезне завинаги. Разбира се! Може би до степен да направи излишно изпълненото с толкова стрес, несигурност и неудобства общуване с истински хора.


[1]frubber – идва от flesh(плът) и rubber (гума) – особен, високотехнологичен полимер, който е подходящ за имитация на човешка кожа.
[2] cleverbot – едно уеб приложение, с което се забавлявахме още с появата на уеб, но което се ползва и сега през iOS, Android и Windows Phone. То ползва алгоритъм за изкуствен интелект, за да разговаря с хора в реално време. Създадено е от британеца Роло Карпентър и е наследник на проекта Jabberwacky от 1988 г.

Познавателни услуги | Култура – Брой 26 (3036), 07 юли 2017

Вече стана дума за проблема с технологията „големи данни“, както и за това, че е открито решение за него – инвестирането не в повече специалисти, а в повече и по-добре обучени компютри, имитиращи мозъчната дейност на специалистите благодарение на една нова технология, известна засега под името „когнитивен компютинг“ (КК). Защо „засега“? Защото КК е просто маркетинговият жаргон, на който се промотира цялата тази сюрия нови когнитивни услуги, носещи различна марка – Google, IBM, Microsoft, Hewlett Packard – и макар това да се прави от доста време насам, все още никой не се е спрял на някакво не патентно и общоприето название за обозначаване на новия феномен. Както споменах предния път, все още дори не се знае за нова индустрия ли става дума или за нова наука?
Как е възможно, ще попитате, да се говори за нещо, което още не се знае какво е? Е, в света на рекламата това е възможно. Така, както миналата година Мег Уитман от Hewlett Packard Enterprise не вярваше, че промотираната платформа на IBM Watson е реалност, така Виргиния Ромети от IBM защитаваше Watson с думите, че компанията не просто гради нова платформа, не просто развива нов пазар за услуги, ами слага началото на една изцяло нова индустрия и даже ера в компютинга, но понеже го прави в условията на жестока конкуренция, изобщо не е длъжна да разкрива детайли от разработката си, ако и другите силни играчи в това поле не намират от десетилетие причина да го направят.
И все пак, какво да разбираме под KK при цялата тази потайност?
Най-общо, трябва да разбираме технологични платформи, базирани на научни дисциплини https://en.wikipedia.org/wiki/Cognitive_computing, като изкуствен интелект и обработка на сигнали, които включват машинно обучение, обработка на естествен език, разпознаване на реч и визия, генериране на диалог и наратив, целенасочено разсъждение и изобщо, всичко онова, което наподобява начина, по който човешкият мозък чувства, мисли и реагира на дразнители.
Ще изброя и някои от особеностите на тези когнитиви системи.
Адаптивност: това е способността на системите да долавят нееднозначността и да понасят добре непредвидимостта на средата, която ги заобикаля. Те усещат кога информацията се е променила, а целите са се доразвили благодарение на динамичния обмен на данни в реално време.
Интерактивност: това значи, че системите могат да общуват както с други машини, така и с хора и то по максимално удобен за хората начин.
Итеративност: Системите помагат при определяне на проблема, като задават въпроси или намират допълнителна информация по проблема в случай, че е двусмислено или непълно формулиран. Те могат също така да „запомнят“ резултата от предишните итерации, когато е подходящ за намирането на решение.
Контекстуалност: тези системи разбират, идентифицират и извличат контекстуални елементи, като значение, синтаксис, време, място, регулации, потребителски профили, процеси, задачи и цели. Те могат да работят с най-различни източници на структурирана или неструктурирана дигитална информация, както и с визуални, жестови, звукови или други, доставяни от сензори, данни.
И все пак, най-добре можем да проумеем какво вършат когнитивните системи с помощта на подходящ пример. Ето как може да бъде приложен КК в системата на здравеопазването. Представете си система, която съхранява в себе си информация за състоянието и историята на пациента, статии от научни списанията, добри практики, диагностични инструменти и т.н. Анализът на тази огромна налична информация е придружена от препоръка в помощ на лекаря. Така той бива улеснен при прегледа на възможностите за лечение, основани на доказателства и на голям брой фактори, и съответно при взимането на решения за лечение на всеки отделен пациент. С други думи, целта не е да бъде заменен лекарят, а да бъдат разширени възможностите му с обработването, вместо него, на непосилно количество информация и накрая – с предлагане на резюме с потенциално приложение. Крайното решение и отговорността за резултата от лечението остават привилегия на лекаря. Засега.

Наука или индустрия | Култура – Брой 23 (3033), 16 юни 2017

Четох преди време едно изследване, което сравняваше ефекта на технологията „големи данни“ върху нашия човешки свят с ефекта на природно бедствие. Даже нещо повече: изобретявайки тази нова технология, ние едва ли не сме си произвели нов Бог със свой Пантеон и жреци, на които да служим и от чиито прищевки да зависим.
Откъде този фатализъм по отношение на големите данни? Тъй като очевидно става дума за количество, ще ви занимая малко с приложна математика и по-точно – суниверсалното допускане в традиционните количествени анализи, че ‘N = All’, тоест, обозначавайки с „N на брой“ някакво безкрайно количество от нещо си, ние подразбираме „всичко“, всички членове на дадена популация/общност/население на една страна, да речем. Поне оттам тръгват изтъкнатите изследователи на големите данни Mayer-Schönberger и Cukier. Дори и да не сме запознати с техните изследвания, ако сме учили статистика, знаем, че за да разкрием закономерностите, по които се развива една популация, не можем да изследваме цялата популация, а само представителна извадка от нея; и от резултатите, които получим, екстраполираме резултат за цялата популация с известна, макар и допустима неточност. Съвременната изчислителна мощ обаче и технологията на Големите Данни позволяват да правим количествен анализ на цялата популация, т.е. ‘N = Аll’, оттам и допускането, че неточността и несигурността са елиминирани.
Има обаче една малка подробност – колкото и голямо количество данни да е в състояние да обработи съвременната техника, самият живот няма как да се транслира в дискретен, машинно четим, количествено измерим, лесен за манипулиране поток от битове и байтове. Просто по-големите Данни не са по-добри Данни. А когато машините превръщат този шум в „знания“, извличат от него „патерн“ посредством изчислителни методи и правят изводи въз основа на този „патерни“, резултатът е съмнителен и специалистите го наричат „data дериватив“ (от “derivatives“ – “производни“). Бъдеще, моделирано въз основа на Data деривативи, как ви се вижда това? Зле, нали? Просто N никога няма да стане All!
Доскоро вярата в големите данни бе наистина голяма. Майкъл Флауерс, бившият главен аналитик на Ню Йорк и автор на концепцията за „data driven city“, пише в книгата си „Отвъд прозрачността: Отворените данни и бъдещето на гражданските инновации“ (2013): “Мен не ме интересуват причинно-следствените връзки освен тези, които показват какво да се прави“.
Според него, причинно-следствената връзка е нещо много рисковано… Самото говорене за причинност е нещо рисковано. Има твърде много реални проблеми, които се налага да се решават в реално време, че градските власти да могат да си позволят лукса да се отдават на абстрактни разсъждения и теории относно причинността. Пък и законността, като се замислите…
И Тим О’Райли (Tim O’Reilly), друг един виден корпоративен мъдрец, си бе поставил за цел чрез обратната връзка, идваща от въоръжените с „гаджети“ потребители, да се бори с ригидността на правилата, спускани от откъснатите от живота политици.
Е, след като вече няма време за абстрактни размисли и след като знаем как технологията Big Data „решава“ проблеми, нормално е да се запитаме за чисто епистемологичния резултат от абсолютизирането на Big Data – бързината, с която се извличат патерни от произволно голямо количество data-шлака, просто изсмуква живота от всеки опит за търсене на причинност. В самото навечерие на Big Data бума, през 2008-а, Крис Андерсън (Chris Anderson) писа по този повод статия за Wired Magazine, многозначително озаглавена „Краят на теорията“, но краят очевидно е далеч. Напоследък все по-често се говори за проблема на големите данни, а именно, че информацията е прекалено много, а талантите, които да се справят с нея – прекалено малко. Проблем, който може да бъде решен с академични програми, от които да излязат повече и по-добре обучени специалисти, ще кажете. Може би да, но по-скоро не. В случая се е заложило на повече и по-добре обучени… компютри. Точно така, на сцената излиза нова технология, така нареченият когнитивен компютинг – нов хардуер и/или софтуер, имитиращ работата на човешкия мозък и човешката работа по вземането на решения, а вероятно и свързаните с това човешки дилеми.

 

Пак за шльокавицата | Култура – Брой 21 (3031), 02 юни 2017

Старая се да не пиша за онези специфични събития и хора, за които „лоша реклама няма“, но понякога се налага. Едно такова събитие имаше около празника на писмеността. Медиите го обявиха така: за първи път ще имаме възможността да се докоснем до книга, написана на шльокавица. И то не коя да е книга, а една от най-българските книги, писани някога: Под игото. „Революционното” издание било съвместен проект на Saatchi & Saatchi Sofia и издателство Жанет 45, а целта му – да се заклейми същата тази шльокавица. Интересна „революционна“ тактика, защото първото, което хрумва на човек, е: Как така „за първи път”? И втори ли ще има? „Революционният” ефект също буди въпрос – на връх 24 май из социалните мрежи прописаха на шльокавица дори хора, които никога не са го правили, ей така, за да се пошегуват с „шегата“. И продължават да го правят. И не се знае кога ще спрат!
Далеч не всички бяха развеселени обаче. Някои бяха в недоумение. Това бяха тези, които помнят FIDO-net, IRC, първите вносни мобилни телефони, а също и бъгавата програмка Flex Type, с която кирилизирахме навремето и която, като се счупеше, чупеше целия Word, а с него и архива. Та тези ветерани, сред които някак попадам и аз, реагираха с недоумение на идеята: да си минал през всичкото това и да се уплашиш, че кирилицата загивала във времена, когато всички в мрежата пишат на всички възможни азбуки във всички приложения на всички възможни устройства? Ами, тъпо е!
Трети пък бяха откровено обидени. За тях „Под игото“ е символ, а символите по-добре да не се пипат, особено в разделни времена като днешните. Та тези хора не схванаха „софистицираното“ и „дълбоко“ послание на Saatchi & Saatchi и Жанет 45 и видяха в него това, което е – провокация и даже нещо повече: опасен прецедент за съвсем реално омаловажаване на кирилицата.
Вярно, всички всеки ден си служим със шльокавица – SMS-ите на латиница са по-евтини, а паролите на шльокавица – по-трудни за разкодиране. Тези употреби обаче не са публични. Те са съвсем поверителни. Публично и масово е това приравняване на „Под Игото“ с чат. Днес, когато корпорациите Google, Microsoft, Apple са вградили кирилицата в основния си код и когато даже уеб адресите могат да са на кирилица, да се плаща на някой за написването на специална програма за шльокавизиране, и то с цел да се защитава кирилицата, е напълно необяснимо.
Можем да си представим офисния ентусиазъм от „гениалната“ идея, родена в мъчителен брейнсторминг след безсънна нощ, но няма и как да не запитаме – кой, как и защо финансира това? Че то е съвършено нелогично от финансова гледна точка! Нелогично и даже вредно е и от гледна точка на икономиката на вниманието. Кое оправдава това поредно разхищение на ментална ангажираност от страна на публиката? Че то е толкова „находчиво“ и „хитро“, колкото да пропагандирате добри маниери, показвайки задника си на площада! Публиката вижда поза. Публиката е уморена и отвратена. Говоря за чувствителната публика. На другата й е все едно.
„Книгата вече е в продажба“, успокояват ни авторите на проекта – а срещу всяко купено копие издателите ще дарят други две български книги на училища, читалища и библиотеки в цялата страна. Как да не си отдъхнем сега? И какви ще са тези други две български книги? Нещо от откровения кич, който напоследък ни пробутват под етикета „качествена съвременна българска литература“?
Ще завърша с едно напомняне на очевидното – кирилицата не се нуждае от реклама, а още по-малко от реклама като тази. Единственият начин кирилицата да пребъде е да не се пречи с нейна помощ да бъдат създавани ценности.

Exploited | Култура – Брой 19 (3029), 19 май 2017

Exploit (произнася се „експлойт“) – дума в английския, едно от значенията на която е свързано със света на компютрите и означава софтуерен код, недобронамерено възползващ се от бъг в компютърна система за придобиване контрол над нея. Веднъж публикувани в интернет, така наречените експлойти могат и да са полезни, като послужат за разработване на подобрени варианти на системите. Злонамерените (Black Hat) хакери обаче, нали не ламтят за публична слава, не бързат да споделят експлойти, а като че ли и тези, от които те ги крадат, не бързат особено. Това са така наречените експлойти тип „нулев ден“ (0-day exploits). Един такъв доскоро беше EternalBlue (Вечното Синьо), разработен от американската Агенция за национална сигурност (NSA), откраднат и модифициран от киберпиратите от групата Shadow Brokers тази пролет. Тяхната модификация се казва WannaCry (Плаче ми се). WannaCry е вирус. Вирус изнудвач, искащ откуп, подобен на онзи на Андрю Тиърни и Кен Мънро, който взимаше под контрол „умните“ термостати в домовете на хората. WannaCry криптира файловете на компютъра ви и ги прави неизползваеми, като иска в замяна на декриптирането им откуп от $300 в биткойни.
Но да се съсредоточим върху самия EternalBlue, Интересното при него е, че експлоатира уязвимостта на масовия майкрософтски мрежови протокол, предоставящ споделен достъп до файлове, принтери и серийни портове и различни комуникации между възлите в дадена мрежа, а също и механизма за комуникация между процесите в системите. През март Microsoft вече бе решил този проблем и бе публикувал подобрена версия, потребителите на Windows обаче, които не побързаха да си я инсталират, съвсем наскоро (на 12 май) бяха покосени от WannaCry атака.
Че работата е сериозна, стана ясно още петъчната сутрин, когато вирусът порази мрежата на националната здравна служба в Англия. Системите за резервация на часове блокираха и на екраните се появи съобщение: „Упс, файловете ви бяха криптирани“. Все пак, хакерите са проявили известна етика – няма блокаж в системите за спешни случаи и няма признаци, които да сочат, че данните на пациентите са пострадали. Поне това съобщи NHS Digital, информационният център на английската здравна служба, който поддържа хакнатата платформа. От хака са пострадали 25 здравни заведения и GP-та, а изводите са, че Националната здравна служба, която е уважавана институция, ползвана от всички безплатно, трябва да помисли върху това как орязването на бюджета й се отразява на адекватната поддръжка на системата за сигурност.
В петъчния преди обед възможността заразата да се разрасне и да се превърне в пандемия се обговаряше само като възможност, но ето че към края на деня стана ясно, че са пострадали милиони компютри и сървъри в цял свят и става въпрос за може би най-мащабната хакерска атака, виждана някога. Най-зловещото е, че освен огромното множество частни PC-та, са пострадали и системите на редица големи компании със стратегическо значение, като електропреносни дружества и дори мобилни оператори. Пострадали са и държавни организации: системата на съда в Бразилия, например, държавни органи в Швеция, в Австралия, Белгия, Франция, Германия, Италия и Мексико, Русия, САЩ, Канада, Китай. Малко преди полунощ стана ясно, че има поражения и у нас и че това са обекти от значение за националната сигурност.
Светът се е побъркал! – ще кажете. Води се война! Вече нямаме контрол над нищо, дори на битово ниво. Как можем да се абстрахираме от всички тези прониквания или да се предпазим от тях, без да разбираме нещо от технологиите, които ползваме? Води се война, така е, но хакерите нямат нищо общо с нея. Замислете се колко ли експлойти като EternalBlue все още не са се сдобили с публичност, а поразените обекти дори не подозират, че са поразени. Замислете се: щом хакери успяват да блокират нещо в Бразилия, Швеция, Австралия, Франция, Русия или къде да е, това означава, че дълги години някой е владял нещо в Бразилия, Швеция, Австралия, Франция, Русия… Нещо като съдебната им система или държавния им телеком… Хакерите, атакуващи системи с цел откуп, поне действат директно и благодарение на тях става ясно, че експлойти като „вечното синьо“ изобщо съществуват. Въпросът е защо съществуват? И защо сървъри с критична информация продължават да разчитат на Windows?

Internet of Shit* | Култура – Брой 17 (3027), 05 май 2017

През февруари тази година един отегчен британски тийнейджър внезапно почувства живота си прецакан заради това, че го е посветил на компютърните науки, и в рамките на няколко часа хакна повече от 158 000 принтера. Това стана възможно благодарение на свързаността на принтерите към т.нар. Интернет от неща[1].
В края на миналата година и принтерите в няколко американски университета (Станфорд, Вандербилт, Университета в Калифорния и Бъркли) пощуряха и от тях се разхвърча антисемитска пропаганда. Това – благодарение на червей, назован с ехидна находчивост Mirai („бъдеще“ на японски), и не на последно място, благодарение на факта, че хакнатите устройства били с еднаква парола за достъп, защото всичките били произведени от части, правени от една и съща фирма – XiongMai Technologies в Ханчжоу, Китай.
Принтерите, уеб камерите, рутерите са най-проблемни, но и другите устройства създават емоции напоследък. През октомври Джон Макафи, разработчикът на антивирусната програма McAfee, публикува вTwitter снимка на хладилник от магазина Home Depot, пускащ през дисплея си клипове от порносайт. Как точно домакинският уред е успял да се регистрира в сайта, остана неясно, но очевидно е бил достатъчно „умен“ за целта. „PornHub в хладилника. И какво казва по този повод съвременната кибер безопасност?“ – написа Макафи, вместо коментар.
През лятото пък експертите от английската компания Pen Test Partners, Андрю Тиърни и Кен Мънро, съвсем нарочно създадоха вирус-изнудвач, предназначен да зомбира „умните“ термостати по домовете и да ги кара да менят температурата до нетърпимост, като прожектират при това на екраните си послания с искане на подкуп срещу „разваляне на магията“.
А можете ли да си представите живота си, изпълнен с всякакви скъпоструващи „интелигентни“ глупости от рода на свързани с WiFi сокоизтисквачки, онлайн-чаши, преценяващи хидратацията на организма ви, казващи ви „добро утро“ кафе машини, прибори за хранене, коригиращи количеството поглъщана от вас храна, Bluetooth чадъри, напомнящи ви прогнозата за времето и свързани с услуги за онлайн запознанства с цел бърз секс? Ами автономни превозни средства, които проявяват въображение? А електроника в мозъка?
С риск да прозвуча банално: целта на корпорациите е да се вмъкнат не само в дома и живота ви, но, ако може, и под кожата ви, за да събират данни за вас, за да ви „четат мислите“ и да ви подбутват в „подходящия“ момент да купите „подходящата“ стока. Така, освен че си плащате щедро за всичките скъпоструващи ненужности, вие съвсем безкористно захранвате с данни и бизнеса. Защото зад хардуера, било то онлайн-чаша или „умен“ чадър, стои цяла инфраструктура – сървъри, приложения, телекомуникации, екипи, които работят с тях. А това, че веднъж сте платили за него, съвсем не означава, че сте го придобили завинаги. Вие все пак ползвате услуга и е въпрос на време доставчиците на тази услуга да решат да въведат такса. Дори и да започнат да ви снабдяват безплатно с домакински и всякакъв друг „умен хардуер“, бихте ли се съгласили току така на доживотна такса?
Но нека се върна към отегчения хакер, с чийто подвиг започнах.
От списание VICE успяха да се доберат до него чрез приложението за анонимни съобщения Ricochet и да му вземат интервю. В него той казва, че не е очаквал чак такова внимание, но може би, ако е знаел, че така ще се случи, е щял да обмисли по-добре посланията си, разпращани чрез принтерите. Така, вместо ASCII изкуство и шеги за Путин, би могъл направо да заяви: Свързването на принтери към Интернет е глупост! Целият Интернет от неща е глупост, която обрича не само потребителите си, но и свестните програмисти на неясно бъдеще.
Райна Маркова
*Internet of Shit – взех този неприличен израз назаем от заглавието на едно скорошно интервю с бащата на Интернет, Винт Сърф, за VICE.


[1] Може би не се налага да припомням, но Интернетът от неща е относително нова концепция за компютърна мрежа, в която могат да се включат не само компютри, но и най-различни други „интелигентни“ физически обекти, които общуват помежду си и с околната среда автономно чрез вградена в тях електроника.

 

Новият Фауст | Култура – Брой 15 (3025), 21 април 2017

През юли миналата година Илън Мъск, шефът на Tesla Inc. и Space Exploration Technologies Corp., регистрира в Калифорния нова компания за „медицински изследвания“ на име Neuralink Corp. Засега Мъск избягва да дава информация, но, според слуховете, става дума за начинание в областта на невронните науки – ще се създават „черепни компютри“, най-вероятно с цел лечение на нелечими доскоро заболявания на мозъка. Това са имплантируеми нервни интерфейси с „безпрецедентно висока резолюция на сигнала“ за трансфер на данни между човешки мозък и цифрови устройства. Интерфейсите ще превеждат електрохимичния език, на който си общуват невроните в мозъка, на езика на информационните технологии, съставен от нули и единици.
Скептиците не са никак малко. Но те не бяха малко и когато Мъск заяви намеренията си да произвежда електромобили и да изстрелва повторно вече изстрелвани ракети в Космоса – все неща, които той успя да осъществи.
Идеята за преодоляване на границата между биологично и електронно с имплантирането на слой изкуствен интелект в мозъка обаче не е нито нова, нито е на Мъск. Американската Агенция за перспективни изследвания в областта на отбраната DARPA вече е стартирала подобна програма – Програмата Невро-инженерингов системен дизайн (NESD). Практическите ползи от тази разработка биха били огромни. Това би било пробив и в други области – синтетичната биология, слаботоковата електроника, системния инженеринг, клиническите тестове…
И все пак, нуждаем ли се наистина от протези в мозъка, освен ако не става дума за корекция при тежки увреждания?
Сигурно би било чудесно, вместо да отделяме дълги часове за прочитането на една трудна книга или за разбирането на една сложна теория, да си я „заредим“ мигновено в мозъка от някакъв външен носител. Ние, хората, и без това сме в състояние да приемем огромно количество информация, но продуктивността ни винаги си остава скромна. Вече не сме на висотата на собствените си творения. Машините са на път съвсем да се освободят от нашия контрол и да ни направят излишни, така че защо да не се надградим?
И все пак, нужно ли е да се прибягва до нещо толкова грубо като имплантиране на устройства в мозъка с всичките неизвестни, които съвместимостта и поносимостта им от организма крият, при положение, че има напредък в друга една област – генното инженерство?
Цената на секвенция от човешки геном пада непрекъснато, а и самата генетична структура на сложни феномени като човешката познавателна способност вече не крият тайни, така че генетичното надграждане на вида ни е съвсем възможно. Вече съществуват технологии, които позволяват прецизно подбиране и редактиране на геноми при ин витро оплождане[1]. И изобщо, взаимодействието между света на алгоритмите и света на геномите разкрива пред науката и технологиите такива необятни хоризонти, че учените напоследък са успели дори с експерименти като свързването на мозъка на мишка с този на маймуна, за да ги накарат да общуват.
И все пак, има нещо, което не достига.
Изучаваме наследствеността си, изучаваме мозъка си, изучаваме собствената си способност да учим. Но какво знаем за това, което Хюм е наричал „разширен Аз“, а пък Лакан, два века след него – „разширен субект“? То винаги се е намирало извън физическото ни тяло, извън материалния свят.
Дали поредният технически и научен пробив няма да доведе до ново обедняване, огрубяване и опростяване на менталността ни, до нови и още по-непреодолими неравенства? Едно е да се рестартира операционна система, съвсем друго нещо са спомените, чувствата, опитът, свободната воля.


[1]1 Такива са последните постижения в генния инженеринг като CRISPR, например. CRISPR идва от clustered regularly interspaced short palindromic repeats – кратки палиндромни повторения, регулярно разположени в групи. Под това зашеметяващо наименование се крие система за направлявано редактиране на геноми.

Политици-роботи? | Култура – Брой 13 (3023), 07 април 201

Хората стават излишни в много професии, това е ясно, но дали технологиите биха могли да изместят и политиците от политиката? Наскоро в рубриката за технологии на американското лайфстайл списание Vice се натъкнах на забавна статия по темата, която обаче ме накара съвсем сериозно да се замисля. В крайна сметка, всичко се демократизира: журналистиката, книгоиздаването, таксиметровите и какви ли не още услуги, защо да не се демократизира и демокрацията? Идеята за представителната демокрация и без това отдавна се е износила, та защо и в ерата на айфоните да се налага да изпращаме човек в парламента, т.е. да го отдалечаваме от себе си и проблемите си? За да го сближаваме със старите лоши момчета от олигархията, че да му е по-лесно да заговорничи с тях?
А какво би станало, ако на мястото на депутата има просто робот? Роботът няма да приема бакшиши, няма да се пъчи по телевизиите и да тормози местните власти с лошия си характер. Той просто ще ви позволява да гласувате приемането на закони по смартфона си.
Край на злоупотребата с вашите публични данни на избирател в битката за преразпределяне на вота[1].
Край на политическия фарс!
Медиите напоследък, вместо да обявят, че царят е гол, са в състояние да направят от всеки голтак цар и видимо се забавляват с това. На това обаче може да се сложи край просто с инсталирането на някакво приложение, на нещо като Uber, Spotify или Amazon, примерно.
В Австралия има вече такова. Нарича се Flux. Flux е също така име на политическа партия, изградена от BitCoin ентусиасти.
В Аржентина пък има DemocracyOS – инструмент, който намалява дистанцията между избирателите и техните избраници. А партията – Partido de la Red[2]. Партията на мрежата е очевидно с глобалистки уклон, както и всички други подобни проекти за „флуидна демокрация“ от типа “peer to peer”, каквито, според статията във Vice, вече има в над 1000 организации и държави по света. Софтуерът за тях очевидно идва от платформата Democracy Earth http://democracy.earth/, курирана от известния „инкубатор за стартъпи“ Y Combinator. Само дето напоследък глобализацията леко поизлезе от мода и съвсем не изглежда чак толкова безалтернативно добра като политическа парадигма.
Има и една подробност, която даже техноентусиазмът на Vice не може да пропусне: как може едно приложение за смартфон да сътвори читав законопроект? Вярно, доста често и политикът не може. За целта политикът наема екипи от експерти. Те са, които пишат законопроектите. Вярно е и това, че наемането на тези експерти не става по най-прозрачната процедура. С помощта на технологиите това наемане може и да стане относително прозрачно, но първо това си е административна работа, а не политика. Явно авторът на Vice не прави разлика. И освен това, експертите си остават незаменими! Ние, гражданите с айфоните, ще ги избираме, но дали ще можем да спорим с тях или да им диктуваме? А и кое ще е това айфон-приложение, което ще гарантира прозрачността на отношенията на самите експерти с големия бизнес? Политиците дори и да изчезнат, нима и корпорациите ще изчезнат? И нима корпорациите не са тези, които излъчват експертите и сега? А какво ще стане с групите по интереси в бизнеса? А какво ще стане с мрежите, по които си обменят информация тези групи по интереси? А какво ще стане със самите интереси? Нима корпоративните интереси се очаква да изчезнат? Или може би интересите на гражданите ще станат приоритет пред тези на корпорациите? Може би елиминирането на досадните политици само ще улесни корпорациите в упражняването на контрол върху гражданите? Анонимен, аморфен, безличен, почти метафизичен контрол.

 


[1] Става дума за т.нар. gerrymandering – разделянето на страната наизбирателни окръзи, и така да се даде на една политическа партия мнозинство в колкото се може повече от тях, а силата на другата се концентрира във възможно най-малък брой окръзи.
[2]  Partido de la Red (исп.) – Партия на Мрежата

Роботите да плащат данък! | Култура – Брой 10 (3020), 17 март 2017

Вече писах как Мъск гледа на замяната на работниците с роботи, но ето че наскоро и Бил Гейтс сподели визиите си. Те могат да бъдат обобщени така: след като роботите отнемат работата на хората, те трябва да плащат и данъци. Разбира се, данъците ще се плащат от собствениците на роботите, което, според Гейтс, поне малко би забавило масовото им внедряване и би обезпечило пари за преквалификация на „излишните” хора. Гейтс е технооптимист, но звучи като лудит – нима ако правителството започне да доминира над бизнеса и пазара и наистина наложи този данък, това няма да демотивира иноваторите? Според Гейтс, „данъкът робот” трябва да финансира дейности, в които хората са незаменими – грижата за старци или за деца със специални нужди. В същото време, ще изчезнат склададжиите, шофьорите, чистачите, продавачите, миньорите, войниците, работниците на поточните ленти във фабриките… Но дали бившите склададжии, шофьори, миньори ще се преквалифицират лесно в бавачки и болногледачи?
Колко, всъщност, са на брой заниманията, в които човек е наистина незаменим? В изкуството и в творческата работа? В предприемачеството? В системната администрация?
Какво ли мислят по въпроса за „данък робот” самите финансисти?
Тия дни на сайта на Янис Варуфакис се развихри дискусия по тази тема.
Той привежда простичък пример – Кен изкарва добри пари като комбайнер при фермера Люк, но Люк е решил да замени Кен с робота Нексус. Нексус ще кара комбайна при всякакви метеорологични условия, няма да ползва обедна почивка, болнични, платен отпуск и няма да се скатава по празници. И най-вече, за разлика от Кен, Нексус няма да досажда на Люк с молби да му преразгледа договора. Нексус лесно може да бъде обложен с данък, като се вземе за отправна точка последната заплата на Кен и на тази основа се удържа това, което би плащал Кен като данък и осигуровки. Варуфакис обаче изтъква три проблема с този подход. Първо: независимо че заплатата на Кен едва ли би останала същата, ако беше продължил да работи, референтната сума, изчислена по нея, си остава същата, освен ако данъчните служби не вземат специални мерки. А това създава потенциал за конфликт между службите и бизнеса и неизбежно съпътстващите ги арбитраж и корупция.
Второ: каква ще бъде референтната сума в случаи, когато ще се изпълнява работа, която преди това не е вършена от човек?
И накрая, един концептуален проблем: защо Люк ще плаща само за Нексус, а не за комбайна? Нима комбайнът не върши голяма част от тежката човешка работа? С какво Нексус е по-малко машина? Със степента си на автономия? Автономия все още не означава самосъзнание, защото, ако притежаваше съзнание, Нексус сигурно щеше да се бори за правата си и да усложнява живота на Люк, точно колкото и Кен.
Най-доброто решение е като че ли еднократна такса, която да се плаща от Люк в момента, в който купи Нексус, за да замени с Кен.
Но пък тогава вероятно ще се случи друго – Нексус ще бъде инкорпориран в комбайна и ще стане невъзможно да бъде таксуван отделно. Представете си само каква врява ще вдигне един данък, наложен върху всички средства за производство.
Явно, трудността при определянето на този бъдещ данък е следствие от фундаменталната трудност да се отличи собствеността от капитала, а също и благосъстоянието от рентата и печалбата.
Варуфакис предлага като най-просто и добро решение универсалният базов дивидент, извлечен от доходността на целия капитал. Една фиксирана част от капитала става публична чрез предлагане на акции на фондовата борса и така, освен че ще се генерира поток, от който да бъде плащан универсалният базов доход, обществото ще се превърне в акционер, бизнесът ще заобиколи услугите на банките, а доверието в него ще расте.
Варуфакис обаче пропуска нещо важно в своя иначе тъй концептуален коментар – в реалността работата на Кен отдавна е „аутсорсната” към страните от третия свят. Не само Кен, но и правителствата са объркани и не знаят какво да правят. В този смисъл, може би е нужен един по-холистичен подход с наднационален обхват при въвеждането на „данък робот”.