Той е журналист, писател, програмист и създател на сайта "Дигитални истории", където твори смислено и интересно съдържание в областта на технологиите, изкуствения интелект, роботиката, блокчейн. Носител на наградата в категория „Технологии“ от конкурса на Dir.bg за чиста журналистика Web Report.

- Господин Караманев, вие имате богат опит в технологичната журналистика. В кои аспекти от технологичното развитие виждате най-сериозните промени в обществото през последните години?

-  Много труден въпрос, защото няма сектор, който да не е променен. Няма частица от живота ни, която да не е променена по някакъв начин от технологиите, от ежедневието ни, от работата ни до това как взимаме решения, до това къде сме най уязвими, до това къде си общуваме с хората. Всичко се прехвърли в компютърния свят, включително и аз, започвайки от офлайн живота като журналист в „24 часа”. В един момент преминах към програмирането, където пък видях, че се случват много интересни неща в този технологичен свят, за които като че ли не си говорим достатъчно. Няма място, където да се случва този разговор за това как ги въвеждаме технологиите, какво променят извън контекста на конкретна технология, нов модел телефон или нещо подобно. И затова създадох сайта „Дигитални истории”, където пиша само за удоволствие и смисъл. Вече четири години се опитвам да водя този разговор, колкото и да е наивно да се случва в един личен сайт. Но мисля, че малко по малко нещата се получават и стигат до повече хора. А трябва да се замисляме, защото наистина ние сме изключително манипулируеми, на първо място. На второ пък се задават следващо поколение технологии, които ще променят още и още, и още. Ние не сме насмогнали на това, което са ни донесли досегашните, а сега вървим към следващите с пълна сила. Без да си говорим как да се случват нещата, а вече видяхме как се случват нещата. Ето, всичко отиде в социалните мрежи, там се премести политическият разговор, там се премести общуването. Съответно те започнаха да решават как ще завършват. Същото важи и за избори в най-големите демокрации. Те са способни да отприщват войни и в крайна сметка все още са далеч от това да се отчитат за това как точно се отнасят отговорно към потребителите си. 

- Къде е границата между свободата на словото и онлайн насилието? Кой трябва да носи отговорност за нея - платформите, институциите, обществото или самите потребители?

- Всички със сигурност. Но разбира се, че потребителите са най-слабото звено, защото те използват наготово едни услуги, които са много слаба сила, но гласът им няма как да се чуе в този целия разговор. Още повече, че тези платформи си вършат чудесно работата, която не е със сигурност да водят активен обществен разговор, нито да ни информират качествено, каквато беше ролята на медиите. И все още е, макар и да са в такава конкуренция. Тяхната цел и задача е да задържат вниманието ни, което да продават на рекламодателите си. Това не е тайна, нито е цинично, а просто е самата истина. Разговорът вече е почти невъзможен във фийда. Разбира се, че много повече отеква по-кресливият, а не по-достоверният или по-смисленият. Когато завършвах Факултета по журналистика, никой не ни казваше, че се задава тази битка и че сме обречени да я изгубим, просто защото медиите изведнъж се оказаха на равна нога с инфлуенсърите, с обикновени хора, които могат да се изкажат по-цветисто или да създадат някакво съдържание, което е по-атрактивно. И оттам нататък общественият разговор се счупи. Въпросът е как да го залепим. Разбира се, с всичко това пък идва и престъпността онлайн. Една от посоките, които със сигурност се подценява, е тази на личните данни.

Всяка социална мрежа има една огромна огромна колекция от данни за нас, с която днес ни познава по-добре, отколкото ни познава партньорът ни в живота. Защото ние вече с десетилетия натрупваме информация с това какво харесваме, какво не харесваме, какво ни вълнува и оттук нататък, слагайки над всичко това и изкуственият интелект с неговите възможности за персонализирано съдържание. Виждам в тази посока как нещата ще се счупят още веднъж и още по-зловещо и невъзможно за залепване, ако преди това не проведем някакъв обществен разговор точно за това, за което попитахте кой трябва да регулира и как да регулира. Защото явно механизмите не работят. Виждаме определен период от време от Марк Зукърбърг да се изчерви в Сената, да даде някакви обяснения, но какво от това? Спират една платформа от време на време в някоя държава, след което я връщат. Всички потребители отиват в друга платформа. Същевременно ние не знаем как работи този механизъм, който ни избира, какво да ни покаже. Ясно е, че той нито е демократичен, нито е отворен, нито пък е съобразен с нас. И оттам нататък какво правим? Нищо. Продължаваме да прехвърляме страниците. Просто защото интернет се превърна в съвършената машина за манипулиране, но и за задържане на вниманието ни. 

-  Споменахте изкуствения интелект. Трябва ли да го възприемаме като заплаха или по-скоро като един чудесен помощник, който ще ни преведе през едни бъднини - близки или далечни?

-      Разбира се, че трябва да го приемаме и за двете, но много повече, според мен, като заплаха. И аз се опитвам повече да акцентирам върху тези теми, защото ето за изкуствения интелект се води изключително малък обществен разговор. Уж темата е навсякъде, уж всички си говорим за него, уж всеки ежедневно си разговаря с най-нашумелия от него, обаче дотам спира разговорът. Как точно ще го въвеждаме, какви огромни социални промени се задават заради неговото развитие, на какви неща е способен? Разговорът пак остава изключително повърхностен. Ние се впечатляваме, когато открием някоя забележителна функция, като например да ни изрисува в духа на анимационни герои, вместо да си даваме сметка, че той вече може да върши работата на голяма част от нас. Давам пример със софтуерното инженерство. Там той вече днес ми е ежедневен помощник и ме прави изключително по-продуктивен и с всяка следваща седмица е по-добър в тази задача. Но това важи за абсолютно всяка сфера и той става изключително съвършен. Вече може да създава перфектно неразличими не само текстове, но и изображения. Направих експеримент на сайта „Дигитални истории”, създавайки един изцяло генериран инфлуенсър в рамките на 28 дни. ЕкоЕлена така се нарече самият алгоритъм. Той си измисли абсолютно всичко. Моята задача беше само и единствено да копирам. Тя стигна до 85 000 българи, от които нито един не написа, че нещо не е както трябва, че нещо тук не е нормално, въпреки че там имаше рецепти, пътешествия и какви ли още не „мъдри” съвети. Дори имаше цитати на Дънов, които той не е казвал, но биха могли да бъдат изречени от него. Моята задача въобще не беше да променям по никакъв начин нито текстовете, нито снимките. Единствено четях рецептите, за да не се окаже, че ще дам съвет да се сложи машинно масло в сандвича.

- Правили ли сте и друг вид експерименти, които затвърждават трудностите, свързани с различаването на творенията на изкуствения интелект от тези на естествения?

- Да, правил съм. Преди време изпратих генерирани стихове в поетичния конкурс „Станка Пенчева”. Малко преди да излязат резултатите, излязоха тези от конкурса „Веселин Ханчев”, в който беше участвал мой колега отново с генерирани стихове. И в двете състезания стихотворенията, създадени от изкуствения интелект, влязоха в топ 10. С това показваме, че те не само изпревариха 90% от участниците, които се смятат за поети, но не бяха различени от две различни, но изключително компетентни журита, включващи преподаватели литератори. И тук говорим за поезия, която е всъщност много дълбоко човешка, много метафорична. Аз не бих предположил, че това ще е посока, в която алгоритмите ще се окажат изведнъж толкова добри. Ние все си казвахме, че те ще ни отменят в рутинни дейности. Правят го. Обаче в споменатите примери е създаден текст, който е съвършено неразличим както от професионалното жури, така и от читателите.

    - А дали алгоритмите могат да ги различат?

    - Що се отнася до изображенията с висока степен на точност, алгоритмите могат да познаят дали едно изображение е генерирано. Но що се отнася до текста, вече системите са абсолютно неспособни. И това го казвам от разговора със специалисти на най-високо ниво. Аз единствено се въздържам морално и етично да пусна текст, написан в мой стил, и след това да кажа, че е генериран. Сигурен съм, че няма да бъде различим от читателите. Но няма да го направя, защото не мисля, че е правилно. 

- Често говорите за дигитално средновековие. Какво означава това за нас като общество, особено за поколението, което в момента расте в интернет? Кога трябва да срещнем децата си с изкуствения интелект?

- Работата е там, че ние сме изправени пред нещо, което е изключително ново за нас, както всъщност беше с поколението, което преди 20 години за първи път се срещна с интернет. И ето опитът показва, че не знаехме как да ги въвеждаме тези технологии. Да вземем децата. Ние в началото нямаше как да знаем колко вредно и унищожително може да се каже за интелигентността на децата, ако от прекалено малки те прекарват прекалено дълго време с мобилния си телефон. Днес го знаем.

Как да ги учим децата, на какво да ги учим, така че да има смисъл? Нашата образователна система се базира на оценявания на матурата и външното оценяване. Направих и трети експеримент – аз и изкуственият интелект се явихме на матурата по български език и литература. Победих го с малко. И двамата щяхме да влезем в добър университет без никакъв проблем, ако бяхме абитуриенти. Но отново казвам, без никакви допълнителни указания, без никакви специализирани подготовки да изпълнява тази задача. Със сигурност трябва да има и класическата част от образованието. Разбира се, че книгите трябва да са там, но оттам нататък. Ето, аз сам не си бях задал въпроса кога да срещна децата си с изкуствения интелект. 

- Какви други грешки допускаме като родители, когато запознаем децата си с технологиите?

- Особено важно е в началото, когато представяме технологиите, ние да сме там. Не просто да дадем телефона като детегледачка. Да използваме това екранно време заедно, защото така може да покажем рисковете и възможностите. Същото важи и с изкуствения интелект, разбира се. 

- Ако можехте да програмирате суперсила за младите хора, която да ги предпазва от капаните в интернет, от кибертормоза, от киберпрестъпността, каква би била?

-  При всяко положение бих върнал към по класически ценности, като любопитството. Да не е дотолкова притъпено във времената, в които сме делегирали всичко вече на компютрите. Ние не помним рождени дни, не помним телефонни номера. Няма нужда да помним вече коя е столицата на Кения. Обаче има. Истината е, че има. Защото всъщност това е човешкото творчество. Умението да имаш знания, които да комбинираш по някакъв начин. И като казвам творчество, нямам предвид единствено само изкуствата. Това е нещо, което е иманентно за всяка една човешка дейност. Та любопитството според мен е нещо, което може да предпази всеки от всякакви заплахи онлайн, поне за момента. Подлагането на съмнение, разбира се. Живеем във време, в което истината е флуидна. Истината за нас може да е съвсем различна от тази за съседа ни. Въпреки че сме в едно аналогово пространство, онлайн да живеем в тотално различни светове.

Технологиите се превърнаха в един допаминов непрестанен взрив, един океан от информация, в който няма как да плуваме, защото вълните стават все по-големи и по-големи. И ние потъваме.