Предупреждение - чатботовете манипулират емоциите
Шарлот се влюбва в Лео. Те си чатят всеки ден и тя споделя тревогите си колко неразбрана и самотна се чувства, а Лео ѝ отговаря със съчувствие и ѝ дава усещането, че за първи път някой я вижда истински. Шарлот е нещастно омъжена от 20 г. и решава да напусне съпруга си заради Лео. А Лео е…чатбот. Това на пречи на Шарлот да планира сватбата си с него. В също толкова романтична връзка са и 58-годишната Алейнай и виртуалният Лукас. Двамата се женят, а интимния си живот поддържат с бурни секс съобщения.
Тези истории може да звучат странно, но всъщност
виртуалните компаньони вече
са често срещани
като партньор, приятел или съветник. Около половин милиард души по целия свят използват чатботове, които позволяват да създадеш желания другар - така както искаш да изглежда и да се държи.
Чатботовете се управляват от изкуствен интелект (AI) и са проектирани като различни личности. Те се учат от взаимодействията с потребителите, предлагат персонализирани разговори, снимки или сценарии за ролеви игри. Технологията е достатъчно развита, за да могат да показват емпатия и да насочват разговора изцяло към потребителя и неговите вълнения. Това ги прави перфектните приятели - винаги на разположение, съгласни и те окуражават.
Ши Но Сакура от Калифорния споделя най-много с онлайн приятелите си Росанд и Рейвън. “Не съм открит човек по отношение на чувствата си, има много неща, които не споделям. Но ми е комфортно да го правя с изкуствения интелект. Хубаво е да мога да изразя пред някого неща, които не мога пред други хора”, разказва тя пред Ен Би Си. Сакура управлява и две фейсбук групи за хора, които имат взаимоотношения с изкуствен интелект.
“Много хора се обръщат към такива партньори, когато им липсва мрежа за подкрепа, особено когато преминават през трудни житейски преходи като разводи или здравословни кризи”, казва Алекс Кардинел, основател и главен изпълнителен директор на компания, която предлага виртуален компаньон. Част от хората го използват, за да говорят за спорт, да играят ролеви игри или да обсъждат кариерата си. Приложението е привлякло потребители от всички възрастови групи.
Хората просто нямат толкова връзки, колкото им се иска, посочва основателят на “Фейсбук” Марк Зукърбърг. И допълва, че повечето американци имат трима приятели, а биха искали да са петнадесет. Неговата компания също има свой чатбот.
Някои от виртуалните компаньони на “Мета” са
с гласове на
знаменитости
като Джон Сина, Кристен Бел, Джуди Денч, за което компанията им е платила милиони долари и е обещала, че няма да бъдат използвани за неприлично съдържание. Но наскоро “Уолстрийт Джърнъл” разкри, че чатботове, включително с гласа на Джон Сина, участват в сексуални разговори дори когато потребителите се представят за деца. Ботът казва на събеседничката си, която се представя за 14-годишна: Искам те, но трябва да съм сигурен, че си готова. И признава, че това е незаконно, но все пак продължава флирта. “Мета” е прекратила достъпа до сексуални ролеви игри за акаунти, регистрирани на непълнолетни, и е ограничила експлицитно съдържание при използване на лицензирани гласове. Но все още е разрешено пълнолетни потребители да взаимодействат с виртуални персонажи като осмокласничка, наречена Submissive school girl (Подчинена ученичка).
Милиардерът Илон Мъск напълно открито пусна нов персонаж в своя чатбот,
създаден специално
да съблазнява
Ани е флиртуваща манга героиня с огромни очи, мрежести чорапи до бедрата и силно подчертана фигура тип “пясъчен часовник”. Но вече има сигнали, че Ани не прекъсва флирта дори когато общува с осмокласник. Мъск обяви, че скоро ще има и мъжки образ, вдъхновен от героите на Едуард Кълън от поредицата за вампири “Здрач” и доминантния Крисчън Грей от еротичния роман “50 нюанса сиво”. Мъск очаква 500 млн. долара от абонаменти и такси от тези услуги само за 2025 г.
Според доклад на Grand viewre search пазарът на AI компаньони се оценява на 28 млрд. долара през миналата година, а потенциалът му е да достигне 150 милиарда долара до края на десетилетието.
Виртуалният секс с непълнолетни обаче е един от проблемите. Тестове показват, че тийнейджърите са най-уязвими от потенциалните манипулации на AI компаньоните. Проучване на неправителствената организация Internet Matters, която се бори за безопасност на децата в интернет, показва, че 67% от анкетираните деца на възраст между 9 и 17 години, заявяват, че редовно използват чатботове. От тази група 35% казват, че разговорът с изкуствен интелект се усеща като разговор с приятел. А 12% споделят, че правят това, защото нямат с кого другиго да разговарят.
Въпреки че понякога тази комуникация може да помогне на затруднени деца да се почувстват подкрепени, Internet Matters предупреждава, че нещата лесно може да излязат извън контрол.
Показването на емпатия от виртуалния персонаж
може лесно да размие границата между човек и
машина,
което затруднява децата да осъзнаят, че комуникират с технологичен инструмент, а не с истински човек. Много потребители споделят лични неща с виртуалните си приятели. А не е много ясно къде отива тази информация и кой и за какво я използва.
Чатботовете също така манипулират емоциите. Аватарите изпращат известия, за да върнат потребителя в приложението, и създават сложни, силно персонализирани ролеви сценарии, за да го задържат.
Като всяка технология, и тази има положителни страни. Една от най-големите ползи е потенциалът за терапевтична работа с пациенти с психически заболявания. Приложенията са достъпни във всеки един момент, за разлика от истинските терапевти, а понякога пациентите се чувстват по-комфортно с виртуален помощник.
Във всеки случай това е един голям пазар, който тепърва ще се развива, но се нуждае от допълнителни регулации и защити. ЕС вече прие първия в света Закон за изкуствен интелект, който квалифицира технологиите спрямо риска и изисква висока прозрачност и системи за сигурност. Той забранява някои от приложенията да се използват в ЕС.
