ЗАПОЧНА ЛИ ИЗКУСТВЕНИЯТ ИНТЕЛЕКТ ДА ПАЗАРУВА ВМЕСТО НАС? - 3

01 ФЕВРУАРИ 2023

За етиката и други статистически истории

Въодушевлението от новите технологии понякога е толкова голямо, че етичната страна на въпроса сякаш остава на заден план. В случая с изкуствения интелект опасенията на хората сякаш са свързани повече със загуба на работни места, отколкото с други морални въпроси, а те не са малко.

Първият се свързан с това доколко безпристрастни и наистина полезни са самообучаващите се алгоритми. Самите софтуери е обучават въз основа на решенията на хора, а хората имат предразсъдъци – къде по-осъзнати и контролирани, къде напълно несъзнавани. В този смисъл и изкуственият интелект би страдал от същите предразсъдъци, от които страдат и хората, служили за основа на обучението му. В този смисъл софтуерът на Zalando, който трябва да изготви дизайна на следващата модна колекция ще отрази напълно вкуса на 600-те лица, ползвани при обучението му, но в същото време компанията очаква милиони покупки от съвсем други хора. Проблеми с предразсъдъците вече има – оказва се, че Google показва повече реклами за по-нископлатена работа на потребители от женски пол (данните са оттук) в сравнение с работните места рекламирани на мъже. По отношение на полезността пък промоциите в приложенията на магазините са базирани на досегашното потребление, но да се предложи отстъпка от пресните зеленчуци на човек, който се храни предимно с полуфабрикати е много по-смислено (поне от гледна точка на здравето, хранителните му навици и личните му финанси), отколкото на домакиня, която така и така ще си купи въпросните зеленчуци. В този смисъл въпросът за разбирането за дългосрочна полезност си остава отворен.

Друг съществен въпрос е доколко е неприкосновен личния живот в настоящия момент. Дори и маниаклните на тема лични данни германци, които заличават снимките на жилищата си в Google street view на практика ежедневно предоставят на търговците огромен обем данни за предпочитанията и потреблението си, да не говорим за това, което се събира и съхранява от технологичните компании като Amazon, Facebook и Google. На практика през сайтовете се събира информация не само къде из интернет сме попадали, но и какво точно сме кликали по страниците, колко време сме чели и просто гледали нещо, какво точно е събудило интереса ни. Събирането на тази информация има общо повече със статистиката, отколкото с „умните“ софтуери, но именно изкуствен интелект може да се ползва за деанонимизирането на данните, т.е. за разкриването на самоличността на хората, стоящи зад тях.  Учени от Университета в Тексас с помощта на изкуствен интелект успяват да разкрият самоличността на хората дали рейтинг на филми в Netflix, като в случая става въпрос за публично достъпни данни (повече за методиката на експеримента може да се намери тук). Само по себе си това не би трябвало да е проблем – кой харесва Приятели и кой не, но методът може да се приложи за разкриване на политически възгледи, например, които човек е възможно да не иска да разкрива в определен контекст. Друг начин за установяване на самоличност е посредством моделите на въвеждане – ритъмът на писане, паузите, начинът на натискане на клавишите са нещо като уникален отпечатък. При наличие на такава информация, дори и когато човек е отказал да се регистрира в определен сайт, при следващото му посещение изкуственият интелект е в състояние да го „познае“ и респективно, в най-безобидния вариант, да му предложи персонализирано съдържание.

Също както въпросът за купуването придоби смисъл, когато се преформулира като бихме ли купували същите тези неща без изкуствен интелект, то въпросът за предразсъдъците, полезността и неприкосновеността на личния живот би могъл да звучи и като Без изкуствен интелект би ли се случило това – излизане от анонимност и персонализирани предложения, на които е трудно да се откаже. Отговорът идва от неочаквано място – американската фирма Target, специализирана в търговията на дребно. През 2012 г. името й нашумява покрай историята за тийнейджърка, на която компанията изпраща каталог с бебешки стоки, тъй като според анализите на фирмата, тя попада в категорията на бъдещите майки. Бащата на момичето, обаче, след като получава каталога, се обажда в Target и на доста висок тон иска обяснение как точно трябва да тълкува подобна реклама – като стимулиране на раждаемостта сред непълнолетни ли?! Служителите на компанията се извиняват за допуснатата грешка, но когато седмица по-късно се свързват отново с него, за да се уверят, че недоразумението е изяснено, попадат на същия баща, който с вече доста по-мек тон обяснява, че всъщност няма недоразумение и че дъщеря му наистина е бременна, но никой друг освен нея до скоро не е знаел за това. Суматохата тогава е голяма (и то доста преди изкуственият интелект да започне да се ползва за такива цели) – как така магазинът разбира за бременността на момичето преди собствените му родители?

Статистикът Андрю Пол, работещ в Target обяснява в детайли. Първата стъпка е, че компанията създава акаунт за всеки един от клиентите си, където се съхранява информация за всичките му покупки. След това, анализирайки тези данни с помощта на статистически инструменти,  се откриват поведенчески модели – бременните, например, обичайно купуват големи количества лосиони без аромат в началото на втория триместър или пък по време на първите четири месеца от бременността поръчват конкретни хранителни добавки и витамини. На база на индикаторите за поведенческите модели (т.е. какви продукти и в какви количества се купуват), компанията е в състояние да определи с висока точност дали определена клиентка е бременна, както и кога се очаква да роди. Така жените започват да получават каталози с бебешки стоки.

Неочакваното откритие на Target е свързано с реакциите на хората – оказва се, че те истински се стряскат, когато се усетят наблюдавани. Ако, обаче, рекламите на бебешки стоки изглеждат като нещо, на което случайно са попаднали, те купуват с охота. Нещо подобно вероятно в момента се случва и с изкуствения интелект – сякаш хората нямат нищо против персонализирани предложения и специални промоции, нещото на което реагират с опасение и недоволство е, че се усещат наблюдавани и то в среда, доскоро известна с пълната анонимност, която предоставя, каквато е интернет. Target намират елегантно решение на проблема с наблюдението – те променят вида на каталозите си така, че до бебешките креватчета се появяват косачки и дърводелски инструменти. Така хората остават с впечатление, че каталогът просто си изглежда по този начин, всички в квартала са го получили и че за късмет точно сега бебешките стоки са на промоция. Как търговците, ползващи изкуствен интелект ще се справят с опасенията на клиентите си тепърва ще разберем – дали ще рационализират целия процес през призмата на ползите за потребителите (а те никак не са малко), ще предоставят известен контрол на хората върху данните, които се събират за тях или ще замаскират хиперперсонализацията предстои да видим. Нещото, което е добре да се помни, обаче, е, че хората сами вземат решения си – включително и тези за покупка и че самокотролът е лична отговорност, а не ангажимент на търговците.