AI, данни и вземане на решения: защо критичната преценка е по-важна от всякога

От повече от десетилетие цари вярването, че най-ценното умение в една организация не е просто достъпът до информация, а способността да разпознаем кога тази информация е неточна, непълна или подвеждаща.

Повсеместното навлизане на изкуственият интелект прави това умение още по-важно.

От 2023 г., когато за пръв път се заговори по-активно за AI грамотност, често срещано оправдание беше, че технологията все още не е достатъчно развита, за да има смисъл да се говори за грамотност по отношение на данните. Днес вече AI може да дава правилни отговори, обобщения, препоръки, да генерира код, анализи и все по-често да задейства конкретни действия.

Въпросът пред лидерите вече не е какво може да направи AI. Той преминава от “Какво може да направи AI”, към “Какво се случва, когато генерира нещо, което въпреки, че изглежда авторитетно, звучи уверено, но все пак е грешно”.

Голямата разликата и конкурентно предимство ще дойде за компаниите, които ще умеят да улавят подобни грешки и пропуски.

Преди десет години наричахме това грамотност за четене на данни (data literacy), а преди бумът на технологиите – критично мислене. Всяка технологична вълна изважда на преден план различно човешко умение – интернетът даде бърз достъп до знание, търсачките развиха умението за синтезиране на информация, AI вече автоматизира синтеза. Това означава, че следващото конкурентно предимство ще бъде при хората и организациите, които могат да оценяват генерираното от AI и уверено да решават на какво да се доверят, какво да поставят под въпрос и какво да отхвърлят.

Това е човешката критична преценка.

Тя не се изгражда просто чрез по-честа употреба на AI, а чрез достатъчно дълбоко познаване на конкретната област, за да се разпознае грешния отговор, дори когато той изглежда правилен.

Контекст и преценка не са едно и също

Контекстът е това, което подаваме към AI – данните, до които има достъп, бизнес логиката, която разбира, и параметрите, които оформят резултатите.

Критичната преценка е това, което внася човекът, когато AI сгреши. Едното е казус на данните, другото-лидерски въпрос. И двете са изключително важни за развитието на един бизнес.

Прочети повече: Business Intelligence система – какво, за кого и защо

Данните показват “неудобната” картина

Според глобално проучване на BCG за AI на работното място от юни 2026 г., 74% от служителите вече използват AI редовно, а 41% от тях отчитат по-високо когнитивно натоварване, въпреки повишената продуктивност.

Важно е да подчертаем, че AI не намалява автоматично когнитивното усилие в работен план. Напротив, за много служители то дори се увеличава, а паралелно времето за оценка, проверка и критично мислене намалява.

До подобни изводи стигат и други независими изследвания, например проучването на Dell’Acqua и колеги, проведено с BCG и публикувано в Organisation Science. То въвежда понятието „назъбена технологична граница“ (jagged technological frontier) – неравномерната граница между задачите, с които AI се справя добре и задачите, при които се проваля или халюцинира. Основният риск е, че не съществува ясен сигнал от коя страна на тази граница попада конкретната задача. В изследването опитни служители с достъп до AI се представят по-зле при идентифицирането на грешни отговори не защото са невнимателни, а защото резултатът изглежда правдоподобен.

Нито един от тези изводи не е аргумент срещу използването на AI. Напротив – това е причина за приемане на по-обмислен подход към начина, по който AI се използва, стандартите, които се прилагат, и изясняване на очакванията към хората, които работят с него.

Рискът за лидерите не е просто, че екипите използват AI твърде много или твърде малко. Рискът е да бъдат изградени AI зависими процеси, управлявани от хора, които вече не са достатъчно подготвени да улавят грешките.

Един ИИ резултат може да бъде уверен, добре формулиран и все пак грешен. В глобален мащаб това не е само оперативен проблем, а е стратегически риск.

Прочети повече: BI – скритият служител

Индивидуалната преценка не се мащабира. Архитектурата на решенията – да.

Дори лидер, който има силно развита критична преценка не може да управлява и участва във всеки процес. Организациите, които ще бъдат крачка пред другите няма да са просто тези, в които всеки служител има отлична AI преценка. Ще бъдат тези, които са изградили общовалидни механизми в компанията, чрез които добрата преценка се прилага в мащаб.

Това изисква конкретна архитектура на решенията с:

Финансовите отдели прекараха десетилетия в изграждане на контроли около резултатите от електронни таблици, именно защото те изглеждат авторитетно, лесно будят доверие и могат невидимо да разпространяват грешки в голям мащаб. AI резултатите имат същите характеристики, но при много по-висока скорост и обем.

Повечето организации все още не са изградили еквивалентни контроли. Те са на етапа, в който приемат, че щом някой е погледнал резултата, той е бил оценен достатъчно добре. Това не е модел на управление, а оптимистично предположение.

Прочети още: ОББ Интерлийз дигитализира репортинга си с BI системата Qlik Sense [интервю]

Разговорът на ниво мениджмънт все още изостава

Управлението на ИИ не се развива със същата скорост като внедряването на изкуствен интелект. AI асистенти и агенти вече са интегрирани в повече работни процеси, отколкото много ръководства осъзнават – избор на доставчици, задействане на поръчки, изпълнение на ценови решения, подготовка на отговори по регулаторни казуси и много други.

Мениджмънтът обикновено се интересува основно от възможностите на изкуствения интелект, но едни от най-важните въпроси си остават конкретни и оперативни:

Това е процесният одит, който организациите е нужно да направят. Така много ясно ще се открои разликата между настоящия управленски модел и необходимото и безопасно ниво на ИИ контрол.

Критичната преценка се проваля, когато данните се провалят

Критичното мислене би следвало да се прилага не само на ниво резултат, но и на ниво данни. AI система, изградена върху непълни, неточни и/или неструктурирани данни, ще произведе уверени и правдоподобни изводи, без да има реална валидация на качеството им. Моделът не може сам да сигнализира за несъответствия в данните, защото той работи с каквото е захранен и няма поглед над реалната ситуация. Той не знае какво не знае – това е човешка отговорност.

Лидерите, които инвестират основно във възможностите на AI моделите, но не инвестират достатъчно в достоверността и приложимостта на данните, изграждат нестабилна основа за управленски решения. Моделът ще работи точно както е проектиран, но ако данните не са коректни и организацията няма доверие в тях, рискът от грешки и неточности е огромен.

Важно е данните да бъдат актуални, да имат ясен произход, така че когато моделът даде отговор, някой да може да проследи върху какво се основава той и дали източникът все още е валиден.

Необходимо е собствеността върху данните да е ясно дефинирана, да съществува ясен отговорник за евентуални пропуски, а не да се търси виновен след евентуален инцидент.

От изключително значение е също данните да са правилно структурирани, спрямо AI модела, а не просто прехвърлени от съответния източник.

Прочети повече: 5 ползи за фирмите от работата с Business Intelligence система

Три действия, които лидерите трябва да предприемат още сега

От данните към решенията: как Balkan Services може да помогне на вашия бизнес

В Balkan Services помагаме на организациите да превърнат данните в надеждна основа за вземане на решения. Като ИТ консултантска компания, специализирана във внедряването на бизнес софтуер, управление на данни, анализи, BI решения и дигитална трансформация, свързваме системи, подобряваме качеството на данните и изграждаме среда, в която информацията е надеждна, достъпна и приложима.

От 2006 г. насам Balkan Services внедрява бизнес софтуерни решения и има реализирани над 750 проекта, от които повече от 420 са в областта на решенията за бизнес анализи. Като дългогодишен официален партньор на Qlik в България със статут Authorized Reseller и пазарен лидер при BI решенията с близо 30% пазарен дял, помагаме на компаниите да изграждат модерна среда за данни и анализи, която осигурява по-добра видимост върху бизнеса, подкрепя по-бързи решения и създава стабилна основа за AI инициативи.

Вярваме, че успешното използване на изкуствения интелект започва не само с технологията, а и с надеждни данни, ясна отговорност за тях и добре структурирани процеси. Независимо дали целта е по-добро управление на данните, задълбочени анализи, BI решения или подготовка за AI, нашият екип съчетава бизнес итехнологичнен опит, който превръща данните в информация, информацията в знания, а знанията – в реални бизнес резултати.

В обобщение

Организациите, които ще бъдат напред през следващите години, няма да са просто тези с най-развит AI или бързо и често внедряват ИИ инструменти. Компаниите лидери ще бъдат тези, които знаят къде трябва да остане човешката преценка, как да я приложат и на каква основа от данни тя трябва да стъпи.

AI може да генерира отговор, но ако нямаме добра основа, този отговор няма да е точен и да заслужава доверие.

Това остава човешко решение. И започва с критична преценка.

В Balkan Services притежаваме експертни познания в областта на бизнеса, технологиите и законодателството и говорим и трите езика. Ще ви изслушаме внимателно и ще ви посъветваме как да изберете правилната бизнес система за вашите нужди.

Източник: Блогът на Qlik