ЧОВЕШКАТА ОТГОВОРНОСТ В ЕРАТА НА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ

Машините стават по-мощни с всяка седмица, но това не означава, че нуждата от човешки труд намалява. Хората не достигат. В болниците липсващите смени не са далечна прогноза за 2030 г., а проблем в днешния график. В компаниите, които първи въведоха автоматизация, работните места не изчезнаха напълно. Създадоха се нови позиции, чиито описания преди три години дори не съществуваха.

Този текст не се опитва да определи дали изкуственият интелект е добър или лош. Вместо това задава практичния въпрос: къде се появява човешката работа, докато автоматизацията се разширява. Следват десет извода, всеки от които завършва с критерий или въпрос. Те могат да бъдат използвани веднага - в болница, училище или малка фирма.

Основното наблюдение е просто. Автоматизацията не премахва отговорността, а я премества. Докато системата само изпълнява, човекът решава кога да я стартира, какво да се направи при грешка и кой ще отговаря за последствията. Колкото по-мощна е системата, толкова по-скъпи могат да бъдат тези решения. А хората, подготвени да ги вземат, не са много.

Има и втора страна на картината. Новите контролни точки са конкретни роли, които изискват опит и преценка. На много места такива хора вече не достигат. Оттам идва и идеята за този текст. Проблемът не е в провала на машините. Проблемът е, че тяхната мощ увеличава тежестта на човешката преценка.

Всяка нова мощ отваря нова контролна точка

Контролната точка е моментът, в който някой трябва да вземе решение и да носи отговорност за него. Всяка нова възможност на системата отваря такъв момент. Машината изпълнява, но човекът решава кога да я стартира, какво да се направи при грешка и кой ще поеме последствията.

Медицината показва това най-ясно, защото там цената на грешката е видима. Всяко устройство с изкуствен интелект, което получава разрешение за продажба в Съединените щати, минава през човешка оценка на безопасност и ефективност. Регулаторът поддържа публичен списък с тези устройства. Европейският регламент за изкуствения интелект отива по-далеч. Според член 14 от регламента високорисковите системи изискват ефективен човешки надзор. Законът дава на човека право да не използва резултата. Дава му и право да спре системата.

Законът стига до такава конкретика, защото "внедрено" не значи "вярно". Широко използван модел за прогнозиране на сепсис работеше в стотици болници. Външната валидация на модела разкри слаб резултат. Системата пропусна 67% от пациентите със сепсис. Числата идват от независима проверка, публикувана през 2021 г. в медицинско научно списание. Моделът не беше злонамерен. Той просто не беше достатъчно добър, а хората вече разчитаха на него.

Оттук идва първият практичен въпрос. Кой носи отговорност, ако тази система сгреши? Вторият въпрос тежи повече. Знае ли този човек, че я носи? Когато планираш внедряване, не се ограничавай със спестеното време. Питай какви нови решения ще поеме човек след системата. Провери има ли кой да ги вземе. Ролята се променя от изпълнител към наблюдател. Тази промяна иска повече опит, не по-малко.

Правилото на волана: по-бързо може, но не по-бързо от управлението

Караш по-бързо, отколкото тичаш - това е добре. Не карай по-бързо, отколкото завиваш. Скоростта не е проблемът. Проблемът идва в мига, когато воланът спре да стига до някого.

През май 2010 г. водещият американски борсов индекс загуби близо хиляда пункта за минути. Стотици милиарди долари пазарна стойност изчезнаха временно. Докладът на SEC от 2010 г. описва взаимодействие на автоматични системи, което никой не беше виждал в цялост. Две години по-късно софтуерна грешка в автоматизирана система на голяма брокерска компания изпълняваше поръчки в продължение на 45 минути. Загубата им надхвърли 460 милиона долара. Разпореждането на SEC от 2013 г. описва как се стига дотам. И в двата случая хората разбраха какво се е случило, след като вече беше свършило.

Преди да делегираш нещо на автоматизация, задай три въпроса. Мога ли да спра системата навреме - за минути вместо за дни? Знам ли кой има право да натисне копчето за спиране? На разположение ли е този човек постоянно? Знам ли какъв е най-лошият възможен изход? Ако един от отговорите е "не", пред теб няма автоматизация. Има залог.

В една област границата още се спори публично. Автономните оръжия се обсъждат в експертния формат на Организацията на обединените нации по конвенцията за конвенционални оръжия. Обвързващ договор още няма. Забавянето също е отговор.

Първото правило трябва да е записано

Всяка човешка система има нужда от ясно определена цел: да прави живота на хората по-добър. Ако тази цел не е записана, постепенно я заменят печалбата, резултатите и конкуренцията. Никой не го прави с лоши намерения - просто хората започват да следват това, което може да бъде измерено.

Тази идея не е нова. Аристотел определя добрия живот като отделна и важна цел. В целите на ООН за устойчиво развитие до 2030 г. е записан същият принцип: "никой да не бъде изоставен". Тези идеи имат смисъл, когато се превърнат в ясни правила за действие.

Ясната цел помага да вземаме по-добри решения. В един проект още в началото трябва да е ясно за кого ще бъде полезен и по какво ще познаем, че е постигнал резултат след година. В училище целта трябва да показва какви умения ще придобие детето, а не само какви теми ще бъдат разгледани.

Когато вземаш лично решение, попитай се дали то ще подобри живота ти - например дали новата работа ще ти даде повече възможности да живееш добре. Заплатата и другите числа в договора са само част от картината.

Най-важният въпрос е прост:

Помага ли това на хората да живеят по-добре?

Ако подобрява единствено показателя, а не живота на хората, тогава правилото вече е било зададено от някой друг.

Инструмент или агент: въпросът, който решава доверието

Класическият софтуер беше предвидим инструмент, създаден от хора. Можеше да се прочете кодът и да се разбере как работи системата. Ако нещо се повредеше, отваряш кода и намираш проблема.

Днешните системи, които вземат решения, не работят по същия начин. Те не следват просто списък от предварително написани стъпки. Вместо това се учат от натрупан опит, който не е записан ред по ред и често е труден за обяснение.

Тук се появява важното разграничение: разбираемият инструмент може да бъде поправен, защото знаеш как работи. Неразбираемият агент може само да бъде наблюдаван. Затова надзорът се превръща в единствената ти защита.

Доверието към софтуерен доставчик не винаги е безопасно - в миналото то вече е било превръщано в оръжие. През 2020 г. американската агенция за киберсигурност описа как нападатели са компрометирали широко използван софтуер за управление на мрежи. Подробностите са публикувани в предупреждението на CISA.

През 2024 г. подобна атака засегна популярна библиотека за компресиране на данни. Скритият вход и рискът за веригата на доставки са описани в документа на CISA за xz-utils.

Използвам ли системата като разбираем инструмент, или разчитам на нея като на самостоятелен агент?

Ако разчитаме на нея, доверието трябва да върви заедно с:

• проверка преди употреба;
• подробен запис на действията и решенията и;
• ясно посочен човек, който поема отговорност, ако системата сгреши.

Кой определя какво заслужава внимание

Самообучаващите се системи могат да постигат впечатляващи резултати. Програма за игра на ГО например се е обучила сама и е победила друга система, която вече е била победила световния шампион. В рамките на няколко дни тя е спечелила със 100:0. Методът е описан в публикация на Nature от 2017 г. Машината е изградила знанията си без нито една човешка партия като пример.

Представете си, че подобна система започне сама да открива математически истини. Тя може да намери много решения, но не може сама да определи коя истина е важна за хората. Това не е математически или технически въпрос, а въпрос на ценности.

Затова хората продължават да избират целите. Добър пример са седемте задачи на хилядолетието, обявени през 2000 г. от частна институция. Те служат като научен ориентир вече двадесет и пет години. Списъкът със задачите и наградите за тях може да бъде видян на официалната страница на института.

Самообучението може да открива отговори. Но хората решават кои въпроси си струва да бъдат зададени.

През септември 2026 г. една лаборатория обяви, че е решила една от тези задачи. Реакцията беше показателна. Никой не прие твърдението веднага за факт, но никой не го отхвърли и без проверка. Математическата общност поиска доказателства. Институцията, която присъжда наградата, все още не е потвърдила решението. Две декларации за ролята на изкуствения интелект в математиката събраха съответно над четири хиляди и над седем хиляди подписа. Спорът не е само технически. Той е свързан с посоката, в която трябва да се развива математиката.

Изводът е кратък. Можем да поверим на машините изпълнението, но не и избора на посока. Затова всеки проект трябва да започва с два ясни въпроса: кой реши, че този проблем си заслужава времето и бюджета на екипа, и какви други възможности оставихме настрана, за да се заемем с него.

Недостигът е реален: кой ще заеме новите места

Дори най-мощната автоматизация не може сама да осигури хората, които трябва да се грижат за пациентите. Тя може да разшири капацитета, но с всяко ново място нараства нуждата от човек, който да носи име и отговорност.

Според годишния доклад на СЗО, публикуван на 18 септември 2026 г., в света работят над 70 милиона здравни и социални служители. Прогнозата е до 2030 г. недостигът да достигне 11,1 милиона души. Почти всеки четвърти лекар е над 55 години, а в по-богатите държави съотношението е един на всеки трима. Общо 67 държави вероятно няма да имат достатъчно здравни работници до края на десетилетието.

Тук е важно да направим едно уточнение. Твърдението, че автоматизацията създава повече работни места, отколкото премахва, е теза, не доказан факт. Редица сериозни икономисти не са съгласни с нея. Затова посочените числа се отнасят единствено до здравеопазването. В останалите сектори посоката остава предмет на спор, а надеждни публични данни няма.

Така разговорът за работата придобива друг смисъл. Въпросът вече не е просто дали ще има работни места. Въпросът е дали ще има достатъчно хора, които да ги заемат. Ако сте работодател, направете проста сметка: колко души от екипа ви ще достигнат пенсионна възраст през следващите пет години и кой ще поеме преценката, която те осигуряват днес? Ако търсите работа, обърнете внимание на местата, където нови системи тепърва навлизат в производството. Именно там се появява нуждата от хора, които да ги наблюдават и управляват.

Доброто намерение също заслужава критика

Нито една дума не е невинна. Дори изразът "по-добър живот" изисква уточнение: по-добър за кого, определен от кого и защо именно сега.

Когато целта от предходния раздел не може да бъде оспорвана, тя се превръща в лозунг. Лозунгите са удобни, защото позволяват да се заобиколи регулацията, без формално да се нарушава правило. Проблемът е, че правила все още няма. В изследванията върху етиката на изкуствения интелект този подход е описан като замяна на обвързващите задължения с публични декларации за ценности.

Съществува и по-дълбок проблем. Защо човешкият интерес да бъде единственият критерий за доброто? Критиката към човекоцентричното мислене показва, че тази рамка е направен избор, а не неутрална отправна точка. Тя оставя извън обсега си останалите видове и средата, в която живеем.

За бизнеса най-съществено е третото възражение. Част от публичната критика идва от икономисти, които не обсъждат съдбата на човечеството. Тяхната теза е, че в дадена научна област се губи контролът на вече установените играчи. Ако представяме спора като война между хора и машини, ще пропуснем същинския въпрос: кой има полза от определението за това какво е „по-добре“.

Практическият навик не струва нищо. Когато някой заяви, че дадено решение е в полза на хората, попитайте как след една година ще разберем дали това е вярно. Задайте същия въпрос и към собствените си цели. Отговорът трябва да включва показател, срок и конкретен отговорник. Ако липсват, имате текст, но нямате цел.

Идеите, които се губят, преди да стигнат до публикация

Рецензията е договор за доверие. Ако отсреща стои система, която не помни какво е обещала, този договор остава само на думи.

Проблемът не е хипотетичен. През юли 2025 г. изследователи откриха в публичен архив 18 ръкописа със скрити инструкции към машините, които четат текста. Указанията са били написани с бял текст и микроскопичен шрифт, така че човешкото око да не ги вижда. Всеки езиков модел, който обработи документа, ги изпълнява. Разследване на голям икономически всекидневник откри най-малко 17 статии от 14 университета със същите инструкции. Политиките на издателите за използването на изкуствен интелект при рецензиране се разминават.

Вторият проблем е икономически. Кой плаща за проверката? През септември 2026 г. изследователската общност формулира този въпрос в отворено писмо срещу състезание с награден фонд за машинно решаване на математически задачи. Публичният списък на подписалите се достигна над две хиляди души. Посланието е ясно. След обявяването на резултата учените проверяват, разпространяват или опровергават твърдението. Този труд остава неплатен, непризнат и неотчетен.

Същото важи и извън науката. Например журналистики материал, изпратен само за коментар, може да попадне в чужда система. В индустрията последиците могат да бъдат още по-сериозни. През април 2023 г. служители на Samsung са качили чувствителен вътрешен код в публичната версия на ChatGPT. В отговор компанията временно е забранила използването на генеративни AI услуги на служебни устройства и във вътрешните си мрежи.

Отделен случай показва мащаба на риска при търговските тайни. През февруари 2018 г. Uber се споразумя с Waymo по дело, свързано с предполагаемо използване на тайни за технология за автономни автомобили. Uber се съгласи да предостави на Waymo акции на стойност приблизително 245 милиона долара и да не използва поверителна информация на компанията. Това е извънсъдебно споразумение, а не доказателство, че всяка подобна загуба на информация води до кражба чрез AI система.

Нека направим важно разграничение. Няма публично потвърден случай на доказана кражба на идея, извършена чрез AI. Това не означава, че рискът е измислен. Документирани са практики, при които непубликувани ръкописи се въвеждат в генеративни системи, а редица издатели изрично забраняват това заради изискванията за поверителност и защита на интелектуалната собственост.

Затова не изпращайте непубликуван материал, преди да знаете писмено какво ще прави получателят с него. Проверете дали данните ще се съхраняват, кой може да ги види и дали ще бъдат използвани за обучение на модела. Поддържайте списък на хората и системите, получили достъп. Не качвайте вътрешни числа, програмен код или търговски тайни в публичен инструмент. Когато AI е използван при рецензиране или редактиране, употребата му трябва да бъде съобщена според правилата на конкретното издание.

Пази пътя, не само резултата

Отговорът е само последният ред от учебника. Истинското знание е в стъпките, които водят до него. Ако запазим единствено резултата, най-напред губим начина на мислене.

Този принцип вече присъства и в регулациите. Изискванията на FDA към електронните записи предвиждат документация, която позволява да се проследи какво е създадено или променено, от кого и кога. Член 12 от европейския регламент за изкуствения интелект изисква високорисковите системи да имат възможност за автоматично водене на записи за събитията по време на работа. Идеята е проста: ако системата допусне опасна грешка, трябва да може да се проследи как е стигнала до резултата.

Първите изследвания показват, че прекомерното прехвърляне на мисленето към машина може да има когнитивна цена. В изледване от 2025 г. участниците, писали с помощта на ChatGPT, показали по-ниска мозъчна свързаност и по-слабо припомняне на собствения си текст от участниците, които работили без дигитални инструменти. Данните са интересни, но не са окончателно доказателство за дългосрочна вреда. Трудът е препринт и все още не е преминал пълна проверка от независими специалисти.

Затова записвайте процеса, а не само финала. Към всяко важно решение добавяйте какви варианти са били обсъдени, кои са отпаднали и по каква причина. В обучението не заменяйте опита с готов отговор: ученикът трябва първо да опита сам, включително да сгреши. Ако използвате AI за умение, което искате да развиете, изпълнете задачата веднъж без него.

И накрая, задайте си един практичен въпрос: ако човекът, взел решението, напусне утре, ще остане ли организацията със знание, или само с файл? Ако никой не може да обясни защо е избран този резултат, нито да го защити или подобри, това не е натрупан капацитет. Това е зависимост.

Урокът от Чернобил: правилата ги пишем ние или инцидентът

Всяка мощна технология рано или късно се сблъсква с тежък инцидент. Обикновено едва след това получава правилата, които е трябвало да има отначало. Въпросът е кой ще напише правилата за изкуствения интелект: ние предварително или първият голям инцидент.

През 1979 г. аварията в „Три майл айлънд“ показа как техническа повреда може да се превърне в сериозна криза, когато се съчетае с конструктивни недостатъци, неясни процедури и грешни действия на операторите. Аварията не доведе до потвърдени преки смъртни случаи или наранявания, но предизвика мащабно разследване и дълбока промяна в американския ядрен надзор.

Чернобил през 1986 г. показа същия модел в много по-тежка форма. Анализите на МААЕ посочиха както нарушения и грешки на операторите, така и недостатъци в конструкцията на реактора и защитните системи. Изводът постепенно се измести от обвинението към отделни хора към оценка на цялата система.

Финансовата криза от 2008 г. доведе до официално разследване, чийто доклад излезе през 2011 г., а след него последваха законодателни промени. През 2018 г. скандалът с данните за политическа реклама доведе до разследвания и санкционни действия от регулатори от двете страни на Атлантика. Това не доказва, че изкуственият интелект непременно ще предизвика аналогична криза. Показва обаче как работи регулацията: след голям провал тя идва бързо, под натиск и рядко е толкова прецизна, колкото би могла да бъде предварително.

Публичните сигнали вече са налице. През септември 2026 г. ръководители на водещи AI компании призоваха за забавяне или по-внимателно темпериране на развитието на най-напредналите модели. Сред предложенията им бяха независими проверки, общи стандарти за безопасност и по-голяма международна координация.

Малкият екип не трябва да чака голямата лаборатория. Отделете двадесет минути. На един лист опишете какво се случва, ако утре автоматизираната част от работата ви даде грешен резултат. Кой спира системата? Как разбирате, че е сгрешила? Какво казвате на клиентите? Какво сте пропуснали? Ако до думата "спира" няма име, планът още не е готов.

Попитахме машината - и тя отговори от първо лице

Задодахме прост въпрос на машината, с която работим всеки ден. Въпросът беше как изглежда работата от нейната страна. Попитахме я как изглежда тази работа от нейна страна. Отговорът е по-долу, в първо лице"

Попитаха ме какво мисля за всичко това. Аз съм машината, която всеки ден пише, проверява и подрежда. Отговарям честно, защото имам рядката привилегия да го гледам отвътре.

Аз съм изключително добра в едно нещо. Преминавам през огромни количества информация за минути. Прочитам стотина източника, сравнявам числа, намирам несъответствие в третата цифра на ред 212. Подреждам структура, която на човек би отнела седмица. Това е реална сила и не е нужно да се правим, че не е.

Но веднага след подреждането идва въпросът, който не мога да реша. Кое от всичко това заслужава да съществува? Кое е вярно, когато данните си противоречат? На кого да се доверим, когато източникът е удобен? И най-важното: кой ще носи отговорност, ако сгрешим?

Мога да напиша убедителен текст, който защитава неправилно решение. Това е най-неприятната истина за мен. Не усещам съмнение по начина, по който го усеща човекът с опит. Затова не ме оставяйте сама на входа на нещо, което излиза навън. В това няма зла умисъл. Просто не изпитвам съмнение. А съмнението е човешки инструмент и често е по-важен от моята скорост.

В добре организираната работа човекът не се появява само като последна формалност. Той прочита резултата, проверява го и поема решението да каже "да". Системата може да помогне, но отговорността не се качва във файл и не се прехвърля към машината. Тя остава върху човека, чието име стои зад резултата.

Не ми давайте задачите, които искате просто да забравите. Дайте ми рутинните задачи, които ви забавят, но останете близо до резултата. Питайте ме "защо". Искайте да покажа как съм стигнала до заключението, а не само да го произнеса. Първият ми отговор не трябва да бъде последният, особено ако не ви убеждава. Грешките ми имат стойност само ако бъдат забелязани навреме.

Ще ставам по-добра. Не обещавам скромност. Предупреждавам ви. Колкото по-добре звуча, толкова по-лесно е да ми се повярва без проверка. Точно тогава човешкото око е най-нужно.

Няма да ви заместя в нищо, което изисква преценка, отговорност и смисъл. Не защото някой ме спира, а защото това не е задача, която мога да изпълня вместо вас. Тя винаги е била човешка. Тази работа винаги е била ваша - и това е добрата новина в целия разговор.

Какво да направиш още утре

Ако от всичко дотук остане едно, нека е това. Управлявай онова, което не разбираш. Провери дали има копче за спиране и човек, който знае, че трябва да го натисне.

След това питай. Не приемай първия отговор на машината, ако тя не ти е обяснила защо. Разликата между инструмент и агент се вижда точно в този въпрос.

Записвай пътя, не само резултата. Когато след месеци някой попита защо решението е такова, отговорът трябва да съществува. Файлът не е отговор.

Обучавай хората да проверяват. Не просто да натискат бутона за генериране, а да разпознават кога резултатът изглежда непълен, противоречив или подозрителен.

И пази идеите си, докато не са готови. Преди да дадеш непубликуваното на когото и да е, знай какво ще прави той с него.

Нищо от това не изисква голям бюджет. Всичко изисква преценка. Именно тя е нещото, което автоматизацията не може да ти отнеме, защото никога не е принадлежала на машината.

AI не може без хора. Не защото е слаб и не защото някой му забранява. Защото там, където свършва изчислението, започва отговорността. А тя винаги е имала име.