Един медицински алгоритъм е вземал решения за грижата на около 200 милиона пациенти годишно и е грешал системно, до момента когато хора, които са знаели какво да питат, са го хванали. Днес същият проблем се пренася и в самата научна литература.
През 2019 г. изследователи проверяват алгоритъм, който влияе върху решенията за здравна грижа на около 200 милиона души годишно в САЩ и откриват, че системата подценява систематично нуждите на чернокожите пациенти. Логиката на грешката е коварна: понеже чернокожите пациенти исторически харчат по-малко за здравеопазване заради бариери в достъпа, алгоритъмът заключва, че те са по-здрави от еднакво болни бели пациенти. Корекцията на това пристрастие би увеличила записването на чернокожи пациенти в програми за засилена грижа от 17,7% на 46,5%. Откритието е на Зиад Обермайер и колегите му, публикувано в списание Science.
Този случай е добра отправна точка, защото показва нещо, което рекламите за изкуствен интелект рядко признават: инструментът върши работа и въпреки това може да греши по начин, който вреди на цели общности. Способността да разпознаваш кога се случва това вече е базово умение, особено за хора, които работят с наука и факти. И проблемът не остава само в клиничните алгоритми. Той навлиза и в самите научни статии, които тези хора четат и цитират.
Какво всъщност прави генеративният модел
Полезно е преди всичко да започнем с това какво представлява инструментът в ръцете ти. Генеративният изкуствен интелект създава ново съдържание (текст, изображения, код) въз основа на модели, научени от тренировъчни данни. Големият езиков модел (large language model, LLM) се обучава върху огромни обеми текст, за да разбира и произвежда човешки език.
Ако трябва да се формулира в едно изречение най-ключовото: тези системи са проектирани да предсказват кое е най-вероятно правилно. А вероятното не винаги е вярно. Затова изходът понякога е неточен, подвеждащ или непълен, дори когато звучи уверено. Оттук идва и понятието „халюцинация“- явление, при което моделът произвежда информация, която е фактически грешна, безсмислена или откъсната от реалността. Не е бъг в обичайния смисъл на думата. Това е страничен ефект от самата конструкция на инструмента.
За да разбереш защо се случва това, е нужно да видиш какво прави моделът във всеки отделен момент. Преди да отговори, той разбива всеки текст на малки късчета, наречени токени: части от думи, цели думи или дори отделни знаци, в зависимост от езика и контекста. Словосъчетанието „изкуствен интелект“ например може да се раздели на три-четири токена, не на две цели думи. Моделът никога не пише цяло изречение наведнъж. Той предвижда следващия токен, добавя го към текста, после отново предвижда следващия, и повтаря това хиляди пъти за един отговор.
Всяко такова предвиждане е статистическа задача, не акт на разбиране в човешкия смисъл. Моделът е видял по време на обучението си милиарди примери по какъв начин думи и изрази се появяват едни след други, и от това извлича вероятности след даден токен кой следващ е най-логично да дойде. Когато данните са богати и последователни по дадена тема, предвижданията са надеждни. Когато темата е рядка, противоречива или извън обхвата на тренировъчните данни, моделът продължава да предвижда по същия начин, само че вероятностите стават по-слаби. Резултатът звучи също толкова гладко и уверено, колкото и вярно изречение, защото механизмът на писане е идентичен и в двата случая. Именно тази разлика между гладкост на изказа и точност на съдържанието е коренът на халюцинациите.
Кой стои зад инструмента и защо не е неутрален
Зад всеки модел стои някой, който е избрал данните и е настроил поведението му. Този избор влага в инструмента приоритети, които не са неутрални. Затова първият критичен въпрос е прост: кой е разработчикът и какъв е бизнес интересът му. Когато един инструмент е безплатен, обикновено има причина за това. Изследване на Сингх и колеги в Cureus (2026) върху изкуствения интелект в здравеопазването напомня, че в областта тези системи разчитат на огромни обеми лични данни, и точно това усилва тревогите за поверителност и съгласие.
Тук е мястото и на понятието „затворена градина“ – екосистема, в която доставчикът контролира изцяло приложенията, съдържанието и достъпа до данните. Когато въвеждаш нещо в такава среда, преставаш да бъдеш само потребител, а ставаш и източник на данни.
Тези приоритети влизат в модела на няколко нива, много преди потребителят да зададе първия си въпрос. Компанията разработчик решава кои текстове влизат в тренировъчния масив и кои се изключват, кои теми получават допълнително внимание при финото настройване, и къде точно се поставят предпазните ограничения на системата. Всяко от тези решения отразява преценка какво е важно, безопасно или подходящо, а тази преценка неизбежно носи възгледите и интересите на хората и институцията зад нея. Различни компании стигат до различни отговори на едни и същи въпроси, и точно затова един и същ въпрос, зададен на два различни модела, може да получи забележимо различни отговори.
Търговският модел на компанията също оставя следа в поведението на инструмента. Модел, поддържан от абонаменти, има стимул да задържи потребителя доволен и да отговаря точно. Модел, поддържан от реклами или от продажба на данни за трети страни, има допълнителен стимул да задържи вниманието на потребителя възможно най-дълго или да събира информация за него, независимо дали това е обявено ясно. Нито един от двата модела не е автоматично „лош“, но за потребителя е полезно да знае кой точно печели от неговото време и от неговите данни.
Как пристрастието прониква в научните и здравните данни
Случаят с медицинския алгоритъм не е изключение, изкуственият интелект се учи от исторически данни и затова наследява, а често и усилва съществуващите социални и здравни неравенства. Има и други примери. Модели, обучени върху индийски набор от данни за чернодробни заболявания, показват полова пристрастност: по-висок процент пропуснати диагнози при жени, което означава реален риск от неточно поставени диагнози. При друг случай, скрининг за белодробна болест в Пуне, Индия, моделът работи по-точно за жени, отколкото за мъже, заради разлики в разпространението на тютюнопушенето между двете групи.
Подобен модел се повтаря и в дерматологията, само че на друг континент и с друг вид данни. Изследване, тестващо ChatGPT-4o върху разпознаване на кожни лезии, установява значително по-ниска чувствителност, специфичност и точност при откриване на меланом при по-тъмни тонове на кожата (по скалата на Фицпатрик) в сравнение със светли тонове. Причината не е самият модел, а снимковите набори, върху които подобни системи се обучават: те исторически съдържат много повече примери от светла кожа, защото такива изображения преобладават в наличните медицински архиви и учебници по дерматология. Отделен систематичен преглед в Science Advances потвърждава модела: специализиран набор от разнообразни, потвърдени с биопсия изображения показва, че водещите дерматологични модели се справят значително по-слабо именно с тъмна кожа и с по-редки заболявания, докато допълнителното обучение върху по-разнообразни данни затваря голяма част от тази разлика.
Във всеки от тези случаи системата не е „счупена“. Тя точно отразява пристрастие, което вече е било вградено в данните. Това е разликата, която грамотният учен или читател трябва да усети: моделът може да възпроизведе несправедливост и да я представи като обективно изчисление.
Халюцинациите стигнаха и до самите научни списания
Проблемът вече не се ограничава до отговорите, които виждаш в чата. През 2026 г. анализ на списание Nature показва, че десетки хиляди публикации от 2025 г. вероятно съдържат невалидни позовавания, създадени от изкуствен интелект. Историята тръгва от неочакван сигнал: изследовател получава известие, че негова публикация е цитирана в статия по дентална медицина, тема, с която не се занимава изобщо. Проверката показва, че цитатът просто не съществува в реалния смисъл на думата.
Отделен мащабен одит, обхванал около 111 милиона цитата от над 2,5 милиона статии в хранилища като arXiv, bioRxiv, SSRN и PubMed Central, оценява, че само през 2025 г. в научната литература са влезли над 146 000 измислени позовавания. Проучване, публикувано в The Lancet от изследователи от Колумбийския университет, стига до сходна тревожна тенденция по отношение на скоростта на разпространение: делът на статиите с поне едно фалшиво позоваване нараства от едно на 2828 статии през 2023 г. до едно на 458 през 2025 г., а през първите седем седмици на 2026 г. вече е едно на 277.
Най-неприятното откритие не е броят, а разпределението. Фалшивите позовавания рядко се струпват в няколко очевидно слаби статии. Вместо това повечето засегнати текстове съдържат само по едно-две измислени позовавания сред десетки истински. Точно затова са толкова трудни за откриване: рецензентите рядко проверяват всеки ред от библиографията, особено при обемни статии. Дори водещи научни форуми не са застраховани. Анализ на компанията GPTZero върху приетите статии на конференцията NeurIPS 2025, едно от най-престижните места за публикуване в областта на изкуствения интелект, открива над 100 потвърдени халюцинирани цитата в 53 статии, въпреки строгата рецензия с по няколко независими рецензенти на текст.
За читател, а и за автор, това означава едно на практика: линкът или позоваването под даден факт вече не е автоматична гаранция, че фактът съществува. Проверката с реална база данни, като PubMed, Google Scholar или сайта на самото списание, е станала част от нормалната работа с всеки текст, минал през изкуствен интелект, включително собствения.
Защо „безплатно“ означава, че данните са продуктът
Удобният аргумент срещу тревогите за поверителност е: „моите данни и без това са анонимни“. Доказателствата, обаче, опровергават това твърдение.
Проучване от 2018 г. показва, че алгоритъм може правилно да преидентифицира около 85% от възрастните в здравно изследване, като свърже привидно анонимните данни с други масиви. Тоест самата анонимизация често не е достатъчна защита. Затова и регулаторите вече предупреждават, че при споделяне на данни за изкуствен интелект може да са нужни по-силни техники за защита.
Има и конкретни поучителни случаи. Google DeepMind получава 1,6 милиона пациентски записа от британската Национална здравна служба (NHS), без пациентите да бъдат информирани за това. През 2019 г. избухва и скандал около проект, при който над 50 милиона записа са прехвърлени за разработка на изкуствен интелект, отново без знанието на хората. И двата случая са формално обосновани, но и двата показват пропаст между това, което законът позволява, и това, което хората очакват.
Практическото правило, което препоръчва рамката на Юта, се побира в едно изречение: не въвеждай поверителна или лична информация в неоторизирани инструменти за изкуствен интелект.
Шестте въпроса преди да приемеш отговора
Критичната грамотност не е недоверие към всичко, тя е навик да задаваш няколко въпроса, преди да приемеш резултата за чиста монета и да го използваш. Ето един кратък полезен списък от няколко бързи въпроса, които винаги е добре да си зададеш преди да се довериш на информация от ИИ по важен въпрос:
- Кой е създал модела и с какъв интерес? Производителят не е неутрален.
- Върху какви данни е обучен? Пристрастието често идва оттам.
- Дава ли източници и провери ли ги в реална база данни? Най-добре е изрично да изискваш линкове в заявката и после да ги отваряш. С над 146 000 измислени позовавания само за 2025 г. тази проверка вече не е излишна предпазливост, а стандартна практика.
- Това факт ли е, или халюцинация? Не приемай резултата за истина само защото звучи уверено.
- Възпроизвежда ли пристрастие? Особено в данни за хора, групи, диагнози.
- Чий интерес обслужва този изход? Понякога отговорът насочва към продукт, не към теб.
Към това се добавя и структурен проблем: много модели, особено дълбоките невронни мрежи, са „черни кутии“. Трудно е дори за специалистите да обяснят как точно системата е стигнала до даден отговор. Затова прозрачността и проверката не са лукс, а част от отговорната употреба.
Инструмент или патерица
Последното разграничение е може би най-важно за дългосрочната работа с изкуствения интелект. Има разлика между това да ползваш инструмента и това да станеш зависим от него.
Изследване на Герлих (Gerlich, 2025), публикувано в списание Societies и обхванало 666 участници, открива статистически значима отрицателна връзка между честата употреба на изкуствен интелект и способностите за критично мислене. Механизмът, който авторката описва, се нарича „когнитивно делегиране“ (cognitive offloading): колкото повече прехвърляме мисловни задачи на инструмента, толкова по-рядко ги упражняваме сами. По-младите участници в изследването показват по-висока зависимост от инструментите и по-ниски резултати по критично мислене в сравнение с по-възрастните.
Принципът, който се повтаря в препоръките за отговорна употреба, се нарича „човек в цикъла“ (human in the loop): човекът насочва, коригира и валидира изхода, а ИИ допълва човешката преценка, вместо да я замества. Обратната страна е свръхзависимостта, при която важни нюанси и контекст се пропускат, защото никой не ги е проверил.
Самата грамотност се определя чрез три прости неща: да знаеш как да използваш инструмента, кога да го използваш и как точно работи той. Това не е техническо умение само за инженери, то е условие да останеш автор на собствената си работа.
Университетската библиотека на Корнел стартира през тази година програма точно с такава цел. Курсът е в три модула: как работи генеративният изкуствен интелект; етичните въпроси около него (пристрастие, трудови практики, въздействие върху околната среда, авторско право, лични данни); кога употребата подобрява ученето и кога му пречи. Формулировката на екипа е лаконична: целта е хората да се научат как да мислят за генеративния изкуствен интелект, а не какво да мислят за него. Курсът завършва с упражнение, в което всеки участник създава свой личен наръчник за употреба.
И така, връщайки се към алгоритъма от началото, виждаме че той е грешал незабелязано години наред, докато не се появяват хора, знаещи какви въпроси да зададат. Същото се случва сега и с научните позовавания, генерирани от ИИ: подредени, убедителни и невидими за окото, докато някой не реши да ги провери.
Изкуственият интелект ще става все по-добър и по-разпространен. Но въпросите, които задаваш преди да повярваш на резултата, остават твои.
Източници:
- Acosta, J. A. (2026). From resistance to readiness: faculty development as the key to AI literacy in public health. Frontiers in Public Health.
- Singh, S., Singh, P. K., Kumar, R., Vaidyar, R. (2026). Addressing Bias, Privacy, Security, and Patient Autonomy in AI-Driven Healthcare: A Review of Current Guidelines. Cureus.
- Obermeyer, Z. et al. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science.
- Utah State Board of Education (2026). Artificial Intelligence Framework for Utah P-12 Education.
- Cornell University Library (2026). Generative AI critical literacy pilot launched this spring.
- Naddaf, M., Quill, E. (2026). Hallucinated citations are polluting the scientific literature. What can be done? Nature, 652, 26-29.
- Изследователски екип от Колумбийския университет (2026). Проучване за нарастването на фалшивите позовавания в научната литература. The Lancet (данни, отразени от STAT News).
- Gerlich, M. (2025). AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking. Societies, 15(1), 6.
