ШІ не зможе замінити людину в професіях, де конче потрібні емпатія, креативність і власний досвід. Таку заспокійливу думку вкотре довелося почути під час обговорення доповіді професора кафедри теоретичної кібернетики Київського національного університету імені Тараса Шевченка члена-кореспондента НАН України доктора фізико-математичних наук Юрія Крака «Людиноцентрований штучний інтелект та його застосування» на засіданні Президії НАН України.

Зручний і небезпечний
Застосування методів і технологій Штучного інтелекту створює фантастичні можливості: ШІ перебирає на себе виконання рутинних, марудних, повторюваних операцій, що дає змогу швидше обробляти великі обсяги інформації та оптимізовувати роботу підприємств чи функціонування міст. Водночас, як відзначила у постанові Президія Національної академії наук України, «машинний сервіс» створює небачені досі ризики.
Внаслідок розвитку новітніх нейромережевих архітектур глибокого машинного навчання постала фундаментальна проблема: висока точність прогнозування супроводжується слабким розумінням ШІ-результатів. Йдеться про так звану проблему «чорної скриньки» (black box), коли неможливо простежити причинно-наслідковий зв’язок між вхідними даними та фінальним рішенням. Машина видає точний результат, але людина не може збагнути, яким чином він отриманий, не здатна осягнути логіку. «Це створює критичні ризики під час використання ШІ в медицині, оборонному секторі, у соціальній сфері та в управлінні складною інфраструктурою, де помилкові рішення мають високу ціну», — йдеться у постанові Президії.
Чи помиляється всесильний штучний розум? Звісно, помиляється! Існує феномен галюцинацій, коли в результатах роботи ШІ міститься неточна чи хибна інформація, оманливо представлена як достовірна. Спотворене сприйняття довколишнього світу трапляється не тільки серед людей! Великі мовні моделі можуть генерувати відверту брехню і подавати її неймовірно переконливо.
Довіра плюс контроль
Сьогодні сценарії «повстання машин» чи використання ШІ на шкоду людству вже не здаються чимось зі сфери наукової фантастики (особливо під час сучасної війни). Тому учені зі всього світу активно працюють над створенням відповідних систем контролю та технічних запобіжників. Цьому сприятимуть і напрацювання наукової групи Київського національного університету імені Тараса Шевченка та Інституту кібернетики імені В.М. Глушкова НАН України, очолюваної Юрієм Краком.
Йдеться про концепцію людиноцентрованого ШІ, яка базується на тріаді «Людина – Технологія – Контекст» – і спрямована на розв’язання проблеми математичної узгодженості формальних нейромережевих структур із когнітивно-адекватними ментальними моделями людини.
Як розповів Юрій Крак, в основу таких досліджень закладено перехід від концепції штучного інтелекту (ШІ) як «чорної скриньки» до людино-центрованого підходу (HCAI) та пояснюваного ШІ (XAI).
«Які ж ключові характеристики людиноцентрованого штучного інтелекту? Це підхід до розробки та впровадження систем ШІ, де головним пріоритетом є людина, її потреби, цінності та безпека. На відміну від традиційного штучного інтелекту, який прагне повної автоматизації та заміни людини, людиноцентрований фокусується на підсиленні людських здібностей, забезпеченні контролю та довіри. Тут критичне рішення завжди залишається за людиною!», — наголосив науковець.
Ці підходи базуються на принципах прозорості та пояснюваності: людина має розуміти, як саме штучний інтелект дійшов до певного висновку, чому дав саме таку рекомендацію. Важливо також дотримуватися при цьому принципів етики, справедливості та конфіденційності.
«Теоретичне підгрунтя для людиноцентрованого штучного інтелекту наведено у монографії «Інтелектуальні інформаційні технології: людиноцентрований підхід, принципи етики та довіри» (автори – І. В. Сергієнко, Ю. В. Крак, О. В. Бармак, Е. А. Манзюк та А. І. Куляс. – Авт.), яка вийшла в «Науковій думці» 2023 року, де центральним результатом є обговорення довіри до інтелектуальних інформаційних технологій, побудованої на міжнародних стандартах, – нагадав Юрій Крак. – Це дозволяє перейти від суб’єктивного прийняття поняття «довіра» до математично та логічно виміряного параметра системи».
Довіру розуміють як здатність системи мінімізувати ризики «чорної скриньки», а етику – як систему обмежень, які гарантують прозорість та право людини бути присутньою в контурі ухвалення рішень. Власне, саме за нею залишається останнє слово! Архітектура людиноцентрованих інтелектуальних інформаційних технологій має бути відкритою для аудиту, а крім того, система завжди має надавати логічний доказ свого висновку.
Використання таких стандартів дозволяє створювати не просто розумні алгоритми, а соціально відповідальні технології, які мають юридичне та логічне обгрунтування, що є критично важливим для їх застосування у державному та безпековому секторах.
Задля синхронізації ШІ з людськими можливостями та намагання зробити його більш зрозумілим, використовують певні інструменти. «Стратегія цього наукового напряму є комплексним методологічним ланцюжком, який дає змогу трансформувати непрозорі алгоритми глибокого навчання у зрозумілі людині системи»,— пояснює Юрій Крак. Вона складаєтся з трьох ключових етапів: математичного наближення, структурної декомпозиції та архітектурної дистиляції.
Мета цих трансформацій – зробити ШІ зрозумілішим і підконтрольним. Задля цього треба забезпечити переклад абстрактних чисел нейромережі на зрозумілу людині мову, зі знайомими поняттями та образами. Наприклад, якщо штучний розум аналізує кардіограму, він мусить «підсвітити» важливі фрагменти зображення та пояснити «побачене» лікарю з використанням медичних термінів. Якщо машина «радить» поставити діагноз «аритмія», вона має «викласти аргументи».
Наприклад, повідомити про «відсутність рубця P та нерегулярність інтервалів R-R» на певних ділянках кардіограми.
Для обмеження «польоту думки» штучного інтелекту поєднують випробуваний в програмуванні Rule-based-підхід із машинним навчанням. Йдеться про застосування жорстких логічних правил за схемою «якщо — тоді».
Та найважливішим інструментом «убезпечення» від ШІ-помилок є участь «живих» експертів в ухваленні рішень та сприйняття ШІ лише як асистента. Йдеться про таке людинно-машинне партнерство, де на важливих етапах забезпечено людський контроль, створено алгоритм аудиту системи й формування довіри до неї.

Від розумних світлофорів – до точних діагнозів
У дослідженні людиноцентрованого ШІ наукова группа Юрія Крака отримала низку важливих фундаментальних і прикладних результатів. Зокрема, запропонувала й формалізувала концепцію «інтерфейсу наближення» задля перетворення прихованих нелінійних залежностей «чорної скриньки» у прозорі логічні правила та експертні судження, що мають математичне обгрунтування. Крім того, напрацювала нові підходи до структурної декомпозиції та екстракції знань, що забезпечують простежуваність ухвалення рішення на кожному етапі роботи алгоритму.
Група має прикладні результати застосування нових підходів у різних сферах, від медичної до безпекової. Зокрема, запропонувала новий підхід до візуальної навігації БпЛА та створення «пояснювального комп’ютерного зору», розробила методи логічної екстракції в аналізі текстових даних (LLM), що дають змогу виявляти техніки політичної пропаганди та кібербулінгу через семантичні фрейми.
Дослідники наочно показали, як штучний інтелект допомагає поліпшити екологію міст – через встановлення «розумних світлофорів» у Хмельницькому в межах концепції Smart City. Науковці застосували пояснювальне навчання з підкріпленням для екологічного управління автомобільним трафіком міста й довели можливість зменшення викидів CO2 та скорочення заторів на дорогах. В цьому разі агент ШІ пояснював небхідність перемикання світлофора через врахування рельєфу місцевості та екологічних пріоритетів. Шкода, що «розумні світлофори» працювали в Хмельницькому недовго і виключно в межах експерименту.
Не менш важливо залучати ШІ до порятунку людського життя! Група розробила технологію аналізу кардіо-МРТ та електрокардіограм, що забезпечує високу клінічну валідність правильних результатів. Від простої класифікації патологій ШІ перейшов до доведення діагнозу та формування відповідних пояснень для лікаря. Це створює юридичне та логічне підгрунтя для використання ШІ як інструменту підтвердження висновку, де відповідальність лікаря підкріплюється прозорим аналітичним звітом системи. При цьому зовсім замінити медика машина не зможе, адже в неї відсутній людський досвід та емпатія, без яких складно уявити лікаря, якому довіряють пацієнти.
Юрій Крак звернув увагу на те, що подальші дослідження в цій галузі в Україні гальмує відсутність датасетів електрокардіограм, необхідних для машинного навчання. Нині чужу ЕКГ навіть з науковою метою не можна використовувати без дозволу її власника! Щоб справа зрушила з місця, доведеться ініціювати внесення законодавчих змін.
Тим часом розумні машини вчаться значно швидше за людей і вже давно перевершують їх за швидкістю мислення. Важливо примусити цих бездушних розумах хоча б інколи робити паузи й пояснювати логіку своїх «думок». Задля нашої ж безпеки.
Анна ЛУКАНСЬКА
