Jak sztuczna inteligencja podejmuje decyzje? Naukowcy wreszcie znaleźli sposób, by to prześwietlić!
Sztuczna inteligencja coraz częściej wpływa na decyzje podejmowane w medycynie, bankowości, systemach bezpieczeństwa czy analizie danych. Problem polega jednak na tym, że nowoczesne modele AI często działają jak „czarne skrzynki” – potrafią podać wynik, ale trudno zrozumieć, dlaczego podjęły właśnie taką decyzję.
Naukowcy z Uniwersytetu Jagiellońskiego, współpracując ze specjalistami z Max Planck Institute for Informatics, opracowali innowacyjną metodę o nazwie DAVE, która pozwala znacznie lepiej zrozumieć sposób działania nowoczesnych systemów sztucznej inteligencji.
Badania koncentrowały się na tzw. Vision Transformerach – zaawansowanych modelach AI wykorzystywanych do rozpoznawania obrazów. To właśnie one stoją dziś za wieloma systemami analizującymi zdjęcia medyczne, rozpoznającymi twarze czy łączącymi obraz z tekstem. Choć modele te osiągają bardzo wysoką skuteczność, ich decyzje bywają trudne do wyjaśnienia, co ogranicza zaufanie do sztucznej inteligencji w sytuacjach wymagających dużej odpowiedzialności.
Nowa metoda DAVE pozwala dokładniej prześledzić, które elementy obrazu miały rzeczywisty wpływ na decyzję modelu. System oddziela istotne informacje od przypadkowych zakłóceń wynikających z samej konstrukcji sieci neuronowej. Dzięki temu naukowcy mogą tworzyć precyzyjne mapy pokazujące, na co dokładnie zwraca uwagę sztuczna inteligencja podczas analizy obrazu.
Praktyczne znaczenie tego odkrycia może być bardzo duże
W medycynie podobne rozwiązania mogą pomóc lekarzom lepiej oceniać, dlaczego system AI wskazał określoną zmianę na zdjęciu rentgenowskim lub tomografii. W systemach bezpieczeństwa łatwiej będzie sprawdzić, czy algorytm rzeczywiście analizuje twarz człowieka, czy kieruje się przypadkowymi szczegółami obrazu. Z kolei w sektorze finansowym i administracji większa przejrzystość działania AI może zwiększyć bezpieczeństwo i ograniczyć ryzyko błędnych decyzji. Ważną zaletą opracowanej metody jest także jej stabilność. Nawet jeśli obraz zostanie lekko przesunięty lub obrócony, system nadal wskazuje te same istotne obszary, co zwiększa wiarygodność analiz wykonywanych przez sztuczną inteligencję.
O znaczeniu badań świadczy również uznanie międzynarodowego środowiska naukowego. Praca została wyróżniona podczas konferencji International Conference on Machine Learning – jednego z najważniejszych wydarzeń poświęconych sztucznej inteligencji na świecie. Spośród niemal 24 tysięcy zgłoszeń jedynie niewielka część otrzymała status szczególnie wyróżniających się badań.
Rozwój metod wyjaśniających działanie sztucznej inteligencji staje się dziś jednym z kluczowych wyzwań technologicznych. Im lepiej rozumiemy sposób podejmowania decyzji przez AI, tym bezpieczniej można wykorzystywać ją w codziennym życiu, medycynie, nauce i wielu innych dziedzinach wymagających zaufania do nowych technologii.
Źródło: Uniwersytet Jagielloński w Krakowie
Czytaj też: Szum w kawiarni już nie przeszkodzi AI. OpenAI wypuszcza narzędzie, które idealnie odczytuje mowę
Grafika tytułowa: Igor Omilaev / Unsplash
