Radio Galaksija #188: Veštačka inteligencija i kauzalno objašnjenje (dr Marko Tešić) [10-10-2023]

Gost u ovoj epizodi Radio Galaksije je dr Marko Tešić, iz Leverhulme Centra za budućnost inteligencije Univerziteta Kembridž u Velikoj Britaniji (Leverhulme Centre for the Future of Intelligence, University of Cambridge).  

Pričali smo o uzročnosti, o protivčinjeničnim objašnjenjima, o kauzalnim objašnjenjima, a sve to kada je u pitanju oblast interpretabilne veštačke inteligencije (na engleskom: interpretable AI, explainable AI, XAI). Podsetili smo se šta je to veštačka inteligencija, a čućete i šta je XAI, a posebno smo pričali o tome na koji način se Marko kao filozof i kognitivni psiholog bavi time.

Kako protivčinjenička objašnjenja sistema AI utiču na naša uzročna posledična verovanja? Šta je korelacija i šta uzročnost? Kako se u AI sistemima pronalaze korelacije u podacima i na koji način objašnjenja AI sistema pokušavaju da te korelacije učine očiglednijim? Kako ljudi na osnovu takvih objašnjenja i predikcija kauzalno utiču na svet, a povratnom spregom i na sama objašnjenja u XAI sistemima?

Tu je i priča i o tehničkim temama vezanim za AI/ML, poput toga kako se sve računaju objašnjenja u XAI sistemima, kakve sve tzv. explainability tehnike postoje, šta je LIME, šta je SHAP, i slično, ali s obzirom da se Marko bavi pre svega kognitivnom psihologijom i filozofijom koja stoji iza XAI sistema i njihovog korišćenja, ova tema pokriva višestruke poglede na veštačku inteligenciju.