Wyjaśnienia w pojazdach autonomicznych

Integracja pojazdów autonomicznych oferuje znaczne korzyści dla mobilności miejskiej, takich jak poprawa bezpieczeństwa, redukcja zatłoczenia oraz zwiększenie dostępności transportu. Dzięki tym technologiom pasażerowie mogą skupić się na aktywnościach niezwiązanych z prowadzeniem pojazdu, jak relaks, praca czy oglądanie multimediów w drodze.

Wyzwania w zakresie zaufania

Jednak powszechne wdrożenie takich pojazdów napotyka na przeszkodę w postaci ograniczonego zaufania użytkowników. Aby zbudować zaufanie, ważne jest dostarczanie wyjaśnień dotyczących decyzji pojazdu, które zwiększają kontrolę pasażerów i minimalizują negatywne doświadczenia. Wyjaśnienia te muszą być informacyjne, zrozumiałe i zwięzłe, by skutecznie służyć użytkownikom.

Potrzeba nowego podejścia w XAI

Obecne podejścia w zakresie wyjaśnialnej sztucznej inteligencji (XAI) są głównie skierowane do deweloperów i koncentrują się na scenariuszach wysokiego ryzyka lub dostarczają obszernych wyjaśnień, które mogą nie być odpowiednie dla pasażerów. Aby zapełnić tę lukę, potrzebne są modele XAI skoncentrowane na pasażerach, które uwzględniają rodzaj i czas informacji potrzebnych w rzeczywistych scenariuszach jazdy.

Badania nad potrzebami pasażerów

Zajmując się tym problemem, zespół badawczy pod kierownictwem prof. SeungJuna Kima z Instytutu Nauki i Technologii w Gwangju (GIST) przeprowadził badania nad potrzebami wyjaśnień dla pasażerów pojazdów autonomicznych w warunkach drogowych. W ramach badań powstał multimodalny zestaw danych TimelyTale, zawierający dane z czujników specyficzne dla pasażerów.

Przesunięcie uwagi XAI na pasażerów

Praca zespołu stanowi istotny krok w przeniesieniu nacisku w XAI z deweloperów na pasażerów, tworząc podejście umożliwiające zbieranie rzeczywistych potrzeb pasażerów dotyczących wyjaśnień w pojeździe oraz metody generowania terminowych, adekwatnych do sytuacji wyjaśnień.

Publikacje i wyróżnienia

Wyniki badań zostały opublikowane w Proceedings of the ACM na temat technologii interaktywnych i ubieralnych. Badania te, wyróżnione nagrodą „Distinguished Paper Award” na konferencji UbiComp 2024, wskazują na potrzebę rozwoju XAI skierowanej na pasażerów.

Wpływ wizualnych wyjaśnień

Badania obejmowały analizę wpływu różnych rodzajów wizualnych wyjaśnień, takich jak percepcja i uwaga, oraz ich kombinacje, a także wpływ czasu dostarczania tych wyjaśnień na doświadczenia pasażerów w rzeczywistych warunkach jazdy z wykorzystaniem rozszerzonej rzeczywistości.

TimelyTale i koncepcja przerywalności

Na podstawie wyników badań zespół opracował zestaw danych TimelyTale, zawierający dane z czujników opisujących środowisko zewnętrzne, pozycję i ruch ciała pasażera oraz jego wewnętrzne odczucia. Dane te pomagają przewidzieć zapotrzebowanie na wyjaśnienia w różnych sytuacjach drogowych.

Przewidywanie czasu na dostarczenie wyjaśnień

Zastosowana metodologia obejmowała także koncepcję przerywalności, która pozwala na odpowiednie dostosowanie momentu dostarczania wyjaśnień, gdy pasażerowie przerywają swoje aktywności niezwiązane z jazdą, aby skupić się na informacjach związanych z prowadzeniem pojazdu.

Model predykcyjny i generowanie wyjaśnień

Na podstawie tych badań opracowano model uczenia maszynowego, który przewiduje optymalny czas na dostarczenie wyjaśnienia. W ramach badań powstał również model generujący wyjaśnienia tekstowe zależne od lokalizacji pojazdu w mieście.

Wpływ na przyszłość mobilności

Badania te mają potencjał przyczynić się do akceptacji i powszechnego stosowania pojazdów autonomicznych, co może wpłynąć na przyszłość miejskiej mobilności i transportu osobistego.