AI obmedzí ľudské chyby v leteckej doprave
AI obmedzí ľudské chyby v leteckej doprave. Umelá inteligencia by v budúcnosti mohla dohliadať na pilotov lietadiel. Zastúpi ich, keď niečo prehliadnu alebo keď zlyhajú zdravotne.
Predstavte si, že ste v lietadle s dvoma pilotmi – jedným ľudským a jedným počítačovým. Obaja majú svoje „ruky“ na riadení, ale každý sleduje niečo iné. Ak obaja venujú pozornosť rovnakej veci, primárne bude lietadlo riadiť človek. Ak je však človek rozptýlený alebo niečo zabudne, prevezme riadenie počítač. Týmito slovami začala tlačová správa Massachusettského technologického inštitútu (MIT) o kopilotovi s umelou inteligenciou (AI).
Systém Air-Guardian
Reč je o systéme Air-Guardian vyvinutom vedcami z Laboratória počítačovej vedy a umelej inteligencie MIT. Dnešní piloti sa stretávajú s náporom informácií z mnohých displejov, najmä v kritických okamihoch, a Air-Guardian funguje ako proaktívny kopilot, prinášajúci partnerstvo medzi človekom a strojom, ktorého základom je porozumenie pozornosti.
Aby sme pochopili, ako celý systém funguje, musíme sa najskôr pozrieť na to, ako sa vlastne sleduje pozornosť. Zatiaľ čo u ľudí sa používa sledovanie očí, u neurálnych systémov sa spolieha na tzv. „saliency maps“, ktoré určujú, kam je pozornosť zameraná. Tieto mapy sa vo svete počítačového videnia používajú na zdôraznenie oblastí, na ktoré sa ľudia zameriavajú ako prví. Ich cieľom je odraziť stupeň dôležitosti jednotlivých bodov pre ľudský vizuálny systém. Tieto mapy slúžia ako vizuálny sprievodca zvýrazňujúci kľúčové oblasti v obraze a pomáhajú pri uchopení a dešifrovaní správania zložitých algoritmov. Air-Guardian prostredníctvom týchto ukazovateľov identifikuje včasné príznaky potenciálnych rizík, namiesto toho, aby zasahoval až pri možnom ohrození bezpečnosti, ako to robia tradičné systémy autopilota.
Širšie dôsledky tohto systému presahujú rámec letectva. Podobné mechanizmy kooperatívneho riadenia by sa v budúcnosti mohli používať v automobiloch, dronoch a širšom spektre robotiky.
V kocke ide o to, že Air-Guardian sleduje pozornosť ľudského pilota aj pozornosť umelej inteligencie a priebežne identifikuje prípady, keď sa tieto pozornosti nezhodujú. Pokiaľ ľudský pilot prehliadne nejaký kritický aspekt, systém umelej inteligencie zasiahne a prevezme kontrolu nad daným prvkom letu.
Testy dopadli dobre
Kooperatívnu vrstvu a celý proces od začiatku do konca je možné trénovať. Konkrétne zvolili model kauzálnej spojitej hĺbkovej neurónovej siete kvôli jeho dynamickým vlastnostiam pri mapovaní pozornosti.
Ďalším jedinečným aspektom je prispôsobivosť. Systém Air-Guardian nie je rigidný, je možné ho upravovať podľa požiadaviek a aktuálnej situácie, čo zaisťuje vyvážené partnerstvo medzi človekom a strojom. Pri testoch v teréne sa pilot aj systém pri navigácii k cieľovému bodu rozhodovali na základe rovnakých nespracovaných snímok. Úspešnosť systému Air-Guardian bola hodnotená na základe kumulatívnych odmien získaných počas letu a kratšej cesty k cieľovému bodu. V konečnom výsledku Air-Guardian znížil úroveň rizikovosti letov a zvýšil úspešnosť navigácie k cieľovým bodom.
„Tento systém predstavuje inovatívny prístup k letectvu s využitím umelej inteligencie zameranej na človeka,“ vysvetľuje vedecký pracovník Ramin Hasani. „Naše využitie tekutých neurónových sietí (Liquid Neural Networks; LNN) poskytuje dynamický, adaptívny prístup, ktorý zaisťuje, že umelá inteligencia iba nenahrádza ľudský úsudok, ale dopĺňa ho, čo vedie k zvýšeniu bezpečnosti a spolupráce.“ Skutočná sila systému Air-Guardian spočíva v jeho základnej technológii. Dopĺňa ju algoritmus VisualBackProp, ktorý identifikuje ústredné body systému v obraze, čím zaisťuje jasné pochopenie máp pozornosti.
Rozhranie človek – stroj
Pre budúce masové rozšírenie treba zdokonaliť rozhranie človek – stroj. Spätná väzba naznačuje, že by mohol byť k dispozícii intuitívnejší indikátor, napríklad lišta, ktorá by označovala, kedy systém preberá kontrolu a v akej miere tak robí. Každopádne je Air-Guardian predzvesťou novej éry bezpečnejšieho lietania a ponúka spoľahlivú záchrannú sieť pre chvíle, keď ľudská pozornosť ochabne.
Doterajšie pozorovanie chvália aj vedci z iných inštitúcií. „Jedným z najzaujímavejších výsledkov použitia metriky vizuálnej pozornosti v tejto práci je potenciál umožňujúci predchádzajúce zásahy a lepšiu interpretovateľnosť ľudskými pilotmi,“ hovorí odborná asistentka počítačových vied na Harvardovej univerzite Stephanie Gil. „Ukazuje to skvelý príklad toho, ako možno umelú inteligenciu využiť na spoluprácu s človekom, a znižuje sa tak bariéra na dosiahnutie dôvery vďaka využitiu prirodzených komunikačných mechanizmov medzi človekom a systémom umelej inteligencie.“
Zabráni katastrofám
Systém Air-Guardian je perspektívny aj z pohľadu dvoch havárií civilných lietadiel, keď sa vyšetrovaním zistilo, že piloti zámerne havarovali so samovražedným cieľom. Nasledovali dve opatrenia – vyššia pozornosť psychológov voči pilotom a zavedenie systému autopilota, ktorý v prípade odchýlenia riadenia pilota od štandardu prevezme riadenie a zabráni pilotovi v pokračovaní incidentu. Air-Guardian má potenciál byť práve takýmto systémom zvýšenia bezpečnosti letov.
