Vo vnútri AI
Ako sa rozhoduje umelá inteligencia?
Systémy na skenovanie tvárí nás púšťajú do budov, doprava v meste je regulovaná v reálnom čase podľa hustoty premávky, AI nás prijíma do zamestnania. Umelá inteligencia však ešte stále nie je úplne spoľahlivá, takže je dôležité jej výsledky dôkladne overovať. Poďte si to s nami overiť aj vy. Vybrali by ste rovnakého kandidáta ako umelá inteligencia?
Chcem začaťPripravte sa na budúcnosť
Umelá inteligencia je tu a na to, aby sme s ňou vedeli žiť, ju musíme pochopiť. Nielen jej schopnosti, ale aj jej obmedzenia. Pre budovanie dôvery
v AI je kľúčové porozumieť jej vysvetliteľnosti. Zložité? Až tak nie, uvidíte. Chceme vám ukázať ako sa umelá inteligencia rozhoduje a prečo sa môže mýliť. Pomôže nám to pochopiť XAI (vysvetliteľná AI) - model, ktorý vysvetliteľnosť AI skúma. Tak poďme na to.
Čo je umelá inteligencia?
Ide vlastne o schopnosť strojov vykonávať úlohy, ktoré by zvyčajne vyžadovali ľudskú inteligenciu. Vnímanie, porozumenie, spracovanie informácií, učenie sa, logické uvažovanie, plánovanie, riešenie komplexných problémov.
Podskupinou AI je potom strojové učenie. To sa zameriava na vývoj algoritmov a modelov, ktoré umožňujú AI učiť sa a zlepšovať sa z vlastných skúseností bez programovania. V strojovom učení sa systémy trénujú na základe dát, aby rozpoznávali vzory a robili predpovede alebo rozhodnutia.
Podskupinou AI je potom strojové učenie. To sa zameriava na vývoj algoritmov a modelov, ktoré umožňujú AI učiť sa a zlepšovať sa z vlastných skúseností bez programovania. V strojovom učení sa systémy trénujú na základe dát, aby rozpoznávali vzory a robili predpovede alebo rozhodnutia.
O tom, čo ste včera videli na sociálnych sieťach, rozhodla AI. A marketéri.
AI sa snaží napodobniť ľudské schopnosti.
AI všade
kam sa pozrieš
Možno si to úplne neuvedomujeme, ale systémy umelej inteligencie sú všade okolo nás. V bankách pomáhajú pri detekcii podvodov a vyhodnocujú, či budú klienti schopní splácať úvery. V zdravotníctve sa používajú na diagnostiku chorôb z lekárskych snímok alebo personalizovanú medicínu. V doprave s nimi pracujú autonómne autá, ale aj navigácie na optimalizáciu trás a predpovedanie dopravných zápch. V marketingu zase poskytujú personalizované odporúčania, cielenú reklamu a odhad dopytu po produktoch. Vyberajú napríklad to, čo vidíte na sociálnych sieťach.
Zamotaní v sieti neurónov
Umelé neurónové siete sú modely strojového učenia inšpirované biologickými neurónovými sieťami v mozgu. Sú navrhnuté tak, aby simulovali spôsob, akým ľudský mozog spracováva informácie. Neuróny sú základnými stavebnými kameňmi nervového systému. Tieto bunky sú vzájomne prepojené synapsami. Každý neurón funguje ako akýsi komunikačný uzol, ktorý dokáže prijímať signály od iných neurónov a posielať vlastné signály ďalej.
Jeden neurón môže byť prepojený s tisíckami iných neurónov, čím vytvára veľmi komplexnú sieť.
Keď sa učíme niečo nové, vytvárame tým nové spojenia medzi neurónmi. Čím viac danú vec opakujeme, tým lepšie si ju pamätáme. Je to ako vyšliapavanie chodníka v tráve - čím viac po ňom chodíme, tým je výraznejší. To aké silné sú spojenia medzi neurónmi sa môže v čase meniť. Silnejšie spojenia umožňujú signálom prechádzať ľahšie a rýchlejšie. Čím častejšie sa určitá cesta používa, tým sú spojenia medzi príslušnými neurónmi silnejšie.
Mozog je, okrem iného, majstrom v identifikovaní vecí a javov okolo nás. Napríklad ráno v kúpeľni. Človek uvidí predmet a mozog okamžite identifikuje jeho tvar, farbu, polohu a ďalšie atribúty. Za sekundu vieme, že je to naša zubná kefka. Inteligentné systémy sa snažia napodobniť túto úžasnú schopnosť nášho mozgu. Učia sa rozpoznávať veci podobne ako my - postupne, a na základe predošlých skúseností. A na to využívajú tréningové dáta.
Mozog je zložený z približne 100 miliárd neurónov.
Ako fungujú neurónové siete
Neurónovú sieť si môžeme predstaviť ako viacrozmerný systém vrstiev neurónov. Ako funguje taká sieť si ukážeme na príklade rozpoznávania obrázkov psov
a mačiek. Na začiatok budeme potrebovať veľké množstvo rôznych obrázkov týchto predmetov.
Na úplnom začiatku neurónová sieť samozrejme nerozozná, na ktorom obrázku je pes, a na ktorom je mačka. Preto skrátka tipuje a učí sa na vlastných chybách. Tie analyzuje a zdokonaľuje svoju predikciu. Čím viac vzorcov rozpozná, tým silnejšie prepojenia medzi “neurónmi” vznikajú a tým je väčšia šanca, že neurónová sieť rozozná objekty. Celý proces sa opakuje, kým sieť nedosiahne uspokojivú úroveň presnosti.
Chcem zistiť viacChcem zistiť viacKaždý obrázok sa v prvom kroku rozdelí na pixely a každý pixel sa označí číselnou hodnotou, ktorá reprezentuje farbu a intenzitu svetla. To budú naše vstupné dáta.
Tie sa nahrajú do vstupnej vrstvy, následne
s nimi budú pracovať ešte skryté vrstvy a na záver výstupná vrstva.
Vstupná vrstva
Prijíma číselné hodnoty pixelov obrázka
Skryté vrstvy
Spracovávajú a rozpoznávajú vzory
Výstupná vrstva
Rozhoduje, či ide o psa alebo mačku
Na začiatok potrebujeme veľké množstvo obrázkov. Čím väčšia a rozmanitejšia je naša sada, tým lepšie sa sieť naučí rozpoznávať psov a mačky v rôznych podobách, uhloch a svetelných podmienkach. Každý obrázok v našom datasete musí byť tiež označený, čiže musí mať priradenú správnu kategóriu - "pes" alebo "mačka". Tento proces je kľúčový, pretože poskytuje neurónovej sieti "správne odpovede", voči ktorým môže porovnávať svoje predikcie a učiť sa.
1.
V prvom kroku potrebujeme obrázky spracovať. Každý obrázok sa rozdelí na jednotlivé pixely. Každý pixel je reprezentovaný číselnou hodnotou (alebo skupinou hodnôt v prípade farebných obrázkov), ktorá predstavuje farbu a intenzitu svetla v danom bode.
2.
Tieto číselné hodnoty pixelov sa nahrajú na vstup neurónovej siete. Ak máme napríklad obrázok s rozlíšením 28x28 pixelov, vstupná vrstva by mala 784 neurónov (28 x 28 = 784), každý neurón reprezentujúci jeden pixel obrázka.
3.
Štruktúra neurónovej siete potom pozostáva z 3 častí:
Vstupná vrstva
Prijíma číselné hodnoty pixelov obrázka. Každý neurón v tejto vrstve reprezentuje jeden pixel a jeho hodnotu.
Skryté vrstvy
Tieto vrstvy spracovávajú a rozpoznávajú vzory v dátach. Môže ich byť niekoľko, každá so svojou špecifickou úlohou:
- Prvé skryté vrstvy môžu rozpoznávať jednoduché tvary a hrany.
- Hlbšie vrstvy môžu identifikovať komplexnejšie vzory, ako napríklad textúry alebo časti objektov.
- Ešte hlbšie vrstvy môžu rozpoznávať celé objekty alebo ich charakteristické črty.
Každý neurón v skrytej vrstve je prepojený s neurónmi v predchádzajúcej a nasledujúcej vrstve. Sila týchto prepojení (váhy) určuje, ako veľmi ovplyvňuje signál z jedného neurónu aktiváciu ďalšieho.
Výstupná vrstva
V našom prípade by mala dva neuróny – jeden pre psov a jeden pre mačky. Neurón s vyššou aktiváciou určuje finálne rozhodnutie siete.
4.
Na úplnom začiatku neurónová sieť samozrejme nerozozná, na ktorých obrázkoch sú psi a na ktorých mačky. Preto začína náhodným odhadom a postupne sa učí na vlastných chybách veľmi podobne ako malé dieťa, ktoré spoznáva svet.
Trénovanie
neurónovej siete
Celý proces sa nazýva "trénovanie". Trénovanie prebieha v niekoľkých krokoch. Najprv sieť spraví predpoveď na základe svojich súčasných prepojení. Potom porovná svoju predpoveď s priradenou kategóriou pre daný obrázok, a vypočíta, ako veľmi sa mýlila. Tento výpočet sa nazýva výpočet chyby. Následne sa táto chyba "propaguje" späť cez sieť, od výstupnej vrstvy k vstupnej. Na základe tejto spätnej propagácie sa upravia prepojenia medzi neurónmi. Prepojenia, ktoré viedli k správnej predpovedi, sa posilnia, zatiaľ čo tie, ktoré viedli k chybe, sa oslabia.
Celý proces sa opakuje mnohokrát, často tisíce až milióny iterácií, s rôznymi obrázkami z trénovacej sady. Postupne sa vytvárajú silnejšie prepojenia medzi "neurónmi" tam, kde vedú k správnym predpovediam. Týmto spôsobom sa neurónová sieť učí rozoznávať psy od mačiek čoraz presnejšie, pretože sieť sa učí identifikovať kľúčové znaky, ktoré robia veci odlišné - napríklad tvar, textúra, typické farby alebo charakteristické časti (oči mačky alebo uši psa).
Tento proces umožňuje neurónovej sieti "naučiť sa" rozpoznávať predmety ale aj ľudí na obrázkoch s vysokou presnosťou. Je dôležité poznamenať, že rovnaký princíp sa dá aplikovať aj na riešenie úplne odlišných typov problémov, čo robí neurónové siete mimoriadne všestrannými a užitočnými v mnohých oblastiach umelej inteligencie.
AI explained
Vysvetliteľnosť v kontexte neurónových sietí znamená schopnosť pochopiť a vysvetliť, ako sieť dospela k svojmu rozhodnutiu. Ide o snahu "nahliadnuť" do čiernej skrinky a porozumieť procesu rozhodovania. Prečo je vysvetliteľnosť dôležitá? V prvom rade ide o dôveru. Ak rozumieme, ako systém umelej inteligencie dospel k rozhodnutiu, môžeme mu viac dôverovať. Po praktickej stránke nám vysvetliteľnosť umožňuje odhaliť prípadné chyby, odstrániť ich a vylepšiť náš model.
Ako teda dosiahnuť vysvetliteľnosť v tak zložitých systémoch? Existuje niekoľko metód, no my sa pozrieme bližšie na dve z nich.
1. Vizualizácia aktivácií
Zobrazuje, ktoré časti vstupných dát najviac aktivovali neuróny v sieti. Napríklad pri rozpoznávaní obrázkov by táto metóda mohla ukázať, že sieť sa pri identifikácii mačky zamerala najmä na oblasť očí a uší.
2. Teplotné mapy
Zvýrazňujú časti vstupných dát s najväčším vplyvom
na rozhodnutie siete. Pri úlohe spracovania textu ako je analýza sentimentu by teplotná mapa podaná ako vysvetlenie, mohla zyvýrazniť jednotlivé slová ktoré prispeli k ‘pozitívnej’ alebo ‘negatívnej’ klasifikácii sentimentu textu. Teplotná mapa teda zvýrazní slová, ktoré sieť považovala za najdôležitejšie pre svoju predikciu.
Čím je model zložitejší a výkonnejší, tým je ťažšie ho vysvetliť.
Napriek pokroku v tejto oblasti zostávajú mnohé výzvy. Často existuje kompromis medzi výkonom modelu a jeho vysvetliteľnosťou.
Vysvetliteľnosť zostáva kľúčovou oblasťou výskumu v oblasti umelej inteligencie. Ako sa neurónové siete stávajú čoraz dôležitejšími v našom každodennom živote, schopnosť pochopiť a vysvetliť ich rozhodnutia sa stáva rovnako dôležitou ako ich výkon. Pokrok v tejto oblasti nám umožní nielen lepšie využívať potenciál AI, ale aj budovať dôveru v tieto systémy a zabezpečiť ich etické a spravodlivé používanie. Hoci úplné "odhalenie" neurónových sietí zostáva naďalej výzvou, každý krok smerom k väčšej vysvetliteľnosti je krokom k zodpovednému a dôveryhodnému využívaniu umelej inteligencie.
AI umelá inteligencia sa mýli
Umelá inteligencia ľudské schopnosti v mnohom predčí. Algoritmus však nie je neomylný - naopak, nemôžeme sa naň úplne spoliehať a stále si vyžaduje ľudskú kontrolu so zapojením kritického myslenia a zdravého úsudku. Prvým krokom k tomu, aby sme týmto chybám predišli je, že budeme dobre rozumieť ako konkrétne modely AI pracujú. Avšak vnútorné fungovanie neurónových sietí často zostáva záhadou aj pre ich tvorcov. Prečo je to tak?
Predstavte si neurónovú sieť ako obrovský labyrint s miliónmi prepojených ciest. Keď dáme na vstup nejaké dáta, napríklad obrázok, dáta prechádzajú labyrintom, pričom sa na každej križovatke (neuróne) upravujú a kombinujú. Na konci labyrintu dostaneme výsledok - napríklad "tento obrázok zobrazuje mačku".
Ale sledovať presnú cestu, ktorou dáta prešli a ako sa na každej križovatke zmenili, je prakticky nemožné kvôli obrovskému množstvu týchto ciest a transformácií. S narastajúcou zložitosťou úlohy rastie aj komplexnosť siete, teda pomyselný labyrint sa zväčšuje.
Táto nepriehľadnosť vedie k tomu, že neurónové siete často fungujú ako "čierne skrinky" - vieme, čo dávame na vstup a čo dostávame na výstup, poznáme tiež základný algoritmus učenia avšak napriek tomu nie je jasné, ako presne sieť dospela k svojmu rozhodnutiu. Týmto nastáva problém v mnohých situáciách, najmä ak sa neurónové siete používajú na rozhodovanie v citlivých oblastiach.
Pozývame vás na pohovor s AI
Ako by to asi vyzeralo, keby o vašom prijatí alebo neprijatí do zamestnania rozhodovala umelá inteligencia? Celý proces sa začína čítaním a porozumením textu pracovnej pozície a dostupných životopisov. Systém spracuje obsah tak, že texty prevedie na ich číselné kódy (číselné reprezentácie - vektory). Vďaka nim vie zohľadniť význam slov a zisťuje, do akej miery sú rôzne pojmy v dokumentoch zhodné.
Takýto systém je pritom celkom šikovný. Porovnáva, či sú v životopisoch rovnaké zručnosti, skúsenosti a kvalifikácie, aj keď používajú rôzne slová - zameriava sa na obsahový význam. Napríklad ak ponuka práce vyžaduje „skúsenosti vo finančnom sektore“ a v životopise kandidáta sa uvádza „kontroly rozpočtu a finančné prognózy“, systém rozpozná, že tieto frázy spolu súvisia. AI teda hľadá najväčšiu zhodu medzi kandidátom
a pracovnou pozíciou. Systém nájde životopisy, ktoré najlepšie zodpovedajú požiadavkám uvedeným v popise práce, a zoradí ich podľa relevantnosti.
Interview s AIInterview s AI
Na dnešnom trhu práce môže byť hľadanie ideálneho kandidáta náročná úloha. Veľké spoločnosti často dostávajú stovky žiadostí o inzerované pracovné miesto, takže je takmer vylúčené ručne prechádzať všetky životopisy. Našťastie pokroky v umelej inteligencii menia proces prijímania nových uchádzačov. Jednou takouto inováciou je inteligentné vyhladávanie vhodných kandidátov pre inzerovanú pracovnú pozíciu. Takýto prístup môže pomôcť firmám efektívne identifikovať najlepších kandidátov pre ich pracovné pozície.
Pomocou inteligentného spracovania prirodzeného jazyka a strojového učenia, dokáže systém porozumieť a analyzovať obsah inzerovanej pracovnej pozicie ako aj životopisy. Najlepšie zhody sú nájdené na základe sémantickej (významovej) podobnosti párov pracovná pozícia - kandidát.
Ako to funguje?
Celý proces začína čítaním a porozumením textu inzerovanej pracovnej pozície a dostupných životopisov. Inteligentné systémy trénované pre spracovanie prirodzeného jazyka dokážu pochopiť kontext, význam slov alebo fráz, čo umožňuje presne interpretovať požiadavky a kvalifikácie uvedené v pracovných pozíciách. Po spracovaní-pochopení obsahu dokumentov, systém následne prevedie text a informácie v ňom na vektory – číselné reprezentácie (číselné kódy pre slová), ktoré zachytávajú sémantický význam slov alebo fráz v číselnom formáte, ktorý možno ľahko spracovať digitálne.
Tieto špecifické transformácie textu na vektory sa vytvárajú tréningom na veľkom množstve textových dát, čo umožňuje modelu naučiť sa kontext a vzťahy medzi slovami. V pomyselnom vektorovom priestore budú mať slová s podobným významom alebo slová, ktoré sa používajú v podobných kontextoch vektory, ktoré sú blízko seba.
Tieto špecifické transformácie textu na vektory sa vytvárajú tréningom na veľkom množstve textových dát, čo umožňuje modelu naučiť sa kontext a vzťahy medzi slovami. V pomyselnom vektorovom priestore budú mať slová s podobným významom alebo slová, ktoré sa používajú v podobných kontextoch vektory, ktoré sú blízko seba.
Sémantická podobnosť presahuje ‘len’ obsahovú podobnosť. Zatiaľ čo podobnosť obsahu sa môže zamerať na presné slová alebo frázy, sémantická podobnosť zohľadňuje samotný význam týchto slov. Ide o pochopenie kontextu a nuancií, aby sme určili, do akej miery sú rôzne pojmy zhodné. V kontexte hľadania zhody medzi pracovnou pozíciou a kandidátom, sémantická podobnosť predstavuje porovnanie popisu práce a životopisov, aby sa zistilo, či dokumenty hovoria o rovnakých zručnostiach, skúsenostiach a kvalifikáciách, napriek tomu že môžu používať rôzne slová. Ak napríklad ponuka práce vyžaduje „skúsenosti vo finančnom sektore“ a v životopise kandidáta sa uvádza „kontroly rozpočtu a finančné prognózy“, inteligentný systém, ktorý používa sémantickú podobnosť, rozpozná, že tieto frázy spolu súvisia, aj keď sa presné znenie líši.
Jadro celého procesu teda predstavuje hľadanie najväčšej podobnosti - zhody kandidáta a pracovnej pozície. Zjednodušene povedané, systém nájde životopisy, ktoré najlepšie zodpovedajú požiadavkám a povinnostiam uvedeným v popise práce. Keď systém identifikuje najväčšie zhody, životopisy zoradí na základe ich relevantnosti pre konkrétnu pracovnú pozíciu. Takýto rebríček najlepších kandidátov pomáha náborovým manažérom zistiť, kto je pre pozíciu najvhodnejší kandidát a ďalej sa môžu zamerať na strategickejšie úlohy, ako sú pohovory a onboarding, vďaka čomu je celkový proces náboru nákladovo efektívnejší.
Jadro celého procesu teda predstavuje hľadanie najväčšej podobnosti - zhody kandidáta a pracovnej pozície. Zjednodušene povedané, systém nájde životopisy, ktoré najlepšie zodpovedajú požiadavkám a povinnostiam uvedeným v popise práce. Keď systém identifikuje najväčšie zhody, životopisy zoradí na základe ich relevantnosti pre konkrétnu pracovnú pozíciu. Takýto rebríček najlepších kandidátov pomáha náborovým manažérom zistiť, kto je pre pozíciu najvhodnejší kandidát a ďalej sa môžu zamerať na strategickejšie úlohy, ako sú pohovory a onboarding, vďaka čomu je celkový proces náboru nákladovo efektívnejší.
Napríklad ak by sme transformovali slová medveď hnedý, medveď čierny a zajac poľný vo vektorovom priestore budú vektory medveďov blízko pri sebe zatiaľ čo vektor zajaca bude vzdialený ďalej. To znamená, že vzdialenosť medzi vektormi predstavuje sémantickú podobnosť medzi slovami.
Poďte si s nami vyskúšať, ako to funguje v praxi.
Vybrali by ste rovnakého kandidáta ako umelá inteligencia?
pracovná pozícia: Letuška/Steward
Do nášho medzinárodného tímu hľadáme letušku alebo stewarda, ktorí rozšíria našu flotilu profesionálov. Vyžadujeme profesionalitu a zákaznícky orientovaný prístup. Ideálny kandidát/-ka pre túto prácu sa musí dokázať postarať o bezpečnosť pasažierov a poskytnúť im kvalitný palubný servis počas letu. Vašou úlohou bude vytvoriť príjemný letový zážitok za dodržania všetkých potrebných predpisov našej leteckej spoločnosti.
proklientský prístup
príjemné vystupovanie
aspoň 2 roky praxe na pozícii
ukončené stredoškolské vzdelanie
komunikačné zručnosti
znalosť bezpečnostných postupov
angličtina na komunikačnej úrovni, ďalší cudzí jazyk výhodou
bez tetovaní na viditeľných miestach
Eva
8 rokov praxe
Som letuška s osemročnými skúsenosťami v leteckej doprave. Mám certifikáciu v bezpečnostných postupoch, bohaté skúsenosti z medzinárodných letov a kladiem veľký dôraz na perfektnú vizáž. Moje stredoškolské vzdelanie v oblasti zdravotníctva som už niekoľkokrát využila pri krízových situáciách. Asistovala som napríklad pri nečakanom pôrode na palube. Plynule hovorím po nemecky a mám základnú znalosť angličtiny.
komunikatívnosť
riešenie konfliktov
orientácia na zákazníka
prispôsobivosť
Martin
1 rok praxe
Som mladý steward s ročnou praxou v leteckej doprave. Hoci moja prax v odbore môže pôsobiť krátko, mám cennú skúsenosť zo súkromnej leteckej spoločnosti, kde som pracoval primárne pre prémiových klientov na úrovni First Class a Ultra First Class. Moje silné stránky sú príjemné vystupovanie a vynikajúce komunikačné schopnosti v angličtine i španielčine. Napriek tomu, že mám zatiaľ iba základné skúsenosti v oblasti bezpečnosti, aktívne pracujem na ich rozšírení.
tímová práca
zvládanie núdzových situácií
orientácia na zákazníka
jazykové znalosti
Izabela
bez praxe
Som absolventkou strednej zdravotníckej školy so skúsenosťami v poskytovaní prvej pomoci a starostlivosti o ľudí. Pracovala som ako zdravotná asistentka, kde som si vybudovala organizačné schopnosti a zvládanie stresových situácií. Prácu letušky vidím ako možnosť spojiť starostlivosť o ľudí s mojou láskou k cestovaniu.
fyzická zdatnosť
poskytovanie prvej pomoci
stresová odolnosť
organizačné schopnosti
Ak sa chcete o umelej inteligencii dozvedieť viac, pozrite si naše blogy:
How Does Artificial Intelligence Think?
Explainable Artificial Intelligence: From Black Boxes to Transparent Models Can artificial intelligence decide on who will be released from prison, who will advance to the next round of job interviews…
Three Benefits of Explainable Artificial Intelligence
Explainable Artificial Intelligence: From Black Boxes to Transparent Models Artificial intelligence will increasingly interfere in our lives. However, many people do not trust artificial intelligence and are reluctant to leave…
Transparent Models vs. Black Box Models
Explainable Artificial Intelligence: From Black Boxes to Transparent Models Can artificial intelligence decide on who will be released from prison, who will advance to the next round of job interviews…
Components and Properties of Good Explanations of Artificial Intelligence Models’ Decisions
Explainable Artificial Intelligence: From Black Boxes to Transparent Models From the perspective of machine learning (ML), we are living in happy times. For many tasks that we were not able…
How to measure the quality of explanations of AI predictions
Explainable Artificial Intelligence: From Black Boxes to Transparent Models In the previous part of the series, we looked at what components and properties should good explanations have. The first component,…
Are the explanations we consider to be good really good?
Explainable Artificial Intelligence: From Black Boxes to Transparent Models In previous articles, we introduced three very interesting concepts from the field of eXplainable Artificial Intelligence (XAI): In this article, we…