Stalo sa vtedy
Obrazové správy z archívu
Etický kódex pre umelú inteligenciu aj samotné skreslenie je odrazom spoločnosti a sledovať jej vývoj je ako sledovať písanie novej biblie.
Autor TASR
Bratislava 22. augusta (TASR) – Emócie sú zaujímavé pre všetky odvetvia hospodárstva a pre všetkých ľudí. Zaujímajú každého obchodníka, marketéra, zamestnávateľa, lekára, rodiča či partnera, pretože dodávajú kontext v komunikácii.
Donedávna sa účastníci komunikácie mohli spoliehať na osobné stretnutia a na svoju prirodzenú schopnosť vyhodnocovať emócie z tváre.
V súčasnosti však už niekoľko odvetví aplikuje aj umelú inteligenciu (AI) a strojové učenie na vyhodnotenie emócií. Ide napríklad o zábavný priemysel, oddelenia ľudských zdrojov vo firmách či o zdravotníctvo, konkrétnejšie manažment pacienta v domácom prostredí. Ani AI však nie je neomylná a prináša riziká. Pre TASR to uviedla zakladateľka spoločnosti Emotion ID Lujza Bubánová.
Ako vysvetlila Bubánová, emócie sú z pohľadu slovného vyjadrenia občas veľkou otázkou. „Časť mozgu, ktorá spracováva emócie a je súčasťou nášho najstaršieho mozgu, nie je priamo prepojená s pomerne novou vrstvou zodpovednou za reč," poznamenala s tým, že s rastom kognitívnej schopnosti človeka pre vyjadrenie komplexnejších myšlienok rástol aj počet slov, avšak hovorené slovo už podlieha filtrom toho, ako chce byť človek vnímaný. Slová sú teda často plné skreslenia a otázkou sa často nezistí pravdivý stav.
Skresleniu sa však nevyhne ani umelá inteligencia. „Príkladom môže byť rozpoznávanie tvárí a otázka rasovej rovnosti," uviedla Bubánová s tým, že väčšina databáz je cvičená na tvárach europoidnej rasy a systém sa pri iných rasách občas mýli.
„Čoho výsledkom napríklad bolo, že niekoľkokrát zlé rozpoznanie tváre znamenalo, že na letisku alebo v obchodných centrách obvinili nevinných ľudí z krádeže alebo priestupku," ilustrovala Bubánová.
Etický kódex pre umelú inteligenciu aj samotné skreslenie je podľa Bubánovej odrazom spoločnosti a sledovať jej vývoj je ako sledovať písanie novej biblie. Ako zdôraznila, pri nasadení umelej inteligencie na rozpoznávanie alebo vyhodnocovanie emócií sa treba zamyslieť nad tým, ako sa poznatky dajú zneužiť.
Zrejme najviditeľnejším miestom zneužitia dát sú podľa nej sociálne siete. Tie sú svojím spôsobom len komunikačným nástrojom, avšak exponenciálny dosah a anonymita sú podľa Bubánovej ako steroidy pre nebezpečné, klamlivé alebo manipulátorské úmysly.
„Kapacita a rýchlosť spracovania dát v kombinácii so schopnosťou vyvodenia logických poznatkov o používateľoch je ako mať armádu veľmi šikovných podomových predajcov, ktorí sú schopní správne útočiť na emočné rozpoloženie, aby dosiahli cieľ," uzavrela.
Donedávna sa účastníci komunikácie mohli spoliehať na osobné stretnutia a na svoju prirodzenú schopnosť vyhodnocovať emócie z tváre.
V súčasnosti však už niekoľko odvetví aplikuje aj umelú inteligenciu (AI) a strojové učenie na vyhodnotenie emócií. Ide napríklad o zábavný priemysel, oddelenia ľudských zdrojov vo firmách či o zdravotníctvo, konkrétnejšie manažment pacienta v domácom prostredí. Ani AI však nie je neomylná a prináša riziká. Pre TASR to uviedla zakladateľka spoločnosti Emotion ID Lujza Bubánová.
Ako vysvetlila Bubánová, emócie sú z pohľadu slovného vyjadrenia občas veľkou otázkou. „Časť mozgu, ktorá spracováva emócie a je súčasťou nášho najstaršieho mozgu, nie je priamo prepojená s pomerne novou vrstvou zodpovednou za reč," poznamenala s tým, že s rastom kognitívnej schopnosti človeka pre vyjadrenie komplexnejších myšlienok rástol aj počet slov, avšak hovorené slovo už podlieha filtrom toho, ako chce byť človek vnímaný. Slová sú teda často plné skreslenia a otázkou sa často nezistí pravdivý stav.
Skresleniu sa však nevyhne ani umelá inteligencia. „Príkladom môže byť rozpoznávanie tvárí a otázka rasovej rovnosti," uviedla Bubánová s tým, že väčšina databáz je cvičená na tvárach europoidnej rasy a systém sa pri iných rasách občas mýli.
„Čoho výsledkom napríklad bolo, že niekoľkokrát zlé rozpoznanie tváre znamenalo, že na letisku alebo v obchodných centrách obvinili nevinných ľudí z krádeže alebo priestupku," ilustrovala Bubánová.
Etický kódex pre umelú inteligenciu aj samotné skreslenie je podľa Bubánovej odrazom spoločnosti a sledovať jej vývoj je ako sledovať písanie novej biblie. Ako zdôraznila, pri nasadení umelej inteligencie na rozpoznávanie alebo vyhodnocovanie emócií sa treba zamyslieť nad tým, ako sa poznatky dajú zneužiť.
Zrejme najviditeľnejším miestom zneužitia dát sú podľa nej sociálne siete. Tie sú svojím spôsobom len komunikačným nástrojom, avšak exponenciálny dosah a anonymita sú podľa Bubánovej ako steroidy pre nebezpečné, klamlivé alebo manipulátorské úmysly.
„Kapacita a rýchlosť spracovania dát v kombinácii so schopnosťou vyvodenia logických poznatkov o používateľoch je ako mať armádu veľmi šikovných podomových predajcov, ktorí sú schopní správne útočiť na emočné rozpoloženie, aby dosiahli cieľ," uzavrela.
