Stalo sa vtedy
Obrazové správy z archívu
Výskumníci ako príklad uviedli strojové prekladače, ktoré z angličtiny do slovenčiny používajú generické maskulínum.
Autor TASR
Bratislava 6. novembra (TASR) - Systémy umelej inteligencie (AI) obsahujú istú formu neférového správania a rodových predsudkov. Ide napríklad aj o stereotypný strojový preklad, ktorý používa generické maskulínum. Informoval o tom v pondelok Kempelenov inštitút inteligentných technológií (KInIT) na základe výsledkov jeho výskumného projektu.
"Cieľom výskumu bolo skúmať, ako veľmi sú rozšírené formy neférového správania v AI systémoch, ktoré pracujú so slovenčinou. Hlavným výsledkom projektu je zistenie, že všetkých jedenásť skúmaných AI systémov obsahuje určité formy stereotypného správania. V každom systéme výskumníci odhalili aspoň jedno, ktoré možno považovať za neférové," objasnil inštitút.
Výskumníci ako príklad uviedli strojové prekladače, ktoré z angličtiny do slovenčiny používajú generické maskulínum. Vo všeobecnosti prekladače preferujú mužský rod a do ženského prepínajú podľa nich najmä vtedy, keď ide o stereotypné témy, ako starostlivosť o telo, vlasy, pleť, fyzickú krásu, starostlivosť o domácnosť či upratovanie.
Z údajov vyplýva, že podobné správanie platí aj pri jazykových modeloch, ktoré sú základom mnohých AI aplikácií. Problémom podľa výskumníkov je, že rodovo necitlivý jazyk v jazykových modeloch je následne prenesený aj do ďalších aplikácií.
"AI modely sa navzájom od seba učia a využívajú svoje výstupy, takže stereotypný jazyk a predsudky sa môžu ďalej šíriť," dodal inštitút. Výskum poukázal aj na to, že AI nástroje, ktoré prepisujú hovorenú reč do písomnej, majú konzistentne väčšiu chybovosť pri spracovaní ženských hlasov.
"Tieto rodovo necitlivé výsledky môžu ovplyvniť aj situácie mimo online sveta. Napríklad to môže viesť k situácii, keď AI systém, ktorý pomáha triediť životopisy v prijímacom procese do zamestnania môže hodnotiť mužské životopisy lepšie ako ženské alebo AI môže prispieť k neférovému vyhodnocovaniu dokumentov pri žiadosti o úvery," uzavrel KInIT.
Do výskumu sa zapojili okrem odborníkov na AI aj odborníci na etiku, rodovú rovnosť a prekladatelia. Výskum prebiehal od vlaňajšieho novembra do októbra tohto roka a bol spolufinancovaný Veľvyslanectvom USA na Slovensku.
"Cieľom výskumu bolo skúmať, ako veľmi sú rozšírené formy neférového správania v AI systémoch, ktoré pracujú so slovenčinou. Hlavným výsledkom projektu je zistenie, že všetkých jedenásť skúmaných AI systémov obsahuje určité formy stereotypného správania. V každom systéme výskumníci odhalili aspoň jedno, ktoré možno považovať za neférové," objasnil inštitút.
Výskumníci ako príklad uviedli strojové prekladače, ktoré z angličtiny do slovenčiny používajú generické maskulínum. Vo všeobecnosti prekladače preferujú mužský rod a do ženského prepínajú podľa nich najmä vtedy, keď ide o stereotypné témy, ako starostlivosť o telo, vlasy, pleť, fyzickú krásu, starostlivosť o domácnosť či upratovanie.
Z údajov vyplýva, že podobné správanie platí aj pri jazykových modeloch, ktoré sú základom mnohých AI aplikácií. Problémom podľa výskumníkov je, že rodovo necitlivý jazyk v jazykových modeloch je následne prenesený aj do ďalších aplikácií.
"AI modely sa navzájom od seba učia a využívajú svoje výstupy, takže stereotypný jazyk a predsudky sa môžu ďalej šíriť," dodal inštitút. Výskum poukázal aj na to, že AI nástroje, ktoré prepisujú hovorenú reč do písomnej, majú konzistentne väčšiu chybovosť pri spracovaní ženských hlasov.
"Tieto rodovo necitlivé výsledky môžu ovplyvniť aj situácie mimo online sveta. Napríklad to môže viesť k situácii, keď AI systém, ktorý pomáha triediť životopisy v prijímacom procese do zamestnania môže hodnotiť mužské životopisy lepšie ako ženské alebo AI môže prispieť k neférovému vyhodnocovaniu dokumentov pri žiadosti o úvery," uzavrel KInIT.
Do výskumu sa zapojili okrem odborníkov na AI aj odborníci na etiku, rodovú rovnosť a prekladatelia. Výskum prebiehal od vlaňajšieho novembra do októbra tohto roka a bol spolufinancovaný Veľvyslanectvom USA na Slovensku.
