Z przeprowadzonego przez Progress badania wynika, że zarządy większości firm rozumieją znaczenie tego zjawiska i uważają, że jest ono powszechne w ich przedsiębiorstwach, ale napotykają problemy z jego skuteczną neutralizacją. Sztuczna inteligencja szturmem zdobywa kolejne branże – od ochrony zdrowia przez finanse po e-commerce i produkcję. Firmy coraz chętniej wykorzystują AI do podejmowania decyzji na bazie reguł dotyczących np. określania zdolności kredytowej czy segmentacji klientów.
Korzyści w postaci poprawy wydajności pracy, obniżenia kosztów czy przyspieszenia rozwoju firm są zauważalne dla ich właścicieli oraz konsumentów, którzy zyskują sprawniejszą i szybszą obsługę. Warto jednak pamiętać, że procesy stojące za wykorzystaniem AI mają pewną wadę – dane wykorzystywane do zasilania tych systemów nie są neutralne. Zawsze istnieje jakaś forma wykreowanego uprzedzenia, które wynika z charakteru medium, za pomocą którego dane zostały zaczerpnięte. Sztuczna inteligencja odzwierciedla i wzmacnia uprzedzenia swoich twórców, co rodzi obawy etyczne związane z prywatnością, bezpieczeństwem, stereotypami i obiektywną oceną.
– Z tendencyjnością danych mamy do czynienia wtedy, gdy ze względu na obecne w nich błędy, określona grupa faworyzowana jest kosztem innej. Zazwyczaj skutkiem tego jest podejmowanie przez algorytm niesprawiedliwych decyzji, gdyż dostępne dane nie odzwierciedlają w dokładny sposób postaw całej reprezentowanej populacji. Tendencyjność powoduje różnice między przewidywanymi, a rzeczywistymi wartościami modelu. Te uprzedzenia mogą być oparte na stereotypach, a nie na konkretnej wiedzy o osobach lub okolicznościach – mówi Niklas Enge, Dyrektor Regionalny Nordics i Polska w firmie Progress.
Jak zapobiegać tendencyjności danych?
Przeprowadzone przez Progress badanie wykazało, że 78% osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML. Jednak tylko 13% obecnie zajmuje się tym zjawiskiem i wypracowało stały proces oceny jego skali.
Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak identyfikować uprzedzenia, a także brak dostępu do zasobów eksperckich, takich jak konsultacje z naukowcami zajmującymi się danymi. Chcąc zapobiegać zjawisku tendencyjności danych należy zastosować podejście, które będzie wynikało bezpośrednio z polityki i kultury organizacyjnej w firmie.
Sztuczna inteligencja oraz uczenie maszynowe są coraz bardziej zintegrowane z operacjami biznesowymi. Takie podejście powinno obejmować ustanowienie standardów etycznych, najlepszych praktyk w zakresie gromadzenia danych i opracowywania modeli, regularną ocenę modeli, bieżące monitorowanie oraz współpracę między wszystkimi stronami zaangażowanymi w ich wykorzystanie. Źródło: Badanie Progress „Data Bias: The Hidden Risk of AI”
O firmie
Progress Firma Progress (Nasdaq: PRGS), której celem jest wspieranie rozwoju biznesu w świecie zdominowanym przez rozwiązania technologiczne, pomaga przedsiębiorcom w przyspieszaniu innowacji, nadawaniu im rozpędu i budowaniu drogi do sukcesu. Jako zaufany dostawca produktów do tworzenia, wdrażania i zarządzania aplikacjami o dużym znaczeniu, Progress umożliwia klientom opracowywanie niezbędnych rozwiązań, implementowanie ich w odpowiednich obszarach oraz administrowanie nimi w bezpieczny sposób. Setki tysięcy przedsiębiorstw, w tym 1700 firm programistycznych i 3,5 miliona deweloperów, polega na produktach Progress, aby móc osiągać swoje cele. Więcej informacji dostępnych jest na stronie www.progress.com oraz na profilach w serwisach LinkedIn, YouTube, Twitter, Facebook i Instagram.
Wasze Komentarze
Jeszcze nie skomentowano powyższego artykułu.Wszystkie komentarze są własnością ich autorów. Autor ponosi pełną odpowiedzialność za treść wpisu. Jeżeli wynikną z tego konsekwencje prawne, planetakobiet.com.pl może przekazać wszelkie informacje stronom zainteresowanym na temat danego użytkownika oraz pomóc w jego zlokalizowaniu.