...

BRIEF dociera do polskich firm i ich pracowników – do wszystkich tych, którzy poszukują inspiracji w biznesie i oczekują informacji o ludziach, trendach i ideach.

Skontaktuj się z nami

UE zamierza stworzyć regulacje prawne zakazujące niebezpiecznych zastosowań sztucznej inteligencji

PAP robot jabłko

Propozycję regulacji prawnych dotyczących sztucznej inteligencji (AI) przedstawiła Komisja Europejska. Proponowane przepisy, zanim wejdą w życie, muszą zostać przyjęte przez Parlament Europejski i Radę UE. W ich myśl zakazane będzie m.in. skanowanie twarzy na żywo czy wykorzystywanie AI w celu manipulacji zachowaniem użytkowników.

Proponowane rozwiązania prawne zmierzają z jednej strony do wspierania rozwoju korzystnych dla obywateli państw UE zastosowań sztucznej inteligencji, które mogą umożliwić m.in. usprawnienie opieki zdrowotną, zwiększenie bezpieczeństwa ruchu drogowego, dostosowanie oferowanych przez administrację publiczną usługi do indywidualnych wymagań, optymalizację procesów produkcyjnych i zapewnienie przewagi konkurencyjnej europejskim przedsiębiorstwom w takich sektorach jak zielona gospodarka, gospodarka o obiegu zamkniętym, produkcja maszyn, rolnictwo czy turystyka. Z drugiej zaś ramy prawne dla AI mają zapewnić, że będzie ona ukierunkowana na człowieka, godna zaufania, etyczna i zapewniająca poszanowanie praw Europejczyków.

Proponowane regulacje zakładają wprowadzenie czterech kategorii oceny poziomu ryzyka związanego z wykorzystaniem sztucznej inteligencji – od technologii uznanych za niebezpieczne po takie, których zastosowanie wiąże się z minimalnym ryzykiem. W porządku degresywnym skala oceny ryzyka składałaby się z następujących stopni – niedopuszczalne ryzyko, wysokie ryzyko, ograniczone ryzyko i niskie ryzyko.

Zgodnie z zaprezentowanymi przez KE przepisami zastosowania AI sklasyfikowane jako niebezpieczne, czyli zaklasyfikowane do kategorii „niedopuszczalne ryzyko”, byłyby zakazane w UE. Do tej grupy zaliczono np. technologie tak zwanej „zdalnej identyfikacji biometrycznej” wykorzystywanej na przykład do wybierania ludzi z tłumu w czasie rzeczywistym dzięki zastosowaniu rozpoznawania twarzy na żywo. „W naszym społeczeństwie nie ma miejsca na masową inwigilację”.

Margrethe Vestager, wiceprzewodnicząca Komisji Europejskiej ds. Ery cyfrowej

W ramach przedstawionej propozycji nowych przepisów zaproponowano w tej kwestii wyjątek dla wąsko zdefiniowanych celów egzekwowania prawa, takich jak poszukiwanie zaginionego dziecka lub osoby poszukiwanej oraz zapobieganie atakowi terrorystycznemu.

Zgodnie z przedstawionymi przez KE propozycjami niedopuszczalne zastosowania sztucznej inteligencji obejmowałyby również manipulowanie zachowaniem, wykorzystywanie słabych punktów dzieci lub stosowanie technik podprogowych. „Może to być przypadek, w którym zabawka wykorzystuje systemy głosowe, aby zmusić dziecko do zrobienia czegoś niebezpiecznego. Na takie zastosowania nie ma miejsca w Europie, dlatego proponujemy ich zakazać.

Margrethe Vestager, wiceprzewodnicząca Komisji Europejskiej ds. Ery cyfrowej

Do zastosowań AI związanych z wysokim poziomem ryzyka zaliczono na przykład algorytmy stosowane do rozpatrywania aplikacji o pracę, podań na studia, wniosków o kredyt, zasiłek, azyl polityczny lub wizę. Do tej grupy zaliczono również systemy AI wykorzystywane w medycynie oraz sądownictwie. W związku z tym, że ważne decyzje mające bezpośredni wpływ na życie obywateli mogą być podejmowane przez algorytmy, KE proponuje wprowadzenie zasady, że decyzje te muszą obowiązkowo podlegać weryfikacji i ostatecznemu nadzorowi przez człowieka.

Regulacjom mają również zostać poddane chatboty, które powinny być odpowiednio oznaczone, aby ludzie wiedzieli, że wchodzą w interakcję z maszyną.

Aby pomóc w opracowaniu standardów i egzekwowaniu przepisów, które miałyby zastosowanie do każdego dostawcy systemu SI w UE, Komisja proponuje utworzenie Europejskiej Rady ds. Sztucznej Inteligencji.

Proponowane regulacje mają dotyczyć wszystkich państw UE oraz firm zagranicznych działających na terytorium UE. Kary za niedostosowanie się do wymogów mają wynieść od 20 mln euro do 4 proc. rocznych obrotów firmy, która się ich dopuściła. Wcześniej jednak otrzyma ona wezwanie do naprawienia swoich produktów AI i dostosowanie ich do wymogów prawa lub usunięcie ich z rynku.

Dzięki tym przełomowym zasadom UE jest liderem w opracowywaniu nowych globalnych norm, aby mieć pewność, że sztucznej inteligencji można zaufać. Wyznaczając standardy, możemy utorować drogę do etycznej technologii na całym świecie i zapewnić, że UE pozostanie konkurencyjna.

Margrethe Vestager, wiceprzewodnicząca Komisji Europejskiej ds. Ery cyfrowej

Dzięki RODO zobaczyliśmy, że przepisy UE docierają do każdego zakątka świata i wywierają presję na kraje na całym świecie, tworząc nowy międzynarodowy standard – powiedział Swaniker w rozmowie z agencją AP. – Możemy się tego spodziewać również w przypadku regulacji AI.

Herbert Swaniker, prawnik ds. Technologii w kancelarii Clifford Chance


Źródło: PAP

Brief.pl - jedno z najważniejszych polskich mediów z obszaru marketingu, biznesu i nowych technologii. Wydawca Brief.pl, organizator Rankingu 50 Kreatywnych Ludzi w Biznesie.

BRIEF

Czy sztuczna inteligencja jest (nie)bezpieczna dla człowieka?

AI, czyli Artificial Intelligence, odmieniana jest przez wszystkie przypadki w biznesie i nauce, jako technologia, która w przyszłości stanie się głównym nośnikiem cyfrowych zmian w gospodarce i transformacji społecznej. Z danych ekspertów wynika, że 86 proc. interakcji z klientami do 2020 r. będzie zachodzić bez udziału człowieka ze względu na popularyzację inteligentnych czat botów. Sztuczna inteligencja jednocześnie fascynuje i budzi niepokój. Za największe zagrożenie respondenci postrzegają wpływ AI na poziom wynagrodzenia (50 proc. wskazań) oraz bezpieczeństwo zatrudnienia (44 proc. wskazań).

Obawa przed dehumanizacją pracy

Jak wynika z badania przeprowadzonego w maju i czerwcu przez Ipsos w siedmiu krajach, obecnie 22 proc. firm wdrożyło już AI, 17 proc.  jest w trakcie implementacji, a dalsze 14 proc. planuje wdrożenia w ciągu najbliższych dwóch lat. Blisko 72 proc. ankietowanych oczekuje, że wdrożenie AI będzie miało pozytywny wpływ na organizację pracy w przedsiębiorstwie, a 71 proc. uważa, że pozwoli lepiej dostosować szkolenia do potrzeb pracowników i wzrostu biznesu. Z kolei za największe zagrożenie respondenci postrzegają wpływ AI na poziom wynagrodzenia (50 proc. wskazań) oraz bezpieczeństwo zatrudnienia (44 proc. wskazań). Ponadto, z badania oczekiwanego wpływu AI na szerszy kontekst pracy wynika, że 76 proc. osób obawia się, że ze sztuczną inteligencją będzie wiązać się wzrost kontroli i podsłuchu, a 65 proc. ma obawy związane z dehumanizacją pracy. Według danych Gartnera, aż 86 proc. interakcji z klientami do 2020 r. będzie zachodzić bez udziału człowieka ze względu na popularyzację inteligentnych czat botów. Z kolei z szacunków analityków IDC wynika, że wartość rynku systemów kognitywnych i sztucznej inteligencji do tego czasu wzrośnie do 46 mld USD. Jednocześnie oszczędności wynikające z wykorzystanie sztucznej inteligencji w polskim biznesie mogą być warte nawet 20 mld zł.

Sektor fintech na całym świecie już teraz silnie odczuwa efekty rozwoju sztucznej inteligencji. Obserwując obecny poziom wiedzy i technologicznego zaawansowania należy przypuszczać, że użycie narzędzi opartych na uczeniu maszynowym stanie się coraz powszechniejsze. Korzyści wynikające z wykorzystania tej technologii są nie do przecenienia. Wśród nich warto wymienić chociażby automatyzację procesów czy poprawę jakości kontaktu z klientem (tzw. Customer Intelligence). Chatboty, elektroniczne portfele i wirtualni doradcy finansowi zapewnią bardziej spersonalizowaną i bezproblemową obsługę oraz dostosują ofertę do indywidulanych potrzeb klientów – komentuje Michał Papliński, Country Manager w TWINO (właściciel Netcredit.pl i Incredit.pl).

Sztuczna inteligencja w branży fintech

Sztuczna inteligencja odgrywa coraz większą rolę także w sektorze usług płatniczych. Najlepszym przykładem są rosnące inwestycje w automatyzację procesu zaciągania pożyczek czy udostępniania nowych metod płatności, m.in. w sklepach internetowych. Rozwiązania bazujące na systemach uczących się tzw. machine learning wykorzystywane w usługach finansowych pozwalają zmniejszyć wydatki oraz obniżyć stopień ryzyka pożyczkodawcy. Natomiast klienci, którzy do tej pory mieli problem z otrzymaniem pozytywnej decyzji kredytowej np. z powodu braku dotychczasowej historii kredytowej uzyskają szerszy dostęp do usług finansowych. Działające w oparciu o sztuczną inteligencję chatboty w przyszłości upowszechnią usługi zarezerwowane tylko dla nielicznych, takie jak doradztwo inwestycyjne. Są tańsze, a już wkrótce będą coraz lepsze. W Stanach Zjednoczonych machine learning już teraz pomaga w przetwarzaniu danych giełdowych i obrocie papierami wartościowymi.

 

Wirtualny doradca

Według prognoz marketerów, do 2020 roku komunikacja firm z klientem będzie odbywać się głównie za pomocą sztucznej inteligencji. Już dziś wiele firm wybiera chatboty, które w serwisach internetowych pomagają złożyć reklamację albo uzyskać podstawową pomoc techniczną. Szacuje się, że wirtualni doradcy systemy pomagają skrócić czas obsługi nawet pięciokrotnie. Gdy chatbot napotka problem może skierować klienta do konsultanta – człowieka. W dalszym ciągu możliwości wirtualnych konsultantów są dużo węższe od umiejętności fizycznego konsultanta. Obserwując jednak szybki postęp technologiczny, nietrudno przewidzieć, że obecność obdarzonych sztuczną inteligencją robotów w małych i średnich przedsiębiorstwach pozostaje tylko kwestią czasu.

Pomimo istniejących obaw dotyczących zmian na rynku pracy związanych z automatyzacją niektórych zawodów, podchodzimy dość entuzjastycznie do perspektywy pracy z robotami. Na obecnym etapie rozwoju sztuczna inteligencja nie jest w stanie wyręczyć człowieka we wszystkich procesach decyzyjnych. Niewykluczone, że w przyszłości część profesji zniknie z rynku pracy, ale za to w ich miejsce pojawią się nowe. W innych przypadkach konieczne będzie doszkolenie pracowników – dodaje Michał Papliński, Country Manager w TWINO (właściciel Netcredit.pl i Incredit.pl).

 

Brief.pl - jedno z najważniejszych polskich mediów z obszaru marketingu, biznesu i nowych technologii. Wydawca Brief.pl, organizator Rankingu 50 Kreatywnych Ludzi w Biznesie.

BRIEF