Relacja z seminarium TEP i Alior Banku, Warszawa 18 września 2019 r
Jesteśmy świadkami bardzo szybkiego rozwoju nowych technologii takich jak Blockchain, Sztuczna Inteligencja, Internet Rzeczy, czy robotyka, a także coraz powszechniejszego wykorzystywania tych technologii w praktyce. Tymczasem nadal obserwujemy brak nawet powierzchownej znajomości owych zjawisk, także wśród elit akademickich, ekonomicznych, prawniczych oraz w środowisku regulatorów. Równocześnie eksperci związani z nowymi technologiami coraz częściej wskazują na ich ogromny potencjał dla przyspieszenia rozwoju gospodarczego. Za tym przyspieszonym rozwojem technologicznym nie nadążają rozwiązania regulacyjne i prawne.
Część społeczeństwa czuje się zagrożona potencjalnymi efektami rozwoju takich dziedzin jak robotyka czy Sztuczna Inteligencja. W odpowiedzi na te zagrożenia w różnych środowiskach od pewnego czasu prowadzona jest dyskusja na temat etycznych wyzwań związanych z nowymi technologiami. Tematyka ta została podjęta przez szereg instytucji naukowych (takich jak MIT), Komisję Europejską i OECD, a także przez wiele czołowych firm technologicznych (m.in. IBM).
Temat ten został także podniesiony przez Towarzystwo Ekonomistów Polskich. 18 września TEP wspólnie z Alior Bankiem zorganizowali seminarium nt. wyzwań etycznych dla Sztucznej Inteligencji, Blockchain i innych nowych technologii.
Seminarium, które odbyło się w gościnnej w przestrzeni RBL Alior Banku otworzyli Tomasz Sienicki, menedżer ds. strategii technologii Blockchain w Alior Banku i Jacek Wojciechowicz, koordynator projektu TEP pt. Blockchain i Nowe Technologie, a zawodowo menedżer projektu wdrażania standardów etycznych w PKP Energetyka. W seminarium wzięło udział około 50 uczestników, reprezentujących środowiska biznesowe, technologiczne i akademickie, a także gość z Komisji Europejskiej.
W trakcie seminarium prezentacje przedstawili: Tomasz Sienicki (Alior Bank) – „Aspekty etyczne wykorzystania Blockchain”, Jacek J. Wojciechowicz (TEP) – „Blockchain i nowe technologie. UE: etyka i Sztuczna Inteligencja”, Tomasz Szymański (CEO i założyciel Software Mill) – „Pułapki (nie)etyczne w Blockchain”, Dr Sebastian Szymański (UW) – „Etyczne aspekty Internetu Rzeczy (IoT), dr hab. Iwona Karasek-Wojciechowicz (UJ, EU Blockchain Observatory and Forum i radca prawny Kancelaria Karasek&Wejman) – „Przestrzeganie prawa i realizacja zasad etycznych w zdecentralizowanym governance Permisionless Blockchains1”, Piotr Beńke (Chief Technology Officer dla IBM Poland and Baltics) – ” Dlaczego należy przejmować się etyką w budowaniu rozwiązań AI” oraz dr Małgorzata Starczewska-Krzysztoszek (WNE UW i TEP) – „Nowe technologie: etyka a produktywność”.
Tomasz Sienicki, Tomasz Szymański i Iwona Karasek-Wojciechowicz skoncentrowali się na technologii Blockchain. Tomasz Sienicki postawił szereg pytań kwestionujących etyczność tej technologii, wymieniając m.in. eliminację pośredników w transakcjach, duże zużycie energii elektrycznej przez „górników’, oszustwa podczas ICO, możliwość finansowania działalności przestępczej i terrorystycznej i oszustw podatkowych, „naciąganie klientów” na projekty, nawiązujące do Blockchain, praktycznie bezkarne przechowywanie treści nieetycznych i nielegalnych, emisja walut anonimowych. Tomasz Szymański dodał do tych problemów podatność na ataki, manipulacje marketingowe i fluktuacje cen krypto walut. Iwona Karasek-Wojciechowicz wskazała na potencjalne szkodliwe cechy Blockchain, takie jak brak możliwości efektywnej ingerencji w razie szkodliwego działania, praktyczny brak możliwości usunięcia treści naruszających prawo, naruszenia prywatności, brak egzekwowalności prawa, czy problemy z praniem pieniędzy. Przestawiając rekomendacje FATF oraz innych ekspertów, zaproponowała wspieranie pełnej anonimowości Permissionless Blockchains pod warunkiem spełnienia wymogu zastosowania funkcji identyfikacji, czy zwalczania Blockchainów niewspierających identyfikacji. Zwróciła też uwagę na potrzebę kształtowania postaw etycznych członków społeczności „blockchainowych”, a zwłaszcza użytkowników Permissionless Blockchains.
Problematykę Sztucznej Inteligencji (AI) podjęli Piotr Beńke i Jacek Wojciechowicz. Pierwszy z ekspertów wskazał na zagrożenie, jakim może być zwiększenie się systemów AI z „uprzedzeniami”, wskazując jednocześnie, że nowe technologie potrafią pomóc w kontrolowaniu tego zjawiska. Postawił też szereg pytań: Czy AI powinna uzyskać świadomość lub niezależność? Czy możemy mieć zaufanie do rekomendacji AI, rozwiązań i użytkowania (na przykład przy diagnozach medycznych)? W jaki sposób uwzględnić umiejętności ludzkie, na które ma wpływ AI (roboty)? Czy udostępniać wyniki uzyskane w pracach R&D? Piotr Beńke wskazał też możliwości rozwiązywania potencjalnych problemów, na przykład przez użycie AI do rozszerzenia ludzkich możliwości, a także zastosowanie zasad transparentności przy rozwijaniu AI. Pokreślił konieczność stosowania ludzkiej moralności, intuicji i oceny, przy jednocześnie zapewnionej zasadzie ochrony danych i praw, wpisanej w „DNA” Sztucznej Inteligencji. Z kolei Jacek Wojciechowicz wskazał na potencjalne zagrożenia związane ze Sztuczną Inteligencją, a w szczególności na możliwość stosowania Silnej Sztucznej Inteligencji przez nie respektujących praw człowieka autorytarnych przywódców i reżimy do celów militarnych czy antydemokratycznych. Podsumował także przyjęte w kwietniu 2019 roku przez Komisję Europejską wytyczne etyczne skierowane do twórców i użytkowników Sztucznej Inteligencji, które podkreślają konieczność kreowania i promowania Godnej Zaufania Sztucznej Inteligencji (Trustworthy AI). Zwrócił także uwagę na potrzebę samoregulacji środowisk biznesowych, w tym na konieczność tworzenia standardów etycznych dotyczących AI, a także na konieczność edukacji etycznej programistów – twórców Sztucznej Inteligencji oraz użytkowników końcowych.
Sebastian Szymański wskazał na wyzwania związane ze stosowaniem Internetu Rzeczy (IoT), takie jak gromadzenie i przetwarzanie informacji na nieznaną dotąd skalę, kwestie świadomej zgody w sytuacji asymetrii informacji, ochronę prywatności, bezpieczeństwo informacji i bezpieczeństwo fizyczne związane m.in. z przejęciem procesów sterowania przez osoby nieuprawnione.
W wystąpieniu zamykającym sesję prezentacji Małgorzata Starczewska-Krzysztoszek postawiła pytanie, czy coraz szersze stosowanie nowych technologii, dzięki którym jest szansa na wzrost produktywności, w tym lepsze wykorzystywanie zasobów ludzkich, kapitałowych i naturalnych może stać w sprzeczności z ich etycznym wykorzystaniem. Dzięki nowym technologiom zmieniają się modele biznesowe, rośnie potęga globalnych firm dostarczających nowych technologii i firm z nich korzystających, a tym samym oligopolizuje się rynek. Dynamicznie rośnie wykorzystanie robotów w przemyśle, a także w usługach, co nie pozostaje bez wpływu na rynek pracy. Nakłady na B+R skoncentrowane są w czterech branżach (farmacja i biotechnologia, sprzęt komputerowy, samochody i części, oprogramowanie i usługi komputerowe), co także uzasadnia pytanie o wzajemne relacje między etyką a produktywnością przy korzystaniu z nowych technologii.
Po prezentacjach odbyła się krótka sesja pytań i odpowiedzi i dyskusja z uczestnikami seminarium.
Uczestnicy seminarium, w rozmowach kuluarowych i komentarzach podkreślali wysoki poziom merytoryczny seminarium i wagę zagadnień, jakie zostały przedstawione.
» Wyzwania etyczne technologgi blockchain – Tomasz Sienicki, Alior Bank
» Is an Ethic a real concern in AI systems? Piotr Beńke, IBM
» Wpływ regulacyjny etyki i prawa na blockchains, Iwona Karasek-Wojciechowska, K&W
» Pułapki (nie)etycznew blockchain, Tomasz Szymański, SoftwareMill
» UE: Etyka i AI, Jacek Wojciechowski, TEP
» Etyczne aspekty Internetu Rzeczy (IoT), dr Sebastian Szymański, UW
» Nowe technologie – etyka a produktywność, Małgorzata Starczewska-Krzysztoszek, TEP
Słownik terminologii nowych technologii
BLOCKCHAIN – struktura dla przechowywania danych, gdzie grupy potwierdzonych transakcji, nazywanych „blokami” formują chronologiczny łańcuch, w którym każdy blok jest kryptograficznie połączony z poprzednim. Zwany także technologia zaufania. Służy do przechowywania i przesyłania informacji o transakcjach zawartych w Internecie.
PERMISIONLESS BLOCKCHAIN- baza danych- oparta o blockchain, do którego każdy może wstąpić.
PERMISSIONED BLOCKCHAIN – współdzielona baza danych o strukturze blockchaina, gdzie uczestnicy muszą uzyskać wstępną zgodę, zanim mogą coś zapisać lub przeczytać.
FATF – FINANCIAL ACTION TASK FORCE – międzyrządowa instytucja powołana w 1989 roku przez grupę 36 państw, Komisję Europejską i dwie organizacje regionalne. Zadaniem FATF jest tworzenie standardów i promowanie stosowania rozwiązań w walce z praniem pieniędzy, finansowaniem terroryzmu i innymi zagrożeniami dla międzynarodowego systemu finansowego.
ICO (ang. Initial Coin Offering) – pierwsza oferta publiczna krypto-tokenów, często porównywana do IPO (pierwszej oferty publicznej spółki). Forma finansowania firm/start-upów debiutujących na rynku krypto/technologii blockchain. Zamiast akcji inwestorzy mogą kupić tokeny tejże firmy.
INTERNET of THINGS (IOT), po polsku internet rzeczy – system, w którym przedmioty, korzystając z czujników i internetu bądź innego sposobu przesyłania danych, mogą pośrednio (np. za pomocą specjalnych czipów) lub bezpośrednio (za pomocą oprogramowania) komunikować się ze sobą w celu wymiany i gromadzenia danych. Dotyczy to to zarówno sprzętów domowych, jak i np. pojazdów czy nawet zakładów produkcyjnych, samolotów, całych miast.
SZTUCZNA INTELIGENCJA – (ang. Artificial Intelligence, AI) – gałąź informatyki, która ma ułatwiać opracowywanie i rozwój komputerów zdolnych do wykonywania czynności będących zazwyczaj domeną ludzi, szczególnie tych wymagających użycia ludzkiej inteligencji.
SILNA SZTUCZNA INTELIGENCJA (ang. ARTIFICIAL GENERAL INTELLIGENCE) – jest zdolnością programów AI do uczenia się, rozumowania I funkcjonowania całkowicie jak istota ludzka. Systemy takie będą mogły niezależnie tworzyć złożone kompetencje, sieci połączeń z bazami danych i domenami internetowymi. Potencjalnie może także wytworzyć własna świadomość.
UPRZEDZONA (BIASED) SZTUCZNA INTELIGENCJA – zjawisko, które powstaje, kiedy w wyniku procesów uczenia maszynowego (ang. machine learning) powstały algorytm jest uprzedzony w wyniku oparcia się o błędne założenia (na przykład uprzedzenia rasowe, dotyczące płci, itp.).
TOKEN – moneta będąca aktywem lub posiadająca jakąś wartość, np. jakieś zastosowanie (np. tylko za jej pomocą można kupić usługi na jakiejś platformie). Nie posiada swojego blockchaina tylko jest zbudowana na blockchainie innej kryptowaluty.
1 Termin „Permissionless Blockchain” i inne wyjaśniamy w słowniczku terminów z dziedziny nowych technologii