Eksperci: sztuczna inteligencja musi być podporządkowana ludziom

(fot. shutterstock.com)

Uniwersytet Montrealski zakończył prace nad projektem zasad rządzących sztuczną inteligencją. Systemy Artificial Intelligence (AI) powinny szanować prywatność i podlegać kontroli - podkreślono w Deklaracji Montrealskiej.

 

Kanadyjskie media zwracały uwagę, że deklarację należy czytać w kontekście takich wydarzeń, jak skandal z firmą Cambridge Analytica czy wprowadzanie systemów rozpoznawania twarzy przez rządy i siły policyjne.

 

Montreal jest jednym z kanadyjskich miast, w których firmy takie jak Google, Facebook czy Microsoft utworzyły centra prac nad AI. Akurat w dniu ogłoszenia deklaracji inwestycje ogłosiły trzy firmy z Wielkiej Brytanii: QuantumBlack, WinningMinds i BIOS.

 

"Po raz pierwszy w historii ludzkości jest możliwe tworzenie autonomicznych systemów zdolnych wykonywać złożone zadania, o których dotychczas sądzono, że zarezerwowane są dla naturalnej inteligencji" - napisano w preambule deklaracji, nad którą przez rok pracowało 100 specjalistów. Podkreślono też, że "pierwszym zagrożeniem związanym z rozwojem AI jest złudzenie, że można zapanować nad przyszłością dzięki obliczeniom". "Zredukowanie społeczeństwa do liczb i rządzenie nim dzięki algorytmom jest starym marzeniem" i stąd też celem deklaracji jest dostarczenie "etycznego kompasu".

 

"Sztuczna inteligencja powinna przyczyniać się do zwiększenia dobrostanu wszystkich czujących istot" - tak brzmi pierwsza z 10 zasad.

 

Portal publicznej telewizji CBC cytował profesor filozofii Christine Tappolet z Uniwersytetu Montrealskiego, uczestniczącą w pracach nad deklaracją, która podkreślała, że konieczne są normy i wartości, które będą towarzyszyć rozwojowi nowych technologii.

 

Stąd punkt drugi deklaracji, o respektowaniu autonomii człowieka i wspomaganiu zwiększania przez człowieka kontroli nad własnym życiem i otoczeniem. W punkcie trzecim zawarto zasadę ochrony prywatności.

 

Kolejne punkty dotyczą respektowania zasad solidarności społecznej i kontroli demokratycznej nad istniejącymi systemami AI. Zasada szósta dotyczy zobowiązania twórców systemów AI do wzmacniania równości i tworzenia społeczeństw bazujących na sprawiedliwości, zasada siódma - utrzymania różnorodności społecznej i inkluzywności.

 

Zasady od ósmej do dziesiątej dotyczą bezpieczeństwa: przewidywania negatywnych zastosowań, utrzymywania ludzkiej odpowiedzialności i nieprzerzucania jej na systemy AI oraz zapewnienia odpowiedzialnego rozwoju.

 

Tappolet zwróciła uwagę na obawy związane z konstrukcją nowych typów broni, które mogłyby samodzielnie podejmować decyzje wspomagane przez AI.

 

Na potrzebę stworzenia standardów w pracach nad AI wskazało we wrześniowym raporcie Citizen Lab przy Uniwersytecie Toronto. Napisano w nim m.in., że wykorzystanie przez rząd AI do przetwarzania wniosków imigracyjnych - takie badania prowadzi rząd w Ottawie - może prowadzić do dyskryminacji, naruszeń prywatności i praw człowieka. Tymczasem mogą pojawiać się sytuacje, gdy w grę wchodzi ludzkie życie.

 

Autorzy raportu sporządzili siedem rekomendacji dla rządu federalnego, wzywając m.in. do powołania niezależnej instytucji nadzorczej oraz federalnego zespołu badawczego, "aby lepiej zrozumieć obecny i przyszły wpływ zautomatyzowanych systemów podejmowania decyzji na prawa jednostki i szerzej na interes publiczny".

 

Potrzebą praw rządzących sztuczną inteligencją zajmowali się już dawno powieściopisarze, a na powieści zwracały uwagę także rządy. W 1942 roku Isaac Asimov w opowiadaniu "Zabawa w berka" sformułował trzy prawa robotyki, do których dodał następnie prawo nadrzędne: Robot nie może skrzywdzić ludzkości lub poprzez zaniechania działania doprowadzić do uszczerbku dla ludzkości.

 

Prawom robotyki Asimova i jego koncepcji psychohistorii pozwalającej na bazie statystycznej przewidywać przyszłość rząd Kanady już kiedyś poświęcał uwagę. Na stronach internetowych Canadian Forests Service (lasy państwowe) znajduje się artykuł z 1996 roku, w którym podkreślono, że prognozowanie zachowań ludzkich jest już możliwe, tak jak przewidywał to m.in. Asimov. Z kolei Frank Herbert w sześciotomowym cyklu "Diuna" pisał o krucjacie przeciw komputerom, której rezultatem było obowiązujące w przyszłości przykazanie "nie będziesz czynił machin na podobieństwo rozumu ludzkiego".

 

Wspomóż Nas

Twoja ocena:

Średnia ocen:

3

Liczba głosów:

2

 

 

Komentarze użytkowników (2)

Sortuj według najnowszych

Zgłoś do moderacji

BS_LEx 11:49:47 | 2018-12-09
Oby tonie był tylko kolejny "zbiór pobożnych życzeń"!

Oceń 1 Pokaż odpowiedzi odpowiedz

Facebook @portalDEONTwitter @deon_plYouTube @portalDEONplInstagram @deon_plKontakt

Logowanie

 
Opcja umożliwiająca automatyczne logowanie w serwisie przy kolejnej wizycie. Jest aktywna do momentu wylogowania.
zarejestruj się zapomniałeś hasła?
Zaloguj przez Facebook