Sztuczna inteligencja obróci się przeciwko człowiekowi? Ważna przestroga naukowców

(fot. unsplash.com/jIBMSMs4_kA)

Sztuczna inteligencja coraz mocniej wkracza w nasze życie i jej obecność zauważamy już niemal codziennie. Powraca więc pytanie, które było niezwykle popularne w początkach ery cyfrowej – czy pewnego dnia wszystko to nie obróci się przeciwko człowiekowi? Naukowcy z Instytutu Maxa Plancka są zdania, że nie będziemy w stanie w pełni kontrolować AI.

Choć wizja świata, który zostaje całkowicie przejęty przez maszyny to raczej obraz z filmów science fiction – zauważa Manuel Celebrian – już w tej chwili znane są przypadki działania robotów, które na podstawie AI potrafią wykonywać czynności, których ich autorzy nie przewidzieli. Wskazał, że opanowały one tę wiedzę w sposób, który nie jest znany ich twórcom.

Otwartym pozostaje więc pytanie o to, czy implementacja „algorytmów powstrzymania” okaże się wystarczająca. Z technologią AI mamy do czynienia coraz częściej i nie sposób dziś powiedzieć czy w pewnym momencie człowiek nie przestanie nad nią panować. Autorzy dokumentu zastanawiali się nad różnymi sposobami, które mogłyby pozwolić na lepszą kontrolę nad sztuczną inteligencją.

Dyskutowany był m.in. pomysł ograniczenia AI dostępu do internetu. Okazuje się jednak, że nie ma takiego „algorytmu powstrzymania”, który byłby całkowicie skuteczny i zapewniał, że maszyny nie będą działać na naszą szkodę.

Eksperci zaznaczają, że nawet jeśli wobec maszyn zastosuje się zasady mające uniemożliwić im działanie przeciwko czy w sprzeczności z ludzkimi zamierzeniami, istnieje ryzyko że sztuczna inteligencja dojdzie do własnych wniosków. Stąd też zdaniem Iyada Rahwana z Centrum Ludzi i Maszyn wspomnianego instytutu, AI należy rozwijać tylko do pewnego momentu. Przeoczenie granicznej linii może mieć nieprzewidywalne konsekwencje.

ds/businessinsider.com.pl,PCh24.pl

Udostępnij