Film dnia: Pułapki technologii – zabójcze robociki

W ostatnich wiekach w naszej kulturze utrwalił się pogląd, że nowe technologie mogą rozwiązać każdy problem. Znajdowaliśmy technologiczne rozwiązania wielu problemów: zwiększyliśmy produkcję żywności, potrafimy odsalać wodę morską, opracowaliśmy lekarstwa na śmiertelne kiedyś choroby, rozwinęliśmy systemy szybkiego transportu i jeszcze szybszej komunikacji, pracujemy nad sztuczną inteligencją, nanotechnologiami, zaawansowanymi metodami inżynierii genetycznej i szeregiem innych technologii, które kiedyś byłyby nieodróżnialne od magii. Bez wątpienia wymyślimy jeszcze wiele nowych rozwiązań.

Wzrost naszej populacji oraz wzrost zapotrzebowania na zasoby zmusza nasz do pogoni za coraz bardziej zaawansowanymi technologiami. Niesie to za sobą wiele wyzwań, problemów i zagrożeń, o których pisaliśmy np. w artykule „Nowe technologie rozwiążą problemy”.

Sztuczna inteligencja i automatyzacja mogą pozwolić na stworzenie inteligentnych sieci energetycznych, autonomicznych samochodów i wielu innych rozwiązań pomagającym nam w redukcji zużycia zasobów. Przyniosą też jednak poważne wyzwania – od eliminacji licznych miejsc pracy, a nawet zawodów, przez narastanie nierówności (zyski dla właścicieli zrobotyzowanych i skomputeryzowanych koncernów) i destabilizację sytuacji geopolitycznej (droga wzrostu gospodarczego, którą poszła po upadku komunizmu Polska lub uprzemysławiające się Chiny, polegająca na przejmowaniu z krajów Zachodu bardziej pracochłonnych czynności, dla krajów Afryki czy Indii może już być zamknięta) aż po możliwość wprowadzenia totalnej inwigilacji i powstanie tanich i łatwych do rozpowszechnienia autonomicznych systemów broni.

Tej ostatniej kwestii poświęcony jest film – ostrzeżenie, będący częścią kampanii na rzecz wprowadzenia światowego zakazu budowy autonomicznych systemów bojowych.

Marcin Popkiewicz

Komentarze

20.12.2017 3:50 gupol(szukam w OZE)

hehe, sztuczna inteligencja. błągam. to są mżonki. technologie komputerowe mają jakby dwa oblicza - teoretyczne i praktyczne.
i rzeczywiście, teoretycznie mamy superkomputery o ogromnej mocy obliczeniowej co do wykonują pierdyliony obliczeń na sekundę i w szachy biją każdego człowieka na głowę ale jakoś nie potrafią przekroczyć bariery praktycznej "autonomiczności".
bo w praktyce, poza labolatorium ich wyniki są dość marne.
antropomorficzny robot co nie jest w stanie zawiązać sznurowadła w bucie to jedno ale wystarczy powiedzieć że nigdzie nie ma nawet automatycznego systemu dokowania statków w porcie a automatyczny pilot w samolotach może co najwyżej utrzymywać kurs w czasie lotu. ale już sam wystartować nie potrafi, o bezpiecznym lądowaniu nie wspominając. nie mówiąc o tym że utrzymywanie kursu nie zawsze mu wychodzi a zbytnia ufność w możliwości "zaawansowanych" autopilotów była przyczyną wielu spektakularnych katastrof lotniczych.
to wszystko jest jeszcze w powijakach oraz sferze s-f i raczej nie zanosi się na rychłą zmianę tej sytuacji...
może komputer kwantowy zmieni ten obraz ale zanim go opracują, kryzys energetyczny zepchnie nas z powrotem do jaskiń

20.12.2017 12:54 Marcin Aleksander Leszczy

może tak być właśnie - że nastanie kryzys braku paliw i katastrofy klimatyczne (przy spadku aerozoli mogą znacznie przyśpieszyć) dobiją gwoździ do trumny i nie tyle pójdziemy naprzód w technologii ale cofniemy się, ale też może nastąpić przełom w technologii i powstanie taki skynet jak w terminatorze, uważam, jednak, że jest to mniej prawdopodobne niż peak oil czy groźna zmiana klimatu, które wiadomo, że nadchodzą wielkimi krokami, są prognozy - a na AI są też, ale jest duzy rozrzut czasowy nawet to tysiąca lat albo np. nigdy. Pożyjemy, zobaczymy.

20.12.2017 14:34 PIT

AI wygrało z mistrzem "GO", która to gra jest o wiele bardziej trudniejsza niż szachy.
Jeszcze w 2015 uważono, że to jest niemożliwe. Wystarczyły tylko 2 lata.

https://www.theguardian.com/technology/2017/may/25/alphago-google-ai-victory-world-go-number-one-china-ke-jie

BostonDynamics również nie próżnuje, postępy są widoczne gołym okiem.
https://www.youtube.com/watch?v=fRj34o4hN4I

Co ciekawe ostatnio Paul Beckwith stwierdził, że gdyby nakarmić AI danymi o zmianach klimatu to jest oczywistym, że AI wypluła by następujący wynik:

Problemem jest przeludnienie.

20.12.2017 15:34 Marcin Leszczyński

Przeludnienie? To na pewno :).
Do tego AI nie trzeba.

Myślę, że problemem jest wygoda, tworzymy uzależniającą technologię, która tworzy różne problemy, które dalej pogłębiamy kolejnymi technologiami.

Skoro tak działa organizm najbardziej inteligentny na Ziemi, to można zaryzykować stwierdzenie, że superinteligentny organizm (AI) będzie w tym tylko lepszy.

20.12.2017 17:57 CZORNYJ

@GUPOL do zabijania nie trzeba wielkiej inteligencji . Starczy że będzie przemieszczać się z punktu a do b bez wpadania na ściany atakując po drodze wszystko co ma wskazaną sygnaturę cieplną lub optyczną .
Pierwsze praktyczne opracowania to amunicja inteligentna z końca zimnej wojny . Lecąca rakieta porównuje sobie to co widzi z zapisanymi w pamięci obrazami czołgów wroga i jak taki pozna to w niego uderza .
Na identycznej zasadzie działają automatyczne systemy rozpoznawania twarzy przy miejskim monitoringu .
Mój opowiadał że polski Rosomak też ma taką opcje . Może automatycznie celować w plamy ciepła wielkości człowieka . Pozostaje pociągnąć za spust działka .
Jeszcze inna sprawa , pamiętasz jak kilka lat temu w ramach testów można sobie było czatować z SI ?
Dzisiaj tamte algorytmy mają praktyczne zastosowanie , w automatach trollingowych . Ciężko odróżnić spamujący komputer od monotematycznego idioty .

Androidy są już od kilku lat tworzone na dalekim wschodzie . Głównie jako zaawansowane seks lalki . Uważam że już teraz z korporacyjnymi czy rządowymi funduszami można by stworzyć mordercę którego nie odróżniłbyś od człowieka póki nie byłoby za późno . Nie musiałby być zbyt bystry . Jedynie zbliżyć się do celów udając rannego czy w szoku by ukryć sztywność ruchów i uderzyć . Nawet kule karabinowe jedynie szarpałyby sylikonowe pokrycie na pancernym szkielecie .
Droga i skomplikowana broń ale straszliwie niszczyłaby morale zaatakowanych .

O takich jak prosty gokart na gąsienicach z cekaemem czy mały czołg obwieszony wyrzutniami rakiet już tu kiedyś wspominałam . Rosjanie użyli ich w Syrii przeciwko isis .

20.12.2017 18:53 Rafał

Wszyscy sceptycy co do AI uważajcie. Sami jesteście tworem bezrozumnego procesu jakim jest ewolucja, jednak w skutek ogromu czasu proces ten stworzył coś tak skomplikowanego że potrafi odczytać tekst na tym forum.
Jak myślicie co będzie potrafiła stworzyć świadoma swoich celów inteligencja?
Dodatkowo inteligencja pozbawiona jakiejkolwiek moralności, to znaczy nowoczesna i postępacka.

21.12.2017 2:43 gupol(szukam w OZE)

@czornyj

jasne że do zabijania nie potrzeba żadnej sztucznej inteligencji. wystarczy ludzka inteligencja i jej urządzenia/pułapki etc. w zasadzie im bardziej skomplikowana broń tym większa awaryjność. z militarnego punktu widzenia grunt to prostota i skuteczność. sztuczna inteligencja tylko by tu przeszkadzała i wydłużała czas automatycznej reakcji.

@czornyj
"Starczy że będzie przemieszczać się z punktu a do b bez wpadania na ściany"

i właśnie taka wydawałoby się dziecinnie prosta czynność jak nie wpadanie na ściany jest ciągle nieosiągalna dla automatów. chyba że najpierw wprowadzisz dokładne dane trasy którą ma się przemieszczać ale to nie jest żadna autonomia.
idea pojazdów autonomicznych polega właśnie na tym że potrafią one poruszać się w terenie nieznanym. reagować na bodźce otoczenia i samodzielnie podejmować konkretne decyzje.

czyli nawet skonstruowanie "robota" o inteligencji muchy lub meduzy jest dziś ciągle nie osiągalne.
@pit
i właśnie dlatego to że komputer wygrał z człowiekiem w jakąś grę komputerową nic nie znaczy.
a ten fajny gimnastyczny robot? przecież on nie potrafiłby wejść po zwykłych schodach gdyby wcześniej nie wgrać mu ich dokładnej mapy. swoją drogą ciekawe ile prób musieli zrobić konstruktorzy i jak długo to trwało zanim ten robot chociaż raz przeszedł ten dość prosty tor przeszkód.

@"Co ciekawe ostatnio Paul Beckwith stwierdził, że gdyby nakarmić AI danymi o zmianach klimatu to jest oczywistym, że AI wypluła by następujący wynik:"

to jaki byłby wynik zależy od tego kto i czym by karmił AI gdyby ona oczywiście istniała...

@rafał
Jak myślicie co będzie potrafiła stworzyć świadoma swoich celów inteligencja?

ja myślę że taka myśl to produkt bezmyślności. jeśli już to czyste bajkopisarstwo i bujanie w obłokach. wróżenie z fusów i fallusów. na razie nie ma żadnej AI i nic o niej nie wiadomo. a ewolucja tworów niebiologicznych... cóż. można się bawić w dawkinsa i mówić np o ewolucji kamieni od pięściaków do grotów strzał i noży oraz od krzemieni do krzemu z zepchnięciem roli człowieka na drugi plan ale to już jest śmieszne.

21.12.2017 12:12 PIT

@GUPOL

Właśnie o to chodzi, że początki AI już istnieją. AI to algorytm sztucznej inteligencji próba odwzorowania sieci neuronów. Taki algorytm musi się najpierw nauczyć się danej gry. Im więcej rozegra partii tym staje się lepszy albo specjalne się go uczy karmiąc go danymi.

To nie jest tak, że programista napisał wszystkie ruchy i scenariusze.
Właśnie o to chodzi, że te algorytmy działają na innej zasadzie.
Kiedyś tak było, że to programista pisał co ma się wykonać, a przy tego rodzaju algorytmów programista nie wie dlaczego komputer wykonał taki ruch, a nie inny? To trochę żyje już własnym życiem.

21.12.2017 13:47 WJ

@PIT
Dotknąłeś sedna. Czytałam, że proces uczenia jest już poza rozumieniem programistów. Można pokusić się na wyrost o analogię do ludzkiej świadomości, której mechanizmów nie znamy.
Przy programie komputerowym AlphaGo tak się zadziało, dlatego to tak zaskakujące i budzące niepokój.

21.12.2017 15:43 observer

@WJ
" Czytałam, że proces uczenia jest już poza rozumieniem programistów. Można pokusić się na wyrost o analogię do ludzkiej świadomości, której mechanizmów nie znamy."

Niezupełnie. Jedną z podstaw uczenia się przez AlphaGo jest algorytm przeszukiwania drzewa (wariantów) metodą Monte Carlo
https://pl.wikipedia.org/wiki/Monte-Carlo_Tree_Search

Uczenie polega na wykonywaniu przypadkowych ruchów i zapamiętywaniu, które były skuteczne. Chodzi o to, by nie przeszukiwać wszystkich możliwości, tylko te najczęstsze. Clue polega na wybraniu odpowiedniego wzoru na to, które możliwości eksplorować, a których nie. Algorytm zastosowany w AlphaGo okazał się niezwykle skuteczny, jednak wciąż nie jest to algorytm, który pozwalałby tzw. AI zdecydować, że dzisiaj nie będzie grała w Go tylko pójdzie na spacer. W tym sensie jesteśmy jeszcze daleko do takiej "prawdziwszej" AI.

Natomiast niewątpliwym sukcesem algorytmów stojących za AlphaGo jest to, że powszechnie spodziewano się, że komputer wygra z człowiekiem w Go dopiero za kilka lat. Algorytmy AlphaGo pozwoliły drastycznie zmniejszyć zbiór przeszukiwanych wariantów, co spowodowało, że już dzisiejsze komputery były w stanie zastosować i wygrać w tę grę.

Jeśli chodzi o systemy bojowe, to zastosowanie takich algorytmów upraszcza urządzenie, które steruje np. działem, bo pozwala na zastosowanie zamiast dogłębnych analiz i rozpatrywania wszystkich wariantów - użycia heurystyk i sprawdzenie tylko części wariantów (odpowiednio wytypowanych). W ten sposób robot bojowy może dźwigać mniejszy komputer z mniejszymi bateriami oraz z większą skutecznością niszczyć wrogie cele (szybciej decydować, czy strzelać, czy nie i rzadziej zabije swoich niż obcych).

21.12.2017 15:48 logic

Ten robocik chyba ma czujnik naprowadzający go na cel za pomocą promieniowania cieplnego jakie emituje człowiek i mikro głowice bojową na oko mały ładunek kumulacyjny ze 3 g PETN i wkładka z miedzi wystarczy żeby przebić nawet kilka milimetrów blachy a co dopiero czaszkę. Ciekawe jak silnego impulsu elektromagnetycznego trzeba żeby to sparaliżować.

21.12.2017 15:57 logic

Czekam na broń nanotechnologiczną - sztuczny wirus mający zdolność autoreplikacji i mogący rozpoznać cel po typie DNA. Po rozpoznaniu celu po cichu samoreplikuje się w organizmie i w wybranym czasie atakuje produkując toksyny. Tylko wystarczy jeden bład w programie i ofiarą pada cała ludzkość albo w ogóle wszystkie organizmy żywe na planecie.

21.12.2017 22:10 WJ

@OBSERVER
Dziękuję :)

22.12.2017 0:33 adaś

Nie mam żadnych poważnych obaw dotyczących sztucznej inteligencji. Bez wsparcia naszej, naturalnej inteligencji bardzo szybko skazana jest na porażkę.
A nawet gdy bardzo będziemy ją wspierać jeden lepszy wybuch na Słońcu może nam strasznie namieszać.

Jako osobniki inteligentne i ciekawe działania świata mamy wiedzę na różne tematy. Np.ktoś wie jak dokładnie przebiega proces trawienia pokarmu, jakie enzymy w tym uczestniczą itp. Jednak ta wiedza nie sprawia że ten ktoś będzie lepiej trawił obiadek niż osobnik który wiedzy o enzymach nie ma. Jeszcze ciekawiej sprawa przejawia się z powielaniem inteligencji. Kobieta i mężczyzna nie mający żadnej wiedzy naukowej o komórce jajowej, plemnikach, hormonach itd. zadziwiajaco łatwo potrafią spłodzić osobnika równie inteligentnego jak oni, który będzie umiał przetrwać te kilkadziesiąt lat i spłodzi następnych.
Nie sądzę aby sztuczna inteligencja osiagnęła kiedykolwiek taką autonomię i takie możliwości.
Mnie dużo bardziej ciekawi np. ten temat :
https://www.money.pl/gospodarka/wiadomosci/artykul/kryzys-finansowy-krach-prognozy-2018-rynki,192,0,2394048.html
Czy to naprawdę już w przyszłym roku czy , czy mamy jeszcze kilka lat ? I jak nasza inteligencja sobie z tym poradzi ?

22.12.2017 16:08 CZORNYJ

@GUPOL że coś jest wykonalne nie znaczy że jest opłacalne . Choć na nie tak głupie projekty topiono pieniądze podatników bezpośrednio lub pośrednio w firmach "za wielkich by upaść" .

@LOGIC raczej niezbyt duży . Skuteczne ekranowanie czy użycie wysokiej jakości , odporniejszych komponentów zwielokrotniłoby by koszt takiego robocika kamikadze .
Najprościej byłoby się schować na przykład w samochodzie czy odpowiednio szczelnym pomieszczeniu . W ostateczności strącić jakimś przedmiotem albo nawet chwycić w rękę . Lepiej stracić dłoń jak głowę :D

Osobiście sądzę że o wiele większym zagrożeniem są ciut większe latające drony . Takie które mogą przenieść nawet kilka kilo materiału wybuchowego . Zdalnie sterowane bądź lecące po zaprogramowanej trasie by nie można ich było zakłócić . Islamiści w Syrii takie składali . Wątpię żeby w trakcie przeprowadzki do Europy nagle zapomnieli . Tanie , proste i nie trzeba skomplikowanej linii produkcyjnej .

@ADAŚ nie tyle sama SI co to ma kiedyś tam przerosnąć człowieka co efekty uboczne prac nad nią . Skutkujące upowszechnieniem i miniaturyzacją pewnych technologii . Niemiecki goliat z czasów wojny był głupszy niż zdalnie sterowany samochodzik z biedronki za 40 zł a i tak śmiertelnie groźny .
Mimo krachów , kryzysów i peaków rządy i korporacje może być bardzo długo stać na stosowanie dojrzałych już technologii militarnych .

22.12.2017 16:16 PL

Kwantowy komputer IBMa dostępny w chmurze

https://www.elektroda.pl/rtvforum/viewtopic.php?t=3410634&sid=96265e105d879dd6fa24aff449989dae

22.12.2017 18:20 Rafał

@ADAŚ
Oczywiście że krach przyjdzie, wywołają go hazardziści giełdowi, wszak nie od dziś wiadomo że najlepiej zarabia się na spadkach.
Trzeba upuścić krwi rynkowi, oszwabić większość żeby mniejszość mogła żyć lepiej.

23.12.2017 3:09 gupol(szukam w OZE)

@pit
słuchaj, jak wyślą na marsa robota który sam zdecyduje czy ma ominąć kamień czy przez niego przejechać zamiast czekać od 4 do 24 minut na instrukcję z ziemi to pogadamy.
@czornyj
"że coś jest wykonalne nie znaczy że jest opłacalne"

no cóż, zatem powstaje otwarte pytanie" czy stworzenie sztucznej inteligencji jest opłacalne?

23.12.2017 14:46 CZORNYJ

Tworzenie było ale już nie jest . Automatyzacja przekroczyła punkt w którym dalsze komplikacje generują skokowe koszty przy wątpliwych zyskach . A praca ludzka tanieje i w miarę kolejnych peaków będzie tanieć jeszcze bardziej . Stworzenie prawdziwej SI na pewno nie jest . Ale starcy z pokolenia 68 nienawidzą samych siebie i ludzi jako takich , w imię przekonań będą promować najbardziej nawet absurdalne projekty trans-humanistów .

24.12.2017 1:57 gupol(szukam w OZE)

no i muszę się zgodzić. nie jestem w stanie przytoczyć przekonujących mnie kontrargumentów.

Dodaj komentarz

Kod
grakalkulator kalkulator zuzycia ciepla

Informacje

Linkownia

Wykonanie PONG, grafika GFX RedFrosch.



logowanie | nowe konto