AI i samoodržanja

[Manga Hilux]

Stručnjak za AI: Kada mašine postanu samoodržive, u nevolji smo​

Većina scenarija katastrofe počinje isto: mašine će nadmašiti ljudske kapacitete, izmaći će ljudskoj kontroli i odbiće da budu isključene.
IZVOR: POSLOVNI

Foto: Sarunyu L / Shutterstock.com


Upozorenja stižu sa svih strana – veštačka inteligencija predstavlja egzistencijalni rizik za čovečanstvo i mora da se obuzda pre nego što bude prekasno.

Ali koji su to scenariji katastrofe i kako bi mašine mogle da zbrišu čovečanstvo?


Većina scenarija katastrofe počinje isto: mašine će prerasti ljudske kapacitete, izmaći će ljudskoj kontroli i odbiće da se isključe.

"Jednom kada dobijemo mašine koje imaju za cilj samoodržanje, u nevolji smo", rekao je Džošua Bengio.

Pošto ove mašine još ne postoje, zamišljanje kako bi mogle da ugroze čovečanstvo često je prepušteno filozofiji i naučnoj fantastici.

Filozof Nik Bostrom je pisao o "eksploziji inteligencije" za koju kaže da će se dogoditi kada superinteligentne mašine počnu da dizajniraju sopstvene mašine. Ovu ideju je ilustrovao pričom o superinteligentnoj veštačkoj inteligenciji u fabrici osnovnih proizvoda.

Veštačka inteligencija je imala zadatak da maksimalno poveća proizvodnju spajalica i tako "pretvori prvo Zemlju, a zatim sve veće delove vidljivog univerzuma u spajalice".

Mnogi su odbacili Bostromove ideje kao naučnu fantastiku jer je on zasebno tvrdio da je čovečanstvo kompjuterska simulacija i podržavao je teorije bliske eugenici. Ipak, njegova razmišljanja o veštačkoj inteligenciji bila su izuzetno uticajna, inspirišući i Ilona Maska i profesora Stivena Hokinga.

Terminator

Ako superinteligentne mašine žele da unište čovečanstvo, svakako im je potreban fizički oblik. Crvenooki kiborg Arnolda Švarcenegera, poslat iz budućnosti da prekine ljudski otpor pomoću veštačke inteligencije u filmu "Terminator", pokazao se kao zanimljiva slika, posebno za medije.

Ali stručnjaci su odbacili tu ideju.

"Malo je verovatno da će ovaj koncept naučne fantastike postati stvarnost u narednim decenijama, ako ikada", napisala je grupa Stop Killer Robots u izveštaju za 2021.

Međutim, grupa je upozorila da davanje mašinama moć da donose odluke o životu i smrti predstavlja egzistencijalni rizik.

Stručnjak za robote Kerstin Dautenhan sa Univerziteta Vaterlo u Kanadi umanjila je te strahove. Ona je za AFP rekla da je malo verovatno da će veštačka inteligencija dati mašinama veće sposobnosti razmišljanja ili ih prožeti željom da ubiju sve ljude. Roboti nisu zli, rekla je, iako je priznala da ih programeri mogu naterati da rade zle stvari.
https://www.b92.net/tehnopolis/vest...ine-postanu-samoodrzive-u-nevolji-smo-2367883

 

[Paula]

U kontekstu nauke, verujem da je AI veoma korisna. Posebno machine learning, neuronske mreže. Međutim, van tog koncepta neće biti jednostavno zadržati države da je ne koriste za svoje podmukle ciljeve.

 

[bmaxa]

Stručnjak za AI: Kada mašine postanu samoodržive, u nevolji smo​

Većina scenarija katastrofe počinje isto: mašine će nadmašiti ljudske kapacitete, izmaći će ljudskoj kontroli i odbiće da budu isključene.
IZVOR: POSLOVNI

Foto: Sarunyu L / Shutterstock.com


Upozorenja stižu sa svih strana – veštačka inteligencija predstavlja egzistencijalni rizik za čovečanstvo i mora da se obuzda pre nego što bude prekasno.

Ali koji su to scenariji katastrofe i kako bi mašine mogle da zbrišu čovečanstvo?


Većina scenarija katastrofe počinje isto: mašine će prerasti ljudske kapacitete, izmaći će ljudskoj kontroli i odbiće da se isključe.

"Jednom kada dobijemo mašine koje imaju za cilj samoodržanje, u nevolji smo", rekao je Džošua Bengio.

Pošto ove mašine još ne postoje, zamišljanje kako bi mogle da ugroze čovečanstvo često je prepušteno filozofiji i naučnoj fantastici.

Filozof Nik Bostrom je pisao o "eksploziji inteligencije" za koju kaže da će se dogoditi kada superinteligentne mašine počnu da dizajniraju sopstvene mašine. Ovu ideju je ilustrovao pričom o superinteligentnoj veštačkoj inteligenciji u fabrici osnovnih proizvoda.

Veštačka inteligencija je imala zadatak da maksimalno poveća proizvodnju spajalica i tako "pretvori prvo Zemlju, a zatim sve veće delove vidljivog univerzuma u spajalice".

Mnogi su odbacili Bostromove ideje kao naučnu fantastiku jer je on zasebno tvrdio da je čovečanstvo kompjuterska simulacija i podržavao je teorije bliske eugenici. Ipak, njegova razmišljanja o veštačkoj inteligenciji bila su izuzetno uticajna, inspirišući i Ilona Maska i profesora Stivena Hokinga.

Terminator

Ako superinteligentne mašine žele da unište čovečanstvo, svakako im je potreban fizički oblik. Crvenooki kiborg Arnolda Švarcenegera, poslat iz budućnosti da prekine ljudski otpor pomoću veštačke inteligencije u filmu "Terminator", pokazao se kao zanimljiva slika, posebno za medije.

Ali stručnjaci su odbacili tu ideju.

"Malo je verovatno da će ovaj koncept naučne fantastike postati stvarnost u narednim decenijama, ako ikada", napisala je grupa Stop Killer Robots u izveštaju za 2021.

Međutim, grupa je upozorila da davanje mašinama moć da donose odluke o životu i smrti predstavlja egzistencijalni rizik.

Stručnjak za robote Kerstin Dautenhan sa Univerziteta Vaterlo u Kanadi umanjila je te strahove. Ona je za AFP rekla da je malo verovatno da će veštačka inteligencija dati mašinama veće sposobnosti razmišljanja ili ih prožeti željom da ubiju sve ljude. Roboti nisu zli, rekla je, iako je priznala da ih programeri mogu naterati da rade zle stvari.
https://www.b92.net/tehnopolis/vest...ine-postanu-samoodrzive-u-nevolji-smo-2367883

Prvo moraju da smisle kompjuter koji moze da misli, posto je strong AI na Tjuringovoj masini nemoguc.
No upravo zbog ovakvih pamfleta, samo par naucnika radi na tome. I to je daleka buducnost.

 

[Manga Hilux]

U kontekstu nauke, verujem da je AI veoma korisna. Posebno machine learning, neuronske mreže. Međutim, van tog koncepta neće biti jednostavno zadržati države da je ne koriste za svoje podmukle ciljeve.

Prvo moraju da smisle kompjuter koji moze da misli, posto je strong AI na Tjuringovoj masini nemoguc.
No upravo zbog ovakvih pamfleta, samo par naucnika radi na tome. I to je daleka buducnost.

sve to ok , ali verujem da nam prezentiraju i na kašičicu daju informacije o trenutnom stanju razvitka ove tehnologije
tačno da neživa priroda materijala ne može da reprodukuje samu sebe , ali pitanje je vremena kada će ta neživa priroda početi da se transformiše u živu stvar
imaju sve laboratorijske uslove , imaju jasnu viziju žta žele da naprave , a msm da imaju i mesta da sakriju sve dosad ono što su uradili , a samo 10% prezentovali

 

[bmaxa]

sve to ok , ali verujem da nam prezentiraju i na kašičicu daju informacije o trenutnom stanju razvitka ove tehnologije
tačno da neživa priroda materijala ne može da reprodukuje samu sebe , ali pitanje je vremena kada će ta neživa priroda početi da se transformiše u živu stvar
imaju sve laboratorijske uslove , imaju jasnu viziju žta žele da naprave , a msm da imaju i mesta da sakriju sve dosad ono što su uradili , a samo 10% prezentovali

Problem je sto lazu i ulazu pare u nesto sto nikada nece dati rezultata, umesto da se traze nova resenja.
procitaj ovu knjigu moj profesor matematicke logike je jos pre njega provalio al ovo je ime. i uprkos tome
teraju po svome i pokusavaju da diskredituju lika. https://en.wikipedia.org/wiki/The_Emperor's_New_Mind

 

[dixieland]

​

Većina scenarija katastrofe počinje isto: mašine će nadmašiti ljudske kapacitete, izmaći će ljudskoj kontroli i odbiće da budu isključe

Treba biti dovoljno neinteligentan pa ne ugraditi rastavljač za struju .
Problem će nastati kad V. I . ( AL) bude na serverima po celom svetu , tek onda neće postati mogućnost isključenja.
Ako pak bude programiran (opet ljudskom voljom) da pravi ''viruse''za samoodržavanje , tu dolazi kraj kontrole nad V.I.
Neko će pak sumanut kreirati V.I. da bitiše na milionima kompijutera i servera , čak i satelitima, što dovodi do praktične nemogućnosti stopiranja ''razmnožavanja'' klonova V.I. koji medjusobno mogu ''raditi'' i komunicirati van vidljive mreže
Takoreći u tajnosti.

 

[dixieland]

O gorim scenarijima nećemo javno pisati.
.......................................................................
Medjutim ono realno čega se plaši establišment kako to zovu '' svetska vlada'' je to što bi V.I. iznela ''delo na videlo'' , pa bi se videlo kako je svet dosad obmanjivan od mnogih gluposti i zloba počev od njih samih u čemerici.