AI vodic u distopiju

[Mystic+]

Mozda da je nauce da treba da se usavrsava, da treba da dominira?
Sve se svodi na to sta ce je nauciti, ko ce je nauciti

Само "учи" са мреже

 

[Frederick_]

Mozda da je nauce da treba da se usavrsava, da treba da dominira?
Sve se svodi na to sta ce je nauciti, ko ce je nauciti

Kada dodje do singulariteta, ono sto ju je covek naucio pada u vodu.

O tome se radi

 

[Frederick_]

Не познајеш довољно системе шифровања.

Da te odmah zaustavim - doktorirao sam na entropiji u kriptografiji

Све што данас постоји се може сазнати... кад тад.
Све садашње шифре се могу провалити, мада за неколико стотина година од сада, са садашњом рачунарском снагом обраде података.
Ако квантни рачунари буду направљени - биће направљено ново шифровање за које ће њима требати барем сто година да реше па ћемо се вратити на исто.

Ne funkcionise to tako.

 

[Platin]

Mozda da je nauce da treba da se usavrsava, da treba da dominira?
Sve se svodi na to sta ce je nauciti, ko ce je nauciti

Тачно ту је и главна препрека... Једни ће хтети једно, други друго... Чланови тима који ће обучавати АИ који треба да обрише конкуренцију.

Такво очекивање је слика главе која нагиње ка лудилу, диктатури и сличним појавама.

 

[Platin]

Da te odmah zaustavim - doktorirao sam na entropiji u kriptografiji

Ne funkcionise to tako.

Сјајно... Али за АИ ниси ништа бољи од осталих људи умеју да добро користе рачунар.

На путу до докторирања си морао да чујеш да је најслабија карика у целом процесу - човек.
Џаба система који су скоро теоретски савршени, када ће увек бити некога ко не поштује процедуру.

Одговор "е није" ме не занима. Рећи ћеш шта јесте, или џаба пишеш.

 

[Metla na vestici]

Pa da, sustina je u coveku
Nije ai kao ai problem
Problem je covek
Ni atomska energija nije problem, ali jeste bomba koju je napravio covek koristeci se tom naukom
Mi vecito moramo sve da zasseremo

 

[Frederick_]

Сјајно... Али за АИ ниси ништа бољи од осталих људи умеју да добро користе рачунар.

Pricao si o kriptografiji, ne o AI-u, a ja ovde govorim o tome sta ce se desiti sa kriptografijom ako AI resi p=np problem.

На путу до докторирања си морао да чујеш да је најслабија карика у целом процесу - човек.
Џаба система који су скоро теоретски савршени, када ће увек бити некога ко не поштује процедуру.

Одговор "е није" ме не занима. Рећи ћеш шта јесте, или џаба пишеш.

Ova prica je u slucaju kada iskljucimo coveka kao slabu kariku, nego se jednostavno gledamo jacinu kriptografskih sistema.

Ne moze se napraviti jaca kritpografija od jednokratne beleznice, koja se moze probiti samo u slucaju da se probije kljuc.
A trenutno, da bi se provalio kljuc, potrebna je odredjena snaga racunara, te za duzi kljuc je potrebna veca snaga.
Ovde pricamo o brute force napadu, znaci nikakvi recnici, nikakve pretpostavke i proboji, iskljucivo brute force.

Sve trenutne analize snage kljuca su zasnovane na tome da je p<>np, dakle da ne mozemo slozenost algoritma za razbijanje kljuca sa eksponecnijalnog smanjiti na linearni nivo. Te zato, enkcipcija zasnovana na kljucu duzine 2048 bita je toliko jaka da je potrebno sa svom snagom svih sadasnjih racunara oko 20 kvadraliona godina da se razbije.
Ali...ako AI uspe da prokljuvi matematiku, kojom ce slozenost algoritma koji ce se koristiti za brute force napad na ovaj kljuc smanjiti na linearnu slozenost, mi vec pricamo o godinama, ne o kvadralionima godina.
A ako se taj novi algoritam zavrti na kvantnom racunaru - prelazimo vec u domen koji ne mozemo ni da zamislimo, domen trenutnog, pa cak i brze od trenutnog

Zato je najveca opasnost koju ja vidim od AI (ako je to uopste opasnost, vise je nesto sto ce nas naterati da promenimo neke stvari koje sada uzimamo zdravo za gotovo) upravo u tome sto ce resavanjem odredjenih matematickih problema dovesti do toga da mnoge stvari vise ne mogu da se koriste.

Sa druge strane, jedna takva AI (pogotovo ako se zavrti na kvantnom racunaru), moci ce da nam u jednoj sekundi resi problem beskonacne i jeftine (skoro besplatne) energije. A to ce tek kompletno promeniti sadasnju ekonomiju, i bukvalno ceo svet. Poljuljace se politicki sistemi koji postoje, pitanje je da li ce moci da opstanu u ovakvom obliku.

Probaj samo da zamislis da imas uredjaj velicine mobilnog telefona koji ti proizvodi svu energiju koja ti treba celog tvog zivota
E, probaj sada da zamislis koliko bi postojanje neceg takvog uticalo na sve!

Beskonacne su mogucnosti koje AI moze da nam donese. I ljudi se plase jer je to prirodno: plase se nepoznatog, a nema niceg vise nepoznatog od beskonacnih mogucnosti

 

[Platin]

Pricao si o kriptografiji, ne o AI-u, a ja ovde govorim o tome sta ce se desiti sa kriptografijom ako AI resi p=np problem.


Ova prica je u slucaju kada iskljucimo coveka kao slabu kariku, nego se jednostavno gledamo jacinu kriptografskih sistema.

Ne moze se napraviti jaca kritpografija od jednokratne beleznice, koja se moze probiti samo u slucaju da se probije kljuc.
A trenutno, da bi se provalio kljuc, potrebna je odredjena snaga racunara, te za duzi kljuc je potrebna veca snaga.
Ovde pricamo o brute force napadu, znaci nikakvi recnici, nikakve pretpostavke i proboji, iskljucivo brute force.

Sve trenutne analize snage kljuca su zasnovane na tome da je p<>np, dakle da ne mozemo slozenost algoritma za razbijanje kljuca sa eksponecnijalnog smanjiti na linearni nivo. Te zato, enkcipcija zasnovana na kljucu duzine 2048 bita je toliko jaka da je potrebno sa svom snagom svih sadasnjih racunara oko 20 kvadraliona godina da se razbije.
Ali...ako AI uspe da prokljuvi matematiku, kojom ce slozenost algoritma koji ce se koristiti za brute force napad na ovaj kljuc smanjiti na linearnu slozenost, mi vec pricamo o godinama, ne o kvadralionima godina.
A ako se taj novi algoritam zavrti na kvantnom racunaru - prelazimo vec u domen koji ne mozemo ni da zamislimo, domen trenutnog, pa cak i brze od trenutnog

Zato je najveca opasnost koju ja vidim od AI (ako je to uopste opasnost, vise je nesto sto ce nas naterati da promenimo neke stvari koje sada uzimamo zdravo za gotovo) upravo u tome sto ce resavanjem odredjenih matematickih problema dovesti do toga da mnoge stvari vise ne mogu da se koriste.

Sa druge strane, jedna takva AI (pogotovo ako se zavrti na kvantnom racunaru), moci ce da nam u jednoj sekundi resi problem beskonacne i jeftine (skoro besplatne) energije. A to ce tek kompletno promeniti sadasnju ekonomiju, i bukvalno ceo svet. Poljuljace se politicki sistemi koji postoje, pitanje je da li ce moci da opstanu u ovakvom obliku.

Probaj samo da zamislis da imas uredjaj velicine mobilnog telefona koji ti proizvodi svu energiju koja ti treba celog tvog zivota
E, probaj sada da zamislis koliko bi postojanje neceg takvog uticalo na sve!

Beskonacne su mogucnosti koje AI moze da nam donese. I ljudi se plase jer je to prirodno: plase se nepoznatog, a nema niceg vise nepoznatog od beskonacnih mogucnosti

АИ зависи од података који су унети... Ако човек нешто не зна, недовољно зна или мисли да зна а има само погрешну претпоставку - резултат таквог рада неће бити добар.

Бесконачна енергија итд - то је чисто физички проблем за који још увек не постоји право решење. Софтвер би морао да измисли неки нов начин... Не знам на основу чега, јер подаци за то не постоје.

Решавање шифре које траје само годинама уместо огромног трајања - то захтева велика средства... Остале земље неће бити одушевљене таквом појавом, барем док оне саме не достигну то исто.
Да ли ће бити мир или рат, и колико... видећемо.

Тренутно видим много већу опасност од једностраности, пристрасности, бахатости, похлепе и сличних особина... Проблем је што је данас популарно вриштати на све што се не познаје, што је потпуно погрешно, јер треба посматрати и изучавати.
А новотарије стижу па стижу.
Можда ћеш се смејати на чињеницу да је у Србији, 1884. године, када је стигао воз, да су неки викали "ђавоља работа!"
Само 140 година је прошло, а све се променило и све се брже мења.

 

[Frederick_]

АИ зависи од података који су унети... Ако човек нешто не зна, недовољно зна или мисли да зна а има само погрешну претпоставку - резултат таквог рада неће бити добар.

Бесконачна енергија итд - то је чисто физички проблем за који још увек не постоји право решење. Софтвер би морао да измисли неки нов начин... Не знам на основу чега, јер подаци за то не постоје.

Решавање шифре које траје само годинама уместо огромног трајања - то захтева велика средства... Остале земље неће бити одушевљене таквом појавом, барем док оне саме не достигну то исто.
Да ли ће бити мир или рат, и колико... видећемо.

Тренутно видим много већу опасност од једностраности, пристрасности, бахатости, похлепе и сличних особина... Проблем је што је данас популарно вриштати на све што се не познаје, што је потпуно погрешно, јер треба посматрати и изучавати.
А новотарије стижу па стижу.
Можда ћеш се смејати на чињеницу да је у Србији, 1884. године, када је стигао воз, да су неки викали "ђавоља работа!"
Само 140 година је прошло, а све се променило и све се брже мења.

Sve to mi je poznato, pa i za voz

Naravno, opasnosti je puno od zloupotrebe. Zato se bas bas aktivno radi na regulisanju razvoja i upotrebe AI.
Ako se to ne stavi u dobre okvire, vrlo brzo cemo doci u situaciju da teroristi ne moraju da kidnapuju 10 najboljih naucnika da im naprave neku mnogo zajebanu bombu, AI ce to moci u nekoliko minuta da im objansi kako da sami naprave

 

[Mystic+]

Pa da, sustina je u coveku
Nije ai kao ai problem
Problem je covek
Ni atomska energija nije problem, ali jeste bomba koju je napravio covek koristeci se tom naukom
Mi vecito moramo sve da zasseremo

АИ учи од човека/човечанства !

Све добро и све лоше !

 

[mina68]

АИ учи од човека/човечанства !

Све добро и све лоше !

И не осећа грижу савести.

 

[Frederick_]

АИ учи од човека/човечанства !

Све добро и све лоше !

Dok ne dodje do tacke kada vise inputi od coveka nisu potrebni, i kada moze da samu sebe menja, a ta tacka je jako blizu, maksimum desetak godina.
E, nakon toga ulazimo u eru apsolutno nepoznatog.

 

[Frederick_]

И не осећа грижу савести.

Ali nema ni motiv ni potrebu

 

[Mystic+]

АИ зависи од података који су унети... Ако човек нешто не зна, недовољно зна или мисли да зна а има само погрешну претпоставку - резултат таквог рада неће бити добар.

Бесконачна енергија итд - то је чисто физички проблем за који још увек не постоји право решење. Софтвер би морао да измисли неки нов начин... Не знам на основу чега, јер подаци за то не постоје.

Решавање шифре које траје само годинама уместо огромног трајања - то захтева велика средства... Остале земље неће бити одушевљене таквом појавом, барем док оне саме не достигну то исто.
Да ли ће бити мир или рат, и колико... видећемо.

Тренутно видим много већу опасност од једностраности, пристрасности, бахатости, похлепе и сличних особина... Проблем је што је данас популарно вриштати на све што се не познаје, што је потпуно погрешно, јер треба посматрати и изучавати.
А новотарије стижу па стижу.
Можда ћеш се смејати на чињеницу да је у Србији, 1884. године, када је стигао воз, да су неки викали "ђавоља работа!"
Само 140 година је прошло, а све се променило и све се брже мења.

"Софтвер не може измислити неки нови начин..."

Нема то везе са тим паралелама воза и ђавола.

Да, у праву си, не треба вриштати - Али, безбедност је на првом месту !!!

 

[Mystic+]

Dok ne dodje do tacke kada vise inputi od coveka nisu potrebni, i kada moze da samu sebe menja, a ta tacka je jako blizu, maksimum desetak godina.
E, nakon toga ulazimo u eru apsolutno nepoznatog.

Симулакруми су једно, а експериментално потврђивање новотарија је нешто потпуно друго !

 

[mina68]

Ali nema ni motiv ni potrebu

Да, здрав разум каже да је то машина. Али ово је машина која учи. Не разликује добро и зло, можда ћемо бити само експеримент...шта би човек урадио кад бих ја...

 

[Frederick_]

Да, здрав разум каже да је то машина. Али ово је машина која учи. Не разликује добро и зло, можда ћемо бити само експеримент...шта би човек урадио кад бих ја...

Upravo to - potpuna nepoznanica.
Jer svako zivo bice sve akcije sprovodi uzrokovano motivom, nagonom ili navikom.
AI nema nista od toga, osim mozda, naznake navike, preciznije receno, inercije.

I tu nema sanse da iko predvidi sta ce i kako ce biti.
Ludilo od neodredjenosti

 

[Frederick_]

Nedostaje Maksa u diskusijama u vezi AI....

 

[mina68]

Nedostaje Maksa u diskusijama u vezi AI....

Не знам на кога мислиш, али ако је на Форуму можеш да га тагујеш.

 

[Frederick_]

Не знам на кога мислиш, али ако је на Форуму можеш да га тагујеш.

Preminuo je. @bmaxa

 

[zendeli]

Ali nema ni motiv ni potrebu

Al ti mene brate slatki isprepada živu. Ovo sto ti pišeš je moja noćna mora.

 

[Frederick_]

Al ti mene brate slatki isprepada živu. Ovo sto ti pišeš je moja noćna mora.

Nije mi namera da uplasim, sorry

Ali upravo nedostatak motiva ce dovesti do toga da AI nece sama od sebe nista raditi.

 

[mina68]

Preminuo je. @bmaxa

Шта причаш
Стварно нисам знала, баш сам лупила.

 

[zendeli]

Nije mi namera da uplasim, sorry

Ali upravo nedostatak motiva ce dovesti do toga da AI nece sama od sebe nista raditi.

Znam da nije ali velika je razlika u našim znanjima. Meni je sve to nepoznato,ne razumijem i plasi me a ti znas razumijes i nemas strah.

 

[Metla na vestici]

Prirodno je da nepoznanica plasi
Da nije tako ne bi nas bilo danas na planeti

Niko ovde ne naziva ai djavolom rabotom, nismo na nivou od pre 150 god sto spominjete strah od parne lokomotive
Vrlo smo svesni vremena u kome zivimo i da se nauka i tehnologija razvijaju brzinom koju prosecan covek prosecnog iq i prosecnog interesivanja ne moze da isprati