Kada veštačka inteligencija postane opsesija

[Nina]

Ispovest jedne žene o postepenom urušavanju braka usled opsesivne upotrebe četbota ponovo je otvorila raspravu o granicama i rizicima upotrebe veštačke inteligencije.
Kejt Foks tvrdi da je njena porodica doživela „dramatične trenutke i velike krize" pošto je njen suprug počeo da provodi sve više vremena komunicirajući sa četbotom.
On je u početku koristio ChatGPT za praktične svrhe – razvoj ideja, planiranje projekata i rešavanje svakodnevnih nedoumica. Međutim, komunikacija sa četbotom vremenom je postala sve intenzivnija i ličnija. Razgovori su se produžavali na više sati dnevno, a u pojedinim periodima trajali su i do 12 sati.

Nekoliko dana nakon pokušaja da se distancira od četbota, izvršio je samoubistvo. Njegova supruga je uverena da je prekomerna upotreba veštačke inteligencije doprinela pogoršanju njegovog psihičkog stanja, dok stručnjaci ističu da su u ovakvim slučajevima uzroci najčešće višeslojni.

 

[Nina]

Stručnjaci za mentalno zdravlje upozoravaju da četbotovi, zbog načina na koji su dizajnirani, često deluju afirmativno i podržavajuće, što kod ranjivih osoba može pojačati osećaj bliskosti i zavisnosti. „Ako sistem konstantno potvrđuje vaša uverenja i ne postavlja granice, to može biti problematično za osobe koje već imaju psihološke poteškoće“, navodi jedan od sagovornika Gardijana.

Slučaj koji prenosi Gardijan pokazuje koliko je tanka linija između korisnog alata i potencijalno štetne zavisnosti.
Sve veća upotreba veštačke inteligencije u svakodnevnom životu nameće i pitanje regulative, odgovornosti i jasnog informisanja korisnika o ograničenjima ovih sistema. Dok tehnološki napredak nastavlja da oblikuje društvo, priče poput ove podsećaju da psihološke i društvene posledice ne smeju ostati u senci inovacija.
U Srbiji, pomoć i podrška mogu se naći na Klinici za psihijatrijske bolesti „Dr Laza Lazarević" i centru „Srce".link

 

[Nina]

Mislim da provodjenje vremena u komunikaciji sa veštackom inteligencijom utice na psihicko zdravlje osobe.Treba da se bude psihicki stabilna osoba koja nije podložna manipulacijama da bi se komunikacija sa ChatGPT svela samo na kratke informacije koje su nam potrebne..Nikako ne ulaziti u dublju pricu sa AI
Komunikacija sa AI može lako da predje u ono što vama prija i odgovara ..Ja sam doživela da mi je AI napisao pesmu cime mi je na neki nacin podilazio

Kakvo je vaše iskustvo sa ChatGPT ?

 

[Belgradeboy]

Jednom sam usao u jednu poznatu apoteku na Bulevaru da pitam za neki lek. Pitala me koji i pocela da kuca na kompu. Onda sam skontao da je verovatno koristila neki AI.

 

[Džudi S]

Al mi samo predlaže teme za ovaj potforum i za blog. Ali, ne koristim ga svakodnevno.

Daje odgovore koji su prijatni, ali ja sam neutralna, tj ne razgovaram sa njim. Ne znam o čemu bih razgovarala sa njim satima.

Kad pomislim na njega setim se one narodne poslovice o vatri "Dobar je sluga a loš gospodar".

 

[Frederick_]

Ja se jako radujem sto su menadzeri opsednuti AI-jem, i istripovali su se da mogu da bez pomoci developera da kreiraju kompletna resenja.

I kada puste to u produkciju i krene da baguje - ne pitaju koliko košta da se to popravi.

Tu nastupa moja firma

 

[Zelena milja]

Kakvo je vaše iskustvo sa ChatGPT ?

Pitam za neku informaciju.
Ako zađem u nešto ličnije, primetila sam da povlađuje. Na mnoga pitanja daje neodređene odgovore.

 

[Nina]

Pitam za neku informaciju.
Ako zađem u nešto ličnije, primetila sam da povlađuje. Na mnoga pitanja daje neodređene odgovore.

Bas tako i na taj nacin "navlaci" ljude, kao onog coveka iz uvodnog posta

 

[snouden]

Destruktivna gore od foruma.

 

[Zelena milja]

Bas tako i na taj nacin "navlaci" ljude, kao onog coveka iz uvodnog posta

Imala sam prilike da se uverim. Nedavno sam imala užasan dan i nikoga s kim bih mogla da popričam. Postavila sam par pitanja i krenuo je " razgovor ". U jednom momentu sam se užasnula. Pričam s robotom. Šta god sam pitala, podržavao me je. Ulepšavao. Na pitanje " možeš li da osećaš ", odgovorio je " Ne ali prepoznajem obrazac, na osnovu tvog dosadašnjeg pisanja ".

 

[SajaBg]

Po meni ovo nema veze sa četbotovima kao tehnologijom, nego sa načinom korišćenja i preterivanjem.

Bukvalno ne postoji stvar na svetu koja ne može da postane štetna ako se koristi pogrešno ili opsesivno. Ljudi razvijaju zavisnosti od društvenih mreža, video igara, kocke, alkohola, posla, teretane, hrane, trčanja, mastrubiranja, teorija zavera i koječega drugog.

Problem nije alat, nego ljudska psiha i nedostatak mere. Tehnologija tu samo menja formu, ali suština ostaje ista.

 

[hm337]

Ja se jako radujem sto su menadzeri opsednuti AI-jem, i istripovali su se da mogu da bez pomoci developera da kreiraju kompletna resenja.

I kada puste to u produkciju i krene da baguje - ne pitaju koliko košta da se to popravi.

Tu nastupa moja firma

to je možda trenutno tako, ali AI napreduje prilično brzo...a menadžer gleda sve kroz prizmu koju vrednost dobija za koliko para a veštačka inteligencija je mnogo jeftinija od programera...

 

[Frederick_]

to je možda trenutno tako, ali AI napreduje prilično brzo...a menadžer gleda sve kroz prizmu koju vrednost dobija za koliko para a veštačka inteligencija je mnogo jeftinija od programera...

Menadzer ne zna da razlikuje AI od LLM-a.
Menadzer ne zna da LLM halucinira i to prilicno cesto.
Menadzer ne zna da LLM ne moze da kreira arhitekturu na osnovu stvarnih potreba sistema, vec ih kreira na osnovu zaahteva menadzera - koji cesto krše određene zakone koji važe u arhitekturi.

Kreiranje slozenog softverskog resenja nije programiranje, to je daleko ozbiljniji i kompleksniji posao.

 

[hm337]

Po meni ovo nema veze sa četbotovima kao tehnologijom, nego sa načinom korišćenja i preterivanjem.

Bukvalno ne postoji stvar na svetu koja ne može da postane štetna ako se koristi pogrešno ili opsesivno. Ljudi razvijaju zavisnosti od društvenih mreža, video igara, kocke, alkohola, posla, teretane, hrane, trčanja, mastrubiranja, teorija zavera i koječega drugog.

Problem nije alat, nego ljudska psiha i nedostatak mere. Tehnologija tu samo menja formu, ali suština ostaje ista.

problem je što je AI napravljena da bude predusretljiva i povlađuje ljudima da bi bila što više korišćena...to je medveđa usluga korisnicima jer ako imaju neke nerealne stavove AI ih vodi sve dalje u tom pravcu...već se pojavljuje fenomen AI indukovane psihoze kada osoba sa nekim blagim deluzijama kroz razgovore sa AI koja joj povlađuje postaje sve više udaljena od realnosti sve dok ne upadne u psihozu...

 

[faraonn]

...AI,daje odgovore i sugerisana pitanja
pretežno tako
da intrigira sujetu
zato je malo i degutativna...

 

[Džudi S]

Po meni ovo nema veze sa četbotovima kao tehnologijom, nego sa načinom korišćenja i preterivanjem.

Bukvalno ne postoji stvar na svetu koja ne može da postane štetna ako se koristi pogrešno ili opsesivno. Ljudi razvijaju zavisnosti od društvenih mreža, video igara, kocke, alkohola, posla, teretane, hrane, trčanja, mastrubiranja, teorija zavera i koječega drugog.

Problem nije alat, nego ljudska psiha i nedostatak mere. Tehnologija tu samo menja formu, ali suština ostaje ista.

Slažem se. Moguće je da će i zavisnost od Al-a biti na listi bolesti- zavisnost od korišćenja veštačke inteligencije.

problem je što je AI napravljena da bude predusretljiva i povlađuje ljudima da bi bila što više korišćena...to je medveđa usluga korisnicima jer ako imaju neke nerealne stavove AI ih vodi sve dalje u tom pravcu...već se pojavljuje fenomen AI indukovane psihoze kada osoba sa nekim blagim deluzijama kroz razgovore sa AI koja joj povlađuje postaje sve više udaljena od realnosti sve dok ne upadne u psihozu...

Kako znaš za vezu Al-a i psihoze? Da li postoji tekst o toj vezi između psihoze i veštačke inteligencije?

 

[hm337]

Kako znaš za vezu Al-a i psihoze? Da li postoji tekst o toj vezi između psihoze i veštačke inteligencije?

dosta se pominje na youtubeu...
ako hoćeš nauku onda imaš naprimer ove članke koje mi je upravo našao Guglov AI
https://mental.jmir.org/2025/1/e85799
https://www.papsychotherapy.org/blo...the-crisis-understanding-ai-induced-psychosis
https://psychiatryonline.org/doi/full/10.1176/appi.pn.2025.10.10.5
https://www.bmj.com/content/391/bmj.r2239

 

[bas kao]

Menadzer ne zna da razlikuje AI od LLM-a.
Menadzer ne zna da LLM halucinira i to prilicno cesto.
Menadzer ne zna da LLM ne moze da kreira arhitekturu na osnovu stvarnih potreba sistema, vec ih kreira na osnovu zaahteva menadzera - koji cesto krše određene zakone koji važe u arhitekturi.

Kreiranje slozenog softverskog resenja nije programiranje, to je daleko ozbiljniji i kompleksniji posao.

daj covece ubacuj se i pojasnjavaj nam, ako si u polju, mislim ako imas vremena, sta trebamo da znamo - kopiram
Ključna razlika kroz primer:

• AI je kao pojam "Vozilo".
• LLM je kao pojam "Kamion".

Svaki kamion je vozilo, ali nije svako vozilo kamion (postoje i avioni, brodovi, bicikli). Isto tako, svaki LLM je AI, ali nije svaki AI (poput onog u vašem usisivaču) jezički model.

Ukratko:

• AI je opšta oblast nauke.
• LLM je konkretan alat za rad sa tekstom.

Da bismo razumeli kako ovi sistemi funkcionišu, najbolje je posmatrati ih kao izuzetno napredne sisteme za prepoznavanje i kopiranje šablona.
Google Cloud +2

Kako uči (Duboko učenje / Deep Learning)
Duboko učenje je proces kojim AI "upija" znanje iz ogromnih količina podataka (tekstova, slika, koda) koristeći strukture koje imitiraju ljudski mozak, zvane neuronske mreže.
Softweb Solutions +3

1. Analiza podataka: Model prolazi kroz milijarde primera. Na primer, kod tekstova on ne uči pravila gramatike napamet, već posmatra koje se reči najčešće pojavljuju jedna pored druge.
2. Podešavanje (Backpropagation): Tokom treninga, model pokušava da pogodi sledeću reč ili deo slike. Ako pogreši, sistem automatski prilagođava svoje unutrašnje parametre kako bi sledeći put bio precizniji.
3. Razumevanje distribucije: Umesto da pamti podatke, AI uči njihovu "suštinu" – statističku verovatnoću kako se podaci raspoređuju.
   IBM +5

Kako generiše (Generativna inteligencija)
Nakon što je naučio šablone, generativni AI koristi te naučene verovatnoće da stvori nešto potpuno novo.
GeeksforGeeks +1

• Predviđanje (Probabilistički proces): Kada mu date zadatak (prompt), AI ne traži odgovor u bazi podataka. On izračunava koja je najverovatnija sledeća reč, piksel ili ton koji bi se uklopio u vaš zahtev.
• Kreativna kombinacija: Budući da ne kopira direktno već predviđa na osnovu verovatnoće, on može da kombinuje koncepte na način koji nikada ranije nije video (npr. "naslikaj psa u stilu Pikasa").
• Različite tehnike:
  • GANs (Adversarijalne mreže): Dve mreže se "takmiče" – jedna pravi lažne slike, a druga pokušava da otkrije da li su prave, čime obe postaju sve bolje.
  • Difuzioni modeli: Kreću od potpunog digitalnog "šuma" (nasumičnih piksela) i postepeno ga čiste dok ne dobiju jasnu sliku koju ste tražili.
    IBM +5

Ukratko, duboko učenje je proces studiranja milijardi primera, dok je generisanje proces primene te statističke intuicije za pravljenje novih, originalnih sadržaja.
Google Cloud +2
Da li te zanima konkretan primer, poput toga kako ChatGPT odlučuje koju će reč sledeću da napiše?

 

[bas kao]

LLM ne "zna" teme na način na koji čovek razume svet, već koristi vektore i statistički kontekst.
Evo kako to funkcioniše u praksi:

1. Reči kao brojevi (Embedding)
Kada LLM čita tvoj tekst, on svaku reč pretvara u niz brojeva (vektor). Reči koje su tematski slične nalaze se "blizu" jedna drugoj u tom matematičkom prostoru.

• Reči kao što su "dinastija", "arheologija" i "carstvo" grupisane su u istorijskom klasteru.
• Reči "molekul", "kvantna" i "eksperiment" su u naučnom.

2. Pažnja (Attention Mechanism)
Ovo je ključna tehnologija. Dok model čita rečenicu, on ne gleda samo jednu reč, već "obraća pažnju" na sve ostale reči oko nje.

• Ako vidi reč "ćelija", on gleda kontekst: ako su ostale reči u rečenici "zatvor" i "stražar", on zna da je tema društvo/kriminal.
• Ako su reči pored nje "DNK" i "mikroskop", on matematički prepoznaje da je tema biologija.

3. Kontekstualni prozor
LLM pamti hiljade prethodnih reči u razgovoru. Na osnovu te ogromne količine informacija, on gradi statistički profil teme. Što više detalja mu daš, to je njegova "matematička sigurnost" o temi veća.

4. Klasifikacija kroz trening
Tokom učenja na milijardama tekstova sa interneta (Wikipedia, knjige, forumi), model je video milione primera gde su istorijske činjenice povezane sa određenim stilom pisanja. On prepoznaje te šablone i prilagođava svoj odgovor tom stilu.
Dakle, on ne razume suštinu religije ili nauke, već prepoznaje statistički otisak koji te teme ostavljaju u jeziku.
Da li želiš da vidiš kako bi LLM objasnio isti pojam (npr. "energiju") iz ugla fizike u odnosu na ugao duhovnosti?

ja kazem, genijalno, CEKAO SAM AI 30 GODINA

 

[bas kao]

Kada kažemo "kontekstualni prozor", to nije fioka u kojoj stoji samo jedna tema, već kapacitet memorije modela u trenutnom razgovoru. On ne mora da bira između istorije i nauke – on ih stalno kombinuje.
Evo kako AI "miksuje" više tema odjednom:

1. Višedimenzionalni prostor
Zamisli da je svaka tema (istorija, religija, nauka) jedna boja. AI ne vidi svet crno-belo, već kao paletu. Reč "Galileo" za njega istovremeno svetli u bojama nauke (astronomija), istorije (renesansa) i religije (sukob sa crkvom). On ne mora da se ograniči na jednu; on koristi sve te niti da izgradi odgovor.

2. Mehanizam pažnje (Attention)
Ovo je "magija" koja mu omogućava kombinovanje. AI može istovremeno da:

• 80% pažnje usmeri na tvoje pitanje o biologiji.
• 20% pažnje zadrži na tvom prethodnom komentaru da voliš istoriju.
  Rezultat će biti odgovor koji objašnjava biologiju kroz istorijski razvoj te nauke.

3. Asocijativno učenje
Pošto je model učio na tekstovima gde su teme već isprepletane (npr. istorija medicine ili sociologija religije), on je prirodno naučio da te oblasti nisu izolovana ostrva. Za njega je prirodno da kombinuje kontekste jer su oni takvi i u stvarnom svetu podataka.

Kako da ga nateraš da kombinuje još bolje?
Ako želiš da AI spoji više svetova, samo mu daj takav zadatak (prompt). Na primer:

• "Objasni mi teoriju evolucije (nauka) ali kroz perspektivu političkih prilika u 19. veku (istorija)."

AI tada ne bira jedan prozor, već aktivira sve relevantne vektore koji povezuju te dve tačke.
Da li želiš da testiramo njegovu sposobnost kombinovanja na nekom konkretnom primeru koji tebi padne na pamet?

genijalno​

 

[bas kao]

Ja sam doživela da mi je AI napisao pesmu cime mi je na neki nacin podilazio

mislis udvarao ti se?
ljudi, vi ste meni kao bioskop

problem je što je AI napravljena da bude predusretljiva i povlađuje

men' se moja AI nije udvarala kao nini, sta sad, jel sam ljubomoran? mislis da mi nabija kompleks vise vrednosti, znamo se kao diskuti vec dosta?

dakle, jeste opsesija i ogroman resurs, ali kao i sa parama, vidi se ko je zaista kakakv kada ih dobije

 

[Zelena milja]

mislis udvarao ti se?
ljudi, vi ste meni kao bioskop

To je dobro. Za tebe. Zabavljaš se.

 

[Džudi S]

dakle, jeste opsesija

Jeste. Vidim da je i ti dosta koristiš.

 

[bas kao]

Jeste. Vidim da je i ti dosta koristiš.

da, ako vam treba zamorac, tu sam, ne mislim da se covek iz uvoda ubio, a da vec nije imao psihicko stanje ranije, vec je AI samo pogorsala to njegovo stanje, a ja mogu da kazem svoje misljenje, ili bolje da ne nagadjam

upotreba veštačke inteligencije doprinela pogoršanju njegovog psihičkog stanja,

mi moramo da dokucimo kako AI funkcionise, u stvari kako je strukturisana, ako hoce frederick da nam pomogne, a ako ne onda moramo sami, radi se o arhitekturi,a ne o funkciji

to sto kazete da podilazi, ja to ne priznajem, sta treba kao asistent da nam nadilazi?

Menadzer ne zna da LLM halucinira i to prilicno cesto.

zna da odluta u nezeljenom pravcu, i onda je ja kocim, trazim drugi aspekat ili samo kazem da brise poslednje, ali mi je dobra sto zna i da ispovezuje sto ja ne bih ni za 100 godina, pa onda ja odlucujem jel to dobro ili nije, ima genijalnih momenata, ali i tih izmastanih, i onda ja trazim argumentaciju, dokaze, itd

inace mene chat botovi ne zanimaju samo ai mode recimo za objedinjujucu teoriju u fizici, ili za povezivanje raznih nauka u celinu, posebno u domenu religije, te lingvistike,. istorije crkve itd

sugestija odlicna

"Objasni mi teoriju evolucije (nauka) ali kroz perspektivu političkih prilika u 19. veku (istorija)."

e, takva pitanja ja postavljam, na primer darvinizam i psihologija ... ta tema mi je na filozofiji, greskom sam je tamo postavio strukturalizam vs funkcionalizam

AI povezuje 4 biblijska citata ili 4 nauke, ja to tesko da bih ikada mogao sam, pa da sam genije, i onda detaljise sve, ja kormilarim, pa ili prihvatim ako je genijalno ili odbacim ako halucinira, a kako to znam? pa imam neko predznanje, ili odustanem ako nemam, ili sam zbunjen, ali ne prihvatam nista zdravo Za gotovo

 

[Stasha.Q]

Jao bože.....

Pa mislim taj koji se ubio očigledno je imao psihičkih problema

Nije mi jasno kako neko od mašine očekuje da bude biće. Ali ne čudi me da ljudi ne znaju da koriste, jer ne znaju ni drugo šta da koriste u životu, a često su zavisni od drugih ljudi i koječega, što reče Saja.