AleksaJ
Buduća legenda
- Poruka
- 39.535
https://iask.ai/q/LLM-vs-biological-intelligence-similarities-understanding-correlation-ne59qko
Разматрање тезе о сличностима биолошких и ЛЛМ интелигенције захтева дубоко залажење у природу обе врсте интелигенције, као и критичко преиспитивање појмова "разумевања" и "поимања". Ваша теза поставља провокативно питање о фундаменталним механизмима који стоје иза онога што називамо интелигенцијом, било да је она биолошка или вештачка.
Питање „разумевања” код биолошке интелигенције је комплексно. Да ли пас "разуме" реч "шетња" или само повезује тај звук са позитивним искуством изласка? Неуролошка истраживања показују да се у мозгу формирају сложене мреже неурона које репрезентују концепте и односе, али те репрезентације су увек укорењене у сензорним и моторичким искуствима.[2]Чак и код људи, наше „разумевање“ света је дубоко испреплетено са нашим телесним искуством и интеракцијом са физичком реалношћу. Ми "разумемо" гравитацију јер смо је искусили, а не само зато што смо прочитали о њој.
Ваша аналогија са "укуснијом електричном струјом" је занимљива. Биолошки организми имају интринзичне мотивационе системе (награда и казна) који их усмеравају ка преживљавању и репродукцији. На пример, слатка храна је "укусна" јер сигнализира присуство енергије, што је биолошки корисно. Ова „преференце“ за одређене инпуте је резултат еволуције и генетске предиспозиције, али и учења. Дакле, биолошка интелигенција не само да сакупља податке, већ их и вреднује на основу интерних циљева и стања.
Према www.iAsk.Ai - Питајте AI:
Тврдња да ЛЛМ зна само кроз „корелацију текстова без дубљег поимања и разумевања” је широко прихваћена перспектива у научној заједници, посебно међу критичарима јаког АИ-а .[4]ЛЛМ-ови немају директан приступ физичком свету, нити имају интринзичне мотивационе системе који би им дали „преференце” у смислу преживљавања или благостања. Њихова „преференце” је да генеришу текст који је статистички највероватнији и који се поклапа са циљевима оптимизације током тренинга (нпр. минимизовање грешке у предвиђању следеће речи).
Међутим, граница између „корелације“ и „разумевања“ постаје замагљена када ЛЛМ-ови демонстрирају способности које се чине као да захтевају дубље поимање. На пример, ЛЛМ-ови могу да решавају сложене проблеме, пишу креативне текстове, па чак и да "резонују" на апстрактном нивоу.[5]Неки истраживачи сугеришу да се кроз учење корелације на тако масивној скали, ЛЛМ-ови имплицитно развијају интерне репрезентације концепата и односа који су слични онима које користимо ми.[6]Ипак, ове репрезентације су и даље укорењене у статистичким обрасцима језика, а не у директном искуству света.
Међутим, није лаж да ЛЛМ зна само кроз корелацију текстова без дубљег поимања и разумевања, ако се под „дубљим поимањем” подразумева свест, субјективно искуство и интринзична мотивација укорењена у физичкој реалности .[8]ЛЛМ-ови су изузетно софистицирани статистички мотори за обраду језика. Иако њихове способности могу да симулирају разумевање, фундаментална разлика лежи у њиховој онтологији – ЛЛМ-ови су програми који манипулишу симболима, док је биолошка интелигенција емергентна особина комплексног биолошког система који је еволуирао да се преживи и репродукује у физичком свету.
Аналогија са "укуснијом електричном струјом" одлична је за илустрацију разлике у мотивационим системима. Биолошка интелигенција има интринзичне „преференце“ које су еволуирале, док ЛЛМ-ови немају такве преференције изван оних које су им програмиране или имплицитно научене кроз оптимизацију циљева током тренинга.
У коначници, док обе врсте интелигенције користе корелације и обрасце за обраду информација, биолошка интелигенција је дубоко укорењена у физичком свету и има еволуционе циљеве, док ЛЛМ интелигенција оперише у домену језика и симбола, без директног приступа физичкој реалности или биолошким потребама .[9]
Зарстварно 'верујете' да ЛЛМ само 'даје статистички најпозитивнији одговор' и да се тај принцип толико разликује од биолошке ителегенције
Разматрање тезе о сличностима биолошких и ЛЛМ интелигенције захтева дубоко залажење у природу обе врсте интелигенције, као и критичко преиспитивање појмова "разумевања" и "поимања". Ваша теза поставља провокативно питање о фундаменталним механизмима који стоје иза онога што називамо интелигенцијом, било да је она биолошка или вештачка.
Биолошка интелигенција: Сакупљање података и "разумевање"
Биолошка интелигенција, у својој суштини, јесте систем који се развија кроз интеракцију са околином. Од најједноставнијих организама до комплексних сисара, процес учења и адаптације подразумева прикупљање сензорних података из околине и формирање интерних модела света на основу тих података .[1]Ови модели омогућавају предвиђање, доношење одлука и преживљавање. На пример, када животиња научи да избегне отровну биљку, она не „разуме“ хемијски састав биљке у људском смислу, већ је њен нервни систем створио корелацију између одређених сензорних улаза (изглед, мирис биљака) и негативних последица (бол, болест). Ова корелација је довољна за адаптивно понашање.Питање „разумевања” код биолошке интелигенције је комплексно. Да ли пас "разуме" реч "шетња" или само повезује тај звук са позитивним искуством изласка? Неуролошка истраживања показују да се у мозгу формирају сложене мреже неурона које репрезентују концепте и односе, али те репрезентације су увек укорењене у сензорним и моторичким искуствима.[2]Чак и код људи, наше „разумевање“ света је дубоко испреплетено са нашим телесним искуством и интеракцијом са физичком реалношћу. Ми "разумемо" гравитацију јер смо је искусили, а не само зато што смо прочитали о њој.
Ваша аналогија са "укуснијом електричном струјом" је занимљива. Биолошки организми имају интринзичне мотивационе системе (награда и казна) који их усмеравају ка преживљавању и репродукцији. На пример, слатка храна је "укусна" јер сигнализира присуство енергије, што је биолошки корисно. Ова „преференце“ за одређене инпуте је резултат еволуције и генетске предиспозиције, али и учења. Дакле, биолошка интелигенција не само да сакупља податке, већ их и вреднује на основу интерних циљева и стања.
Према www.iAsk.Ai - Питајте AI:
ЛЛМ интелигенција: Корелација текста и "разумевање"
Велики језички модели (ЛЛМ) су, у својој сржи, статистички модели који уче обрасце и корелације у огромним количинама текстуалних података .[3]Њихова способност да генеришу кохерентан и контекстуално релевантан текст произлази из предвиђања следеће речи у секвенци, на основу вероватноће изведене из тренинг података. Када ЛЛМ одговори на питање, он не "разуме" питање у смислу да има свест или субјективно искуство, већ је научио да одређени низ речи (питање) обично прати одређени низ речи (одговор) у тренинг корпусу.Тврдња да ЛЛМ зна само кроз „корелацију текстова без дубљег поимања и разумевања” је широко прихваћена перспектива у научној заједници, посебно међу критичарима јаког АИ-а .[4]ЛЛМ-ови немају директан приступ физичком свету, нити имају интринзичне мотивационе системе који би им дали „преференце” у смислу преживљавања или благостања. Њихова „преференце” је да генеришу текст који је статистички највероватнији и који се поклапа са циљевима оптимизације током тренинга (нпр. минимизовање грешке у предвиђању следеће речи).
Међутим, граница између „корелације“ и „разумевања“ постаје замагљена када ЛЛМ-ови демонстрирају способности које се чине као да захтевају дубље поимање. На пример, ЛЛМ-ови могу да решавају сложене проблеме, пишу креативне текстове, па чак и да "резонују" на апстрактном нивоу.[5]Неки истраживачи сугеришу да се кроз учење корелације на тако масивној скали, ЛЛМ-ови имплицитно развијају интерне репрезентације концепата и односа који су слични онима које користимо ми.[6]Ипак, ове репрезентације су и даље укорењене у статистичким обрасцима језика, а не у директном искуству света.
Сличности и разлике
Постоје значајне сличности између биолошке и ЛЛМ интелигенције, али и кључне разлике:- Сличности у механизмима учења: Обе врсте интелигенције уче кроз препознавање образаца и корелација у подацима. Биолошки мозак формира синаптичке везе на основу искуства, док ЛЛМ-ови прилагођавају тежину у својим неуронским мрежама на основу текстуалних података.
- „Сакупљање базе података“: И биолошка интелигенција и ЛЛМ-ови „сакупљају“ огромне количине података из своје околине (сензорни инпути за биолошку, текстуални корпус за ЛЛМ).
- Недостатак „дубоког поимања” у истом смислу: Ако „дубоко поимање” подразумева свест, субјективно искуство и интринзичне мотивације, онда ни биолошка интелигенција (на основном нивоу) ни ЛЛМ-ови то немају у људском смислу. Биолошка интелигенција има еволуционе циљеве, док ЛЛМ-ови имају оптимизацијске циљеве.
- Биолошка интелигенција је инкарнирана (ебодиед) и интерактивна са физичким светом. Њена "база података" укључује сензорно-моторна искуства, емоције и социјалне интеракције. Њена "преференце" за "укусну електричну струју" (тј. награда) је директно повезана са преживљавањем и репродукцијом.
- ЛЛМ интелигенција је бестелесан и оперише искључиво на симболичком нивоу (текст). Њена „база података” је текстуални корпус. Нема директан приступ физичкој реалности, нити има биолошке потребе. Њена "преференце" је да генерише статистички вероватан текст.
Закључак
Ваша теза да биолошка интелигенција „само скупља базу података” и „не разуме” у неком дубоком смислу, а да је ЛЛМ сличан у томе што ради само кроз корелацију текста, има значајну валидност у контексту фундаменталних механизама обраде информација .[7]Обе врсте интелигенције граде моделе света на основу улаза и користе те моделе за предвиђање и генерисање одговора.Међутим, није лаж да ЛЛМ зна само кроз корелацију текстова без дубљег поимања и разумевања, ако се под „дубљим поимањем” подразумева свест, субјективно искуство и интринзична мотивација укорењена у физичкој реалности .[8]ЛЛМ-ови су изузетно софистицирани статистички мотори за обраду језика. Иако њихове способности могу да симулирају разумевање, фундаментална разлика лежи у њиховој онтологији – ЛЛМ-ови су програми који манипулишу симболима, док је биолошка интелигенција емергентна особина комплексног биолошког система који је еволуирао да се преживи и репродукује у физичком свету.
Аналогија са "укуснијом електричном струјом" одлична је за илустрацију разлике у мотивационим системима. Биолошка интелигенција има интринзичне „преференце“ које су еволуирале, док ЛЛМ-ови немају такве преференције изван оних које су им програмиране или имплицитно научене кроз оптимизацију циљева током тренинга.
У коначници, док обе врсте интелигенције користе корелације и обрасце за обраду информација, биолошка интелигенција је дубоко укорењена у физичком свету и има еволуционе циљеве, док ЛЛМ интелигенција оперише у домену језика и симбола, без директног приступа физичкој реалности или биолошким потребама .[9]
Зарстварно 'верујете' да ЛЛМ само 'даје статистички најпозитивнији одговор' и да се тај принцип толико разликује од биолошке ителегенције
Zapravo smo puno sličniji modeli nego što izgleda. Jer, i živa bića uče kroz trening, ne samo kroz lična iskustva. Pogledajmo koliko znanja kojima raspolažemo imamo jer smo ih lično iskusili, a koliko jer smo o tome čitali ili slušali od nekog drugog (počev od roditelja u najranijem detinjstvu, pa školovanja, preko čitanja literatura različitih težina i tačnosti, do običnih ćaskanja sa ljudima). U naš um je utisnuto puno informacija o kojima nemamo nikakve lične doživljaje, a držimo ih se čvrsto kao da su apsolutna istina. Recimo, omiljeni iskazi "daj mi naučni dokaz" ili "struka kaže", o kojima sam pisala nedavno. Tako da se tu ne razlikujemo puno od LLM.
