DI apskaičiavimai pervertina žmogaus intelektą ir gali lemti klaidingus sprendimus
Mokslininkai atrado, kad dabartiniai DI modeliai linkę pervertinti savo žmogiškųjų priešininkų racionalumą, tiek pirmakursių studentų, tiek patyrusių mokslininkų, strateginių mąstymo žaidimuose ir kitose užduotyse. Tai būtų viena didžiausių rizikų, deleguojant sudėtingas strategijas dirbtinėms sistemoms.
Rusijos Aukštosios ekonomikos mokyklos mokslininkai tyrime, paskelbtame žurnale Journal of Economic Behavior & Organization, nustatė, kad dideli kalbos modeliai (LLM), įskaitant ChatGPT ir Claude, linkę pervertinti savo žmogiškųjų oponentų racionalumą klasikiniuose strateginiuose žaidimuose, pavyzdžiui, vadinamajame „Keyneso grožio konkurse“. Toks pervertinimas verčia dirbtinio intelekto (DI) modelius rinktis sudėtingesnes strategijas nei žmonės iš tikrųjų naudoja, ir daugelyje partijų tai reiškia pralaimėjimą.
1930-aisiais britų ekonomistas Johnas Maynardas Keynesas sukūrė metaforinio grožio konkurso teorinę koncepciją. Pagal spaudos pranešimą, klasikinis pavyzdys reikalauja, kad laikraščio skaitytojai iš 100 fotografijų rinkinio pasirinktų šešis patraukliausius veidus. Prizas atitenka dalyviui, kurio pasirinkimas bus artimiausias populiariausiam, t. y. likusių dalyvių pasirinkimų vidurkiui. Daugeliu atvejų žmonės linkę rinktis nuotraukas, kurios jiems atrodo patraukliausios pagal subjektyvų pasirinkimą. Tačiau dažniausiai tai veda prie pralaimėjimo, nes tikrasis tikslas – numatyti, kurie veidai bus patraukliausi daugumai apklaustųjų. Taigi, racionali strategija būtų remti pasirinkimus kitų žmonių grožio suvokimu.
Mokslinis darbas palygino LLM su įvairaus profilio populiacijomis: nuo pirmakursių studentų iki žaidimų teorijos konferencijų dalyvių. Kiekvienam modeliui buvo paaiškintos žaidimo taisyklės ir paprašyta pasirinkti bei pagrįsti savo sprendimą. Autoriai pastebėjo, kad nors LLM pritaiko savo pasirinkimus pagal laukiamą priešininko sofistikaciją, jų pradinis taškas paprastai yra „protingesnis“ arba arčiau teorinės pusiausvyros nei daugumos žmonių.
Pasak tyrėjų, modeliai naudoja abstrakčius ir subalansuotus mąstymo modelius, dažnai pasitaikančius tekstose ir vadovėliuose: t. y., jie išmoksta idealizuotą žaidėjo versiją ir taip mato visus savo oponentus. Taip jie visiškai nesuvokia realių kognityvinių apribojimų ar šališkumų, kurie formuoja kasdienes žmogaus sprendimus. Praktikoje, manyti, kad žmogiškasis oponentas pasieks aukštesnį nei realus mąstymą, gali lemti teoriškai teisingą, bet su bendros populiacijos elgsena nesusijusį sprendimą, kuris būtent ir yra žaidimo tikslas.
Atradimas turi pasekmių finansams ir rinkoms: pavyzdžiui, „grožio konkurso“ teorija naudojama paaiškinti, kaip ekonominiai agentai numato kitų lūkesčius. DI modelis, manydamas per daug racionaliai, galėtų rekomenduoti strategijas, kurios prieštarauja rinkos realijoms ir sukelia nuostolius ar klaidingus sprendimus.
Rusijos Aukštosios ekonomikos mokyklos mokslininkai tyrime, paskelbtame žurnale Journal of Economic Behavior & Organization, nustatė, kad dideli kalbos modeliai (LLM), įskaitant ChatGPT ir Claude, linkę pervertinti savo žmogiškųjų oponentų racionalumą klasikiniuose strateginiuose žaidimuose, pavyzdžiui, vadinamajame „Keyneso grožio konkurse“. Toks pervertinimas verčia dirbtinio intelekto (DI) modelius rinktis sudėtingesnes strategijas nei žmonės iš tikrųjų naudoja, ir daugelyje partijų tai reiškia pralaimėjimą.
1930-aisiais britų ekonomistas Johnas Maynardas Keynesas sukūrė metaforinio grožio konkurso teorinę koncepciją. Pagal spaudos pranešimą, klasikinis pavyzdys reikalauja, kad laikraščio skaitytojai iš 100 fotografijų rinkinio pasirinktų šešis patraukliausius veidus. Prizas atitenka dalyviui, kurio pasirinkimas bus artimiausias populiariausiam, t. y. likusių dalyvių pasirinkimų vidurkiui. Daugeliu atvejų žmonės linkę rinktis nuotraukas, kurios jiems atrodo patraukliausios pagal subjektyvų pasirinkimą. Tačiau dažniausiai tai veda prie pralaimėjimo, nes tikrasis tikslas – numatyti, kurie veidai bus patraukliausi daugumai apklaustųjų. Taigi, racionali strategija būtų remti pasirinkimus kitų žmonių grožio suvokimu.
Mokslinis darbas palygino LLM su įvairaus profilio populiacijomis: nuo pirmakursių studentų iki žaidimų teorijos konferencijų dalyvių. Kiekvienam modeliui buvo paaiškintos žaidimo taisyklės ir paprašyta pasirinkti bei pagrįsti savo sprendimą. Autoriai pastebėjo, kad nors LLM pritaiko savo pasirinkimus pagal laukiamą priešininko sofistikaciją, jų pradinis taškas paprastai yra „protingesnis“ arba arčiau teorinės pusiausvyros nei daugumos žmonių.
Pasak tyrėjų, modeliai naudoja abstrakčius ir subalansuotus mąstymo modelius, dažnai pasitaikančius tekstose ir vadovėliuose: t. y., jie išmoksta idealizuotą žaidėjo versiją ir taip mato visus savo oponentus. Taip jie visiškai nesuvokia realių kognityvinių apribojimų ar šališkumų, kurie formuoja kasdienes žmogaus sprendimus. Praktikoje, manyti, kad žmogiškasis oponentas pasieks aukštesnį nei realus mąstymą, gali lemti teoriškai teisingą, bet su bendros populiacijos elgsena nesusijusį sprendimą, kuris būtent ir yra žaidimo tikslas.
Atradimas turi pasekmių finansams ir rinkoms: pavyzdžiui, „grožio konkurso“ teorija naudojama paaiškinti, kaip ekonominiai agentai numato kitų lūkesčius. DI modelis, manydamas per daug racionaliai, galėtų rekomenduoti strategijas, kurios prieštarauja rinkos realijoms ir sukelia nuostolius ar klaidingus sprendimus.
Papildoma informacija (Peržiūra)
Dirbtinis intelektas (DI) per pastaruosius dešimtmečius ženkliai pažengė, nuo paprastų programų, galinčių atlikti konkrečias užduotis, iki sudėtingų sistemų, kurios gali mokytis, prisitaikyti ir priimti sprendimus remdamosi milžiniškais duomenų kiekiais. Šie pasiekimai buvo įmanomi dėl sudėtingesnių algoritmų derinio, eksponentiškai išaugusio skaičiavimo galios ir prieigos prie didelių duomenų rinkinių. Tačiau, kai DI vis labiau integruojasi į mūsų gyvenimus, kyla naujų klausimų ir iššūkių, kaip ji sąveikauja ir supranta žmogaus elgseną. Viena iš labiausiai įtraukiančių tyrimo sričių buvo DI ir žmonių sąveika strateginių sprendimų priėmimo kontekstuose. Tai ne tik turi taikymų žaidimuose ir varžybose, bet ir kritinėse srityse, pavyzdžiui, derybose, finansiniame planavime ir saugume. DI gebėjimas numatyti ir reaguoti...
Tai yra papildomos informacijos peržiūra. Užsiregistruokite, norint pamatyti visą tekstą.
Šaltinis: Levante-EMV • Visas turinys ir vaizdai priklauso jų atitinkamiems savininkams.
