Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Hörmulegur atburður í flugstöð Leifs Eiríkssonar Jón Pétursson Skoðun Þegar þeir sem segjast þjóna þjóðinni ráðast á hana Ágústa Árnadóttir Skoðun Ekki mínir hagsmunir Berglind Hlín Baldursdóttir Skoðun Dóru Björt svarað! Jón G. Hauksson Skoðun Forstjórinn stígur fram Örn Pálsson Skoðun Lífsgæði íbúa Mosfellsbæjar skert Regína Ásvaldsdóttir Skoðun Óásættanleg málsmeðferð Linda Íris Emilsdóttir,Katrín Oddsdóttir Skoðun Eiga ellilífeyrir og örorkubætur að fylgja launavísitölu? Haukur Arnþórsson Skoðun Börnin á Gaza eru ekki í fríi Bjarni Fritzson,Blær Guðmundsdóttir ,Elías Rúni Þorsteinsson,Elísabet Thoroddsen,Gunnar Helgason,Linda Ólafsdóttir,Lóa Hlín Hjálmtýsdóttir,Yrsa Þöll Gylfadóttir Skoðun Uppbygging í Grafarvogi eflir hverfið og mætir húsnæðiskrísunni á skynsaman hátt Dóra Björt Guðjónsdóttir Skoðun Skoðun Skoðun Ríkið tekur – landsbyggðirnar fá minna Hjálmar Bogi Hafliðason skrifar Skoðun Snjallasta stefnubreyting Samfylkingarinnar Jóhann Frímann Arinbjarnarson skrifar Skoðun Þegar samfélagið þagnar Benóný Valur Jakobsson skrifar Skoðun Stjórnleysi í íslenskri dýravernd Árni Stefán Árnason skrifar Skoðun Olíumjólk Sigurður Ingi Friðleifsson skrifar Skoðun Leikskólagjöld í Kópavogi þau hæstu á landinu Örn Arnarson skrifar Skoðun Pólitískur gúmmítékki Jens Garðar Helgason skrifar Skoðun Þegar bændur bregðast dýrum sínum – Valda þeim þjáningu og skelfilegum dauðdaga Ole Anton Bieltvedt skrifar Skoðun Morðæðið á Gaza - Vitfirringin má ekki eyðileggja mennskuna Jón Baldvin Hannesson skrifar Skoðun Orðsins fyllsta merking Eiríkur Kristjánsson skrifar Skoðun Dóru Björt svarað! Jón G. Hauksson skrifar Skoðun Ísland og hafið: viðbrögð við brotum Ísraels á alþjóðalögum Inga Björk Margrétar Bjarnadóttir,Magnús Magnússon skrifar Skoðun Ekki mínir hagsmunir Berglind Hlín Baldursdóttir skrifar Skoðun Ætlar vinstri meirihlutinn að skila auðu? Þórdís Lóa Þórhalldóttir skrifar Skoðun Óásættanleg málsmeðferð Linda Íris Emilsdóttir,Katrín Oddsdóttir skrifar Skoðun Fjárfestavernd sem gengur of langt? Baldvin Ingi Sigurðsson skrifar Skoðun Æfðu þig í virkum og uppbyggilegum viðbrögðum Ingrid Kuhlman skrifar Skoðun Samþjöppunin hefur ekkert að gera með veiðigjöldin Sigurjón Þórðarson skrifar Skoðun Aðför Vinnueftirlits að hagsmunum slasaðra. Steinar Harðarson skrifar Skoðun Þegar þeir sem segjast þjóna þjóðinni ráðast á hana Ágústa Árnadóttir skrifar Skoðun Karlar, piltar og strákar Jón Pétur Zimsen skrifar Skoðun Eiga ellilífeyrir og örorkubætur að fylgja launavísitölu? Haukur Arnþórsson skrifar Skoðun Ísland verður að vernda hafið og fiskimiðin frá námuvinnslu á hafsbotni Laura Sólveig Lefort Scheefer,Þorgerður María Þorbjarnardóttir,Árni Finnsson,Sæunn Júlía Sigurjónsdóttir,Belén García Ovide,Huld Hafliðadóttir skrifar Skoðun Nennið þið plís blessaða ríkisstjórn! Derek T. Allen skrifar Skoðun Ertu klár? Jakob Smári Magnússon skrifar Skoðun Kengúrur eða Þorskar: Hver forritar framtíð Íslands? Björgmundur Örn Guðmundsson skrifar Skoðun Börnin á Gaza eru ekki í fríi Bjarni Fritzson,Blær Guðmundsdóttir ,Elías Rúni Þorsteinsson,Elísabet Thoroddsen,Gunnar Helgason,Linda Ólafsdóttir,Lóa Hlín Hjálmtýsdóttir,Yrsa Þöll Gylfadóttir skrifar Skoðun Mannréttindi fatlaðs fólks - orð og efndir Unnur Helga Óttarsdóttir,Alma Ýr Ingólfsdóttir skrifar Skoðun Brimrót og veðragnýr í alþjóðamálum Árni Þór Sigurðsson skrifar Skoðun Forstjórinn stígur fram Örn Pálsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Börnin á Gaza eru ekki í fríi Bjarni Fritzson,Blær Guðmundsdóttir ,Elías Rúni Þorsteinsson,Elísabet Thoroddsen,Gunnar Helgason,Linda Ólafsdóttir,Lóa Hlín Hjálmtýsdóttir,Yrsa Þöll Gylfadóttir Skoðun
Uppbygging í Grafarvogi eflir hverfið og mætir húsnæðiskrísunni á skynsaman hátt Dóra Björt Guðjónsdóttir Skoðun
Skoðun Þegar bændur bregðast dýrum sínum – Valda þeim þjáningu og skelfilegum dauðdaga Ole Anton Bieltvedt skrifar
Skoðun Ísland og hafið: viðbrögð við brotum Ísraels á alþjóðalögum Inga Björk Margrétar Bjarnadóttir,Magnús Magnússon skrifar
Skoðun Ísland verður að vernda hafið og fiskimiðin frá námuvinnslu á hafsbotni Laura Sólveig Lefort Scheefer,Þorgerður María Þorbjarnardóttir,Árni Finnsson,Sæunn Júlía Sigurjónsdóttir,Belén García Ovide,Huld Hafliðadóttir skrifar
Skoðun Börnin á Gaza eru ekki í fríi Bjarni Fritzson,Blær Guðmundsdóttir ,Elías Rúni Þorsteinsson,Elísabet Thoroddsen,Gunnar Helgason,Linda Ólafsdóttir,Lóa Hlín Hjálmtýsdóttir,Yrsa Þöll Gylfadóttir skrifar
Skoðun Mannréttindi fatlaðs fólks - orð og efndir Unnur Helga Óttarsdóttir,Alma Ýr Ingólfsdóttir skrifar
Börnin á Gaza eru ekki í fríi Bjarni Fritzson,Blær Guðmundsdóttir ,Elías Rúni Þorsteinsson,Elísabet Thoroddsen,Gunnar Helgason,Linda Ólafsdóttir,Lóa Hlín Hjálmtýsdóttir,Yrsa Þöll Gylfadóttir Skoðun
Uppbygging í Grafarvogi eflir hverfið og mætir húsnæðiskrísunni á skynsaman hátt Dóra Björt Guðjónsdóttir Skoðun