Ofurgreind ekki enn á sjóndeildarhringnum en þörf á eftirliti Hólmfríður Gísladóttir skrifar 24. október 2023 13:00 Hassabis segir aðkallandi að horfa til alþjóðlegrar stefnumörkunar og eftirlits með þróun gervigreindar. epa/Wu Hong Demis Hassabis, framkvæmdastjóri Google DeepMind, segir „guðlega“ gervigreind ekki á sjóndeildarhringnum enn sem komið er en að vinna við stefnumörkun og eftirlit með þróun gervigreindar verði að hefjast „í gær“. Stjórnvöld á Bretlandseyjum hafa boðað til ráðstefnu um áskoranir vegna hraðrar framþróunar gervigreindar þar sem Hassabis verður meðal frummælenda. Hann er frumkvöðull á þessu sviði, stofnaði DeepMind árið 2010 og seldi fyrirtækið til Google árið 2014. Frá þeim tíma hefur hann farið fyrir þróun gervigreindar hjá tæknirisanum. Hassabis segist ekki vera meðal þeirra sem óttast eða eru afar neikvæðir í garð gervigreindar en hann segir ríki heims hins vegar þurfa að hefjast tafarlaust við að draga úr og koma í veg fyrir hættur af völdum tækninnar, sem menn gætu meðal annars misnotað til að þróa lífefnavopn. „Við verðum að taka hættuna af völdum gervigreindar jafn alvarlega og aðrar alþjóðlegar áskoranir, eins og loftslagsbreytingar,“ segir Hassabi. „Það tók alþjóðasamfélagið of langan tíma til að koma með samræmar aðgerðir hvað þær varðar og við búum nú við afleiðingar þess. Við megum ekki við sömu töfum hvað varðar gervigreindina,“ segir hann. Milliríkjanefnd eða alþjóðastofnun Það var teymi Hassabi sem þróaði AlphaFold, forritið sem hefur spáð fyrir um byggingu allra prótína líkamans. Hann segir gervigreind gætu orðið ein mikilvægastu tækniframþróun sögunnar en að stefnumótunar sé þörf og þar megi horfa til alþjóðlegra stofnana á borð við Milliríkjanefnd Sameinuðu þjóðanna um loftslagsmál (IPCC). Stofnun á borð við Alþjóðakjarnorkumálastofnunina myndi svo taka við, sem hefði eftirlit með framþróun tækninnar. Excited to share #AlphaMissense our new AI system that can classify whether genetic mutations (missense variants) are benign or harmful - a critical step toward uncovering causes of many diseases, from cystic fibrosis to cancer. In @ScienceMagazine today https://t.co/pIsskIe1cP— Demis Hassabis (@demishassabis) September 19, 2023 Hassabis segir gervigreindina geta stuðlað að ótrúlegum framförum, til dæmis á vettvangi heilbrigðisvísinda, og segist ekki myndu starfa á þessu sviði ef hann teldi það ekki geta orðið til góðs. Hins vegar var hann einnig meðal framámanna sem undirrituðu opið bréf í maí um mögulegar ógnir gervigreindar. Menn hafa viðrað áhyggjur af því að mannkyninu gæti bókstaflega stafað tilvistarleg ógn af tækninni, að forrit gæti hreinlega orðið gáfaðra en manneskjan og losnað undan stjórn hans. „Gæti hún stolið eigin kóða, bætt eigin kóða? Gæti hún afritað sig án leyfis? Það væri óæskileg hegðun því ef þú vilt slökkva á henni viltu ekki að hún geymi afrit af sér annars staðar,“ segir Hassabis. „Það er alls konar svona hegðun sem væri óæskileg hjá öflugu kerfi.“ Prófanir eru ein þeirra lausna sem Hassabis leggur til og svo mögulega lagasetning. En rannsókna sé þörf. Gervigreind Tækni Google Mest lesið Albert mættur í dómsal Innlent Helgi í Góu og fyrrverandi borguðu brúsann Innlent Skilur ekkert í niðurstöðu Guðrúnar Innlent Svarar fyrir að hafa banað syni sínum í Kópavogi Innlent Talinn hafa svipt barn frelsi sem hann grunaði um að stela veipi Innlent Gerði sér mat úr kattaráti andlega veikrar konu Erlent Silja Björk biður Ingó afsökunar Innlent „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu Erlent „Fólk fer hreinlega grátandi frá mér“ Innlent Sigurður Helgi Guðjónsson látinn Innlent Fleiri fréttir Bon Jovi lofaður fyrir að bjarga konu í sjálfsvígshugleiðingum Fyrsta geimganga óbreyttra borgara Fujimori er látinn „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu 171 handtekinn og 402 börnum bjargað í aðgerðum í Malasíu Sex starfsmenn UNRWA sagðir hafa verið drepnir í árás Ísraelshers Gerði sér mat úr kattaráti andlega veikrar konu Sprengdu yfirgefinn skýjakljúf í Lousiana Daunill þróun í metanlosun mannkynsins Baráttan um Bandaríkin: Sögulegar kappræður gerðar upp Gætu leyft Úkraínu að nota langdræg flugskeyti gegn Rússlandi Krefjast þess að Ísraelsher bæti ráð sitt eftir dráp á Bandaríkjamanni Brú yfir Saxelfi hrundi í Dresden Trump í mikilli vörn en lýsir yfir sigri 1,4 milljarðar króna fyrir að mæta ekki fyrir rétt Bein útsending: Harris og Trump takast á í fyrsta sinn Sveik 1,3 milljarða úr streymisveitum með gervispilunum Trump verði áfram Trump en meira í húfi fyrir Harris Verður næsti utanríkisráðherra Svíþjóðar Hafa fengið skotflaugar frá Íran Reglur kvöldsins: Engir áhorfendur og slökkt á meðan hinn talar Siðblindur raðlygari sem sýndi aðra hlið út á við Ætla í fyrstu borgaralegu geimgönguna Handtekinn í Dubaí Rannsókn hafin en efasemdir uppi um sekt Letby Auglýsa eftir upplýsingum um 28 ára gamalt morðmál Brú hrundi eftir gríðarlegan fellibyl Weinstein fluttur í flýti í bráðaaðgerð Þjóðverjar herða tökin á landamærum Meintir nauðgarar kvarta undan birtingu mynda og nafna Sjá meira
Stjórnvöld á Bretlandseyjum hafa boðað til ráðstefnu um áskoranir vegna hraðrar framþróunar gervigreindar þar sem Hassabis verður meðal frummælenda. Hann er frumkvöðull á þessu sviði, stofnaði DeepMind árið 2010 og seldi fyrirtækið til Google árið 2014. Frá þeim tíma hefur hann farið fyrir þróun gervigreindar hjá tæknirisanum. Hassabis segist ekki vera meðal þeirra sem óttast eða eru afar neikvæðir í garð gervigreindar en hann segir ríki heims hins vegar þurfa að hefjast tafarlaust við að draga úr og koma í veg fyrir hættur af völdum tækninnar, sem menn gætu meðal annars misnotað til að þróa lífefnavopn. „Við verðum að taka hættuna af völdum gervigreindar jafn alvarlega og aðrar alþjóðlegar áskoranir, eins og loftslagsbreytingar,“ segir Hassabi. „Það tók alþjóðasamfélagið of langan tíma til að koma með samræmar aðgerðir hvað þær varðar og við búum nú við afleiðingar þess. Við megum ekki við sömu töfum hvað varðar gervigreindina,“ segir hann. Milliríkjanefnd eða alþjóðastofnun Það var teymi Hassabi sem þróaði AlphaFold, forritið sem hefur spáð fyrir um byggingu allra prótína líkamans. Hann segir gervigreind gætu orðið ein mikilvægastu tækniframþróun sögunnar en að stefnumótunar sé þörf og þar megi horfa til alþjóðlegra stofnana á borð við Milliríkjanefnd Sameinuðu þjóðanna um loftslagsmál (IPCC). Stofnun á borð við Alþjóðakjarnorkumálastofnunina myndi svo taka við, sem hefði eftirlit með framþróun tækninnar. Excited to share #AlphaMissense our new AI system that can classify whether genetic mutations (missense variants) are benign or harmful - a critical step toward uncovering causes of many diseases, from cystic fibrosis to cancer. In @ScienceMagazine today https://t.co/pIsskIe1cP— Demis Hassabis (@demishassabis) September 19, 2023 Hassabis segir gervigreindina geta stuðlað að ótrúlegum framförum, til dæmis á vettvangi heilbrigðisvísinda, og segist ekki myndu starfa á þessu sviði ef hann teldi það ekki geta orðið til góðs. Hins vegar var hann einnig meðal framámanna sem undirrituðu opið bréf í maí um mögulegar ógnir gervigreindar. Menn hafa viðrað áhyggjur af því að mannkyninu gæti bókstaflega stafað tilvistarleg ógn af tækninni, að forrit gæti hreinlega orðið gáfaðra en manneskjan og losnað undan stjórn hans. „Gæti hún stolið eigin kóða, bætt eigin kóða? Gæti hún afritað sig án leyfis? Það væri óæskileg hegðun því ef þú vilt slökkva á henni viltu ekki að hún geymi afrit af sér annars staðar,“ segir Hassabis. „Það er alls konar svona hegðun sem væri óæskileg hjá öflugu kerfi.“ Prófanir eru ein þeirra lausna sem Hassabis leggur til og svo mögulega lagasetning. En rannsókna sé þörf.
Gervigreind Tækni Google Mest lesið Albert mættur í dómsal Innlent Helgi í Góu og fyrrverandi borguðu brúsann Innlent Skilur ekkert í niðurstöðu Guðrúnar Innlent Svarar fyrir að hafa banað syni sínum í Kópavogi Innlent Talinn hafa svipt barn frelsi sem hann grunaði um að stela veipi Innlent Gerði sér mat úr kattaráti andlega veikrar konu Erlent Silja Björk biður Ingó afsökunar Innlent „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu Erlent „Fólk fer hreinlega grátandi frá mér“ Innlent Sigurður Helgi Guðjónsson látinn Innlent Fleiri fréttir Bon Jovi lofaður fyrir að bjarga konu í sjálfsvígshugleiðingum Fyrsta geimganga óbreyttra borgara Fujimori er látinn „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu 171 handtekinn og 402 börnum bjargað í aðgerðum í Malasíu Sex starfsmenn UNRWA sagðir hafa verið drepnir í árás Ísraelshers Gerði sér mat úr kattaráti andlega veikrar konu Sprengdu yfirgefinn skýjakljúf í Lousiana Daunill þróun í metanlosun mannkynsins Baráttan um Bandaríkin: Sögulegar kappræður gerðar upp Gætu leyft Úkraínu að nota langdræg flugskeyti gegn Rússlandi Krefjast þess að Ísraelsher bæti ráð sitt eftir dráp á Bandaríkjamanni Brú yfir Saxelfi hrundi í Dresden Trump í mikilli vörn en lýsir yfir sigri 1,4 milljarðar króna fyrir að mæta ekki fyrir rétt Bein útsending: Harris og Trump takast á í fyrsta sinn Sveik 1,3 milljarða úr streymisveitum með gervispilunum Trump verði áfram Trump en meira í húfi fyrir Harris Verður næsti utanríkisráðherra Svíþjóðar Hafa fengið skotflaugar frá Íran Reglur kvöldsins: Engir áhorfendur og slökkt á meðan hinn talar Siðblindur raðlygari sem sýndi aðra hlið út á við Ætla í fyrstu borgaralegu geimgönguna Handtekinn í Dubaí Rannsókn hafin en efasemdir uppi um sekt Letby Auglýsa eftir upplýsingum um 28 ára gamalt morðmál Brú hrundi eftir gríðarlegan fellibyl Weinstein fluttur í flýti í bráðaaðgerð Þjóðverjar herða tökin á landamærum Meintir nauðgarar kvarta undan birtingu mynda og nafna Sjá meira