Gervigreindin beisluð Hanna Kristín Skaftadóttir og Helga Sigrún Harðardóttir skrifa 9. júlí 2025 07:01 Gervigreind (AI) er orðin snar þáttur í nútíma atvinnulífi og samfélagi og mun hafa enn meiri áhrif á fyrirtæki og atvinnulíf bæði hér heima og á heimsvísu. Í skýrslu World Economic Forum (WEF) er því spáð að um 170 milljónir nýrra starfa muni skapast á heimsvísu fram til 2030 en um 92 milljónir starfa muni hverfa á sama tíma. Þetta samsvarar hreinni aukningu um 78 milljónir starfa (um 2% af heildarstörfum) ef spár ganga eftir. Slík umbylting kallar á gagngera endurskoðun á vinnumarkaði og menntun; raunar gera atvinnurekendur ráð fyrir að um 39% af helstu hæfniþáttum starfsmanna þurfi að breytast fram til ársins 2030. Þetta útheimtir markvissa endurmenntun og uppbyggingu nýrrar hæfni svo ekki myndist gjá milli þess sem tæknin krefst og þess sem mannauðurinn hefur fram að færa. Með hraðri innreið gervigreindar vaknar svo samhliða því þörf fyrir skýran ramma og samræmdar leikreglur. Stöðlun skiptir lykilmáli til að tryggja samræmi, öryggi og traust í notkun gervigreindarkerfa. Þekking á stöðlum er eitt af því sem þarf að fræða og mennta aðila vinnumarkaðarins um. Brýn þörf er fyrir styrka stjórnun og skorður við hönnun og þróun gervigreindarkerfa og -lausna til að tryggja öryggi okkar og grundvallar réttindi. Evrópusambandið hefur þegar reist fjölda girðinga með gervigreindarlögunum (EU AI Act) sem tóku gildi 2024. Megininntak þeirra er að skýrar reglur, samhæfðir staðlar og varnaglar í kringum gervigreind eru forsenda þess að fyrirtæki og stofnanir geti notið þess besta sem tæknin býður án þess að eitthvað fari úrskeiðis eða valdi hættu. Evrópusambandið hefur nýtt stöðlun talsvert í gegnum tíðina með góðum árangri, til að útfæra tæknilegar kröfur löggjafar og segja til um hvernig hlutir skulu hannaðir, framleiddir, prófaðir og hvernig þeir eiga að virka. Fyrst og fremst hefur það átt við um áþreifanlega hluti eins og leikföng, lækningatæki og byggingarvörur til að tryggja öryggi fólks, heilsu- og umhverfisvernd auk gæða og virkni. Nú er hins vegar búið er að setja í gang umfangsmikla stöðlun sem á að segja til um útfærslur gervigreindarlaganna til að auðvelda hönnuðum og þróunaraðilum að búa til gervigreindarkerfi sem tryggja öryggi okkar og koma í veg fyrir slys, mismunun, falsfréttir og rangar ákvarðanir og tryggja persónuvernd og ábyrgð þeirra sem hanna slík kerfi. Löggjöfin hefur þegar tekið gildi í Evrópu þó gildistöku nokkurra ákvæða hafi verið frestað til 2025 og 2026, Löggjöfin snýst í grunninn um að meta áhættur, forgangsraða þeim og bregðast við þeim með viðeigandi hætti. Áhættu sem metin er óásættanleg þarf að útrýma. Þar er átt við t.d. sjálfvirka líffræðilega auðkenningu og flokkun fólks, andlitsgreiningu á almannafæri og verkfæri sem leitt geta til stjórnunar eða blekkingar viðkvæmra hópa s.s. raddstýrð leikföng barna. Kerfi sem teljast með háa áhættu s.s. greiningarkerfi í heilbrigðisþjónustu, öryggiskerfi í iðnaði og flugi, gervigreind sem notuð er af stjórnvöldum til ákvarðanatöku eða hefur áhrif á lífsviðurværi fólks, þurfa að uppfylla strangar kröfur. Slíkum kerfum þarf að gæða- og áhættustýra og gerð er krafa um mannlega yfirumsjón þar sem hægt er að grípa inn í og stöðva kerfi hvenær sem er. Notendur slíkra kerfa verða líka að skilja þau og mata þau á gögnum sem eru laus við hlutdrægni eða skekkju sem valdið getur mismunun. Þá þarf að merkja sérstaklega og veita upplýsingar um kerfi með takmarkaðri áhættu, s.s. að merkja myndefni og deep-fake efni sem slíkt og fólk þarf að vita þegar það er í samskiptum við spjallmenni en ekki lifandi fólk. Allt ofangreint eru kröfur sem gerðar eru til hönnuða og þróunaraðila gervigreindarkerfa og -lausna í Evrópu og verða innleiddar á Íslandi innan tíðar. Kröfurnar eru settar og útfærðar með samhæfðum stöðlum til að tryggja að framleiðendur og þróunaraðilar, dreifendur gervigreindarkerfa og notendur þeirra fylgi ströngum reglum með einsleitum hætti en reglunum er ætlað að vernda almenning, velferðar- og lýðræðissamfélög. Íslensk fyrirtæki og atvinnulíf munu þurfa að fylgja þessari þróun og aðlaga sig að þeirri stöðlun og gæðamerkingum sem eru framundan. Sömu öryggis- og gæðaviðmið munu þá gilda hér og í öðrum Evrópulöndum. Þetta mun auka öryggi notenda og býður íslenskum fyrirtækjum að keppa á jöfnum grundvelli. Jafnframt getur þetta kallað á gagngerar breytingar á mörgum ferlum og hæfniskröfum hérlendis – til dæmis þarf að mennta starfsfólk til að nota gervigreindartækni á ábyrgan hátt og laga stjórnkerfi fyrirtækja að nýjum veruleika. Ábyrg notkun gervigreindar krefst þess að fyrir hendi séu traustir staðlar og skýrar leikreglur. Jafnframt verður atvinnulífið að laga sig að þessum nýju kröfum og tækifærum sem gervigreindin felur í sér, þar sem bæði samkeppnishæfni og öryggi eru í húfi. Þegar upp er staðið er ljóst að ábyrg notkun gervigreindar krefst bæði öflugrar stöðlunar og gagngerrar aðlögunar atvinnulífsins að nýjum leikreglum. Hanna Kristín Skaftadóttir, fagstjóri viðskiptagreindar, Háskólanum á Bifröst. Helga Sigrún Harðardóttir, framkvæmdastjóri Staðlaráðs Íslands. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Helga Sigrún Harðardóttir Gervigreind Tækni Evrópusambandið Mest lesið Loforðið sem borgarstjóri gleymdi Magnea Gná Jóhannsdóttir Skoðun Öndum rólega – á meðan húsið brennur Magnús Magnússon Skoðun Ríkisstjórnin ræður ekki við verðbólguna Jóhann Páll Jóhannsson Skoðun Kristrún, það er bannað að plata Snorri Másson Skoðun „Akademísk sniðganga“: gaslýsingar og hnignun háskólasamfélagsins Birgir Finnsson Skoðun Umbylting ríkisfjármála á átta mánuðum Jóhann Páll Jóhannsson Skoðun Átta atriði sem sýna fram á vanda hávaxtastefnunnar Halla Gunnarsdóttir Skoðun Hraðahindranir fyrir strætó Sveinn Ólafsson Skoðun Öndunaræfingar í boði SFS Vala Árnadóttir Skoðun Flóttafólk er bara fólk Úlfhildur Ólafsdóttir Skoðun Skoðun Skoðun Lærum að lesa og reikna Jón Pétur Zimsen skrifar Skoðun Loforðið sem borgarstjóri gleymdi Magnea Gná Jóhannsdóttir skrifar Skoðun Kristrún, það er bannað að plata Snorri Másson skrifar Skoðun Öndunaræfingar í boði SFS Vala Árnadóttir skrifar Skoðun Öndum rólega – á meðan húsið brennur Magnús Magnússon skrifar Skoðun Umbylting ríkisfjármála á átta mánuðum Jóhann Páll Jóhannsson skrifar Skoðun Átta atriði sem sýna fram á vanda hávaxtastefnunnar Halla Gunnarsdóttir skrifar Skoðun 50 þúsund nýir íbúar – Hvernig tryggjum við samheldni? Guðmundur Ari Sigurjónsson skrifar Skoðun Framtíð nemenda í fyrsta sæti í Kópavogi Ásdís Kristjánsdóttir skrifar Skoðun Að setjast í fyrsta sinn á skólabekk Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Ferðalag úr fangelsi hugans Sigurður Árni Reynisson skrifar Skoðun Hraðahindranir fyrir strætó Sveinn Ólafsson skrifar Skoðun Íslenzkir sambandsríkissinnar Hjörtur J. Guðmundsson skrifar Skoðun Garðurinn okkar fyllist af illgresi Davíð Bergmann skrifar Skoðun Nýtt landsframlag – og hvað svo? Hrafnhildur Bragadóttir,Birna Sigrún Hallsdóttir skrifar Skoðun Fágætir dýrgripir í Vestmannaeyjum Gunnar Salvarsson skrifar Skoðun Gjaldskyldulandið Ísland - Viltu hafa bílastæðagjald við hverja lækjarsprænu? Hermann Helguson skrifar Skoðun Gervigreind er ekki sannleiksvél – en við getum gert svörin traustari Sigvaldi Einarsson skrifar Skoðun Er einnig von á góðakstri Strætó í ár? Stefán Hrafn Jónsson skrifar Skoðun Ferðumst saman í Reykjavík Heiða Björg Hilmisdóttir skrifar Skoðun Þúsundir barna bætast við umferðina Hrefna Sigurjónsdóttir skrifar Skoðun Þau sem hlaupa í átt að hættunni þegar aðrir flýja Gísli Rafn Ólafsson skrifar Skoðun Öndum rólega Heiðrún Lind Marteinsdóttir skrifar Skoðun Réttur barna versus veruleiki Matthildur Björnsdóttir skrifar Skoðun Framtíð villta laxins hangir á bláþræði Elvar Örn Friðriksson skrifar Skoðun „Akademísk sniðganga“: gaslýsingar og hnignun háskólasamfélagsins Birgir Finnsson skrifar Skoðun Við lifum ekki á tíma fasisma Hjörvar Sigurðsson skrifar Skoðun Fíknisjúkdómur – samfélagsleg ábyrgð sem við þurfum að takast á við Halldór Þór Svavarsson skrifar Skoðun Ætlar ríkið að stuðla að aukinni tóbaksneyslu á Íslandi? Bjarni Freyr Guðmundsson skrifar Skoðun Bílastæðavandi í Reykjavík – tími til aðgerða Einar Sveinbjörn Guðmundsson skrifar Sjá meira
Gervigreind (AI) er orðin snar þáttur í nútíma atvinnulífi og samfélagi og mun hafa enn meiri áhrif á fyrirtæki og atvinnulíf bæði hér heima og á heimsvísu. Í skýrslu World Economic Forum (WEF) er því spáð að um 170 milljónir nýrra starfa muni skapast á heimsvísu fram til 2030 en um 92 milljónir starfa muni hverfa á sama tíma. Þetta samsvarar hreinni aukningu um 78 milljónir starfa (um 2% af heildarstörfum) ef spár ganga eftir. Slík umbylting kallar á gagngera endurskoðun á vinnumarkaði og menntun; raunar gera atvinnurekendur ráð fyrir að um 39% af helstu hæfniþáttum starfsmanna þurfi að breytast fram til ársins 2030. Þetta útheimtir markvissa endurmenntun og uppbyggingu nýrrar hæfni svo ekki myndist gjá milli þess sem tæknin krefst og þess sem mannauðurinn hefur fram að færa. Með hraðri innreið gervigreindar vaknar svo samhliða því þörf fyrir skýran ramma og samræmdar leikreglur. Stöðlun skiptir lykilmáli til að tryggja samræmi, öryggi og traust í notkun gervigreindarkerfa. Þekking á stöðlum er eitt af því sem þarf að fræða og mennta aðila vinnumarkaðarins um. Brýn þörf er fyrir styrka stjórnun og skorður við hönnun og þróun gervigreindarkerfa og -lausna til að tryggja öryggi okkar og grundvallar réttindi. Evrópusambandið hefur þegar reist fjölda girðinga með gervigreindarlögunum (EU AI Act) sem tóku gildi 2024. Megininntak þeirra er að skýrar reglur, samhæfðir staðlar og varnaglar í kringum gervigreind eru forsenda þess að fyrirtæki og stofnanir geti notið þess besta sem tæknin býður án þess að eitthvað fari úrskeiðis eða valdi hættu. Evrópusambandið hefur nýtt stöðlun talsvert í gegnum tíðina með góðum árangri, til að útfæra tæknilegar kröfur löggjafar og segja til um hvernig hlutir skulu hannaðir, framleiddir, prófaðir og hvernig þeir eiga að virka. Fyrst og fremst hefur það átt við um áþreifanlega hluti eins og leikföng, lækningatæki og byggingarvörur til að tryggja öryggi fólks, heilsu- og umhverfisvernd auk gæða og virkni. Nú er hins vegar búið er að setja í gang umfangsmikla stöðlun sem á að segja til um útfærslur gervigreindarlaganna til að auðvelda hönnuðum og þróunaraðilum að búa til gervigreindarkerfi sem tryggja öryggi okkar og koma í veg fyrir slys, mismunun, falsfréttir og rangar ákvarðanir og tryggja persónuvernd og ábyrgð þeirra sem hanna slík kerfi. Löggjöfin hefur þegar tekið gildi í Evrópu þó gildistöku nokkurra ákvæða hafi verið frestað til 2025 og 2026, Löggjöfin snýst í grunninn um að meta áhættur, forgangsraða þeim og bregðast við þeim með viðeigandi hætti. Áhættu sem metin er óásættanleg þarf að útrýma. Þar er átt við t.d. sjálfvirka líffræðilega auðkenningu og flokkun fólks, andlitsgreiningu á almannafæri og verkfæri sem leitt geta til stjórnunar eða blekkingar viðkvæmra hópa s.s. raddstýrð leikföng barna. Kerfi sem teljast með háa áhættu s.s. greiningarkerfi í heilbrigðisþjónustu, öryggiskerfi í iðnaði og flugi, gervigreind sem notuð er af stjórnvöldum til ákvarðanatöku eða hefur áhrif á lífsviðurværi fólks, þurfa að uppfylla strangar kröfur. Slíkum kerfum þarf að gæða- og áhættustýra og gerð er krafa um mannlega yfirumsjón þar sem hægt er að grípa inn í og stöðva kerfi hvenær sem er. Notendur slíkra kerfa verða líka að skilja þau og mata þau á gögnum sem eru laus við hlutdrægni eða skekkju sem valdið getur mismunun. Þá þarf að merkja sérstaklega og veita upplýsingar um kerfi með takmarkaðri áhættu, s.s. að merkja myndefni og deep-fake efni sem slíkt og fólk þarf að vita þegar það er í samskiptum við spjallmenni en ekki lifandi fólk. Allt ofangreint eru kröfur sem gerðar eru til hönnuða og þróunaraðila gervigreindarkerfa og -lausna í Evrópu og verða innleiddar á Íslandi innan tíðar. Kröfurnar eru settar og útfærðar með samhæfðum stöðlum til að tryggja að framleiðendur og þróunaraðilar, dreifendur gervigreindarkerfa og notendur þeirra fylgi ströngum reglum með einsleitum hætti en reglunum er ætlað að vernda almenning, velferðar- og lýðræðissamfélög. Íslensk fyrirtæki og atvinnulíf munu þurfa að fylgja þessari þróun og aðlaga sig að þeirri stöðlun og gæðamerkingum sem eru framundan. Sömu öryggis- og gæðaviðmið munu þá gilda hér og í öðrum Evrópulöndum. Þetta mun auka öryggi notenda og býður íslenskum fyrirtækjum að keppa á jöfnum grundvelli. Jafnframt getur þetta kallað á gagngerar breytingar á mörgum ferlum og hæfniskröfum hérlendis – til dæmis þarf að mennta starfsfólk til að nota gervigreindartækni á ábyrgan hátt og laga stjórnkerfi fyrirtækja að nýjum veruleika. Ábyrg notkun gervigreindar krefst þess að fyrir hendi séu traustir staðlar og skýrar leikreglur. Jafnframt verður atvinnulífið að laga sig að þessum nýju kröfum og tækifærum sem gervigreindin felur í sér, þar sem bæði samkeppnishæfni og öryggi eru í húfi. Þegar upp er staðið er ljóst að ábyrg notkun gervigreindar krefst bæði öflugrar stöðlunar og gagngerrar aðlögunar atvinnulífsins að nýjum leikreglum. Hanna Kristín Skaftadóttir, fagstjóri viðskiptagreindar, Háskólanum á Bifröst. Helga Sigrún Harðardóttir, framkvæmdastjóri Staðlaráðs Íslands.
Skoðun Gjaldskyldulandið Ísland - Viltu hafa bílastæðagjald við hverja lækjarsprænu? Hermann Helguson skrifar
Skoðun Gervigreind er ekki sannleiksvél – en við getum gert svörin traustari Sigvaldi Einarsson skrifar
Skoðun Fíknisjúkdómur – samfélagsleg ábyrgð sem við þurfum að takast á við Halldór Þór Svavarsson skrifar