Stjórnun gervi­greindar og öryggi

Þær hellast yfir okkur fréttirnar um að gervigreindin sé hættuleg og ekkert sé gert til að hemja hana. Hvort gervigreindin sé hættuleg fer mikið eftir því hvernig hún er notuð. Að ekkert sé gert til að hemja hana er hins vegar rangt.

Hvað seinna atriðið varðar, þá ættu allar skipulagsheildir, sem vinna með gervigreind, að greina hættur og tækifæri sem felst í notkun hennar. Líklegast er einbeitingin á tækifærunum, en hætturnar vilja gleymast.

Gervigreindin er ekki ný, en víðtæk notkun hennar er það. Meðan gervigreindin var verkvangur fárra, þá fell stjórnun hennar innan stjórnunarkerfa á borð við ISO/IEC 27001 (um upplýsingaöryggi) og ISO/IEC 27701 (um persónuvernd). Innan EES, þá nær almenna persónverndarreglugerðin (GDPR) til vinnslu persónuupplýsinga þegar gervigreindartól eru notuð.

Lögin

Meginreglur persónuverndar eru skýrar og eru óháðar því hvaða upplýsingatækni er notuð. Samkvæmt 8.gr. laga nr. 90/2018 um persónuvernd og vinnslu persónuupplýsinga eru meginreglurnar:

1. að þær séu unnar með lögmætum, sanngjörnum og gagnsæjum hætti gagnvart hinum skráða;

 2. að þær séu fengnar í skýrt tilgreindum, lögmætum og málefnalegum tilgangi og ekki unnar frekar í öðrum og ósamrýmanlegum tilgangi; frekari vinnsla í sagnfræðilegum, tölfræðilegum eða vísindalegum tilgangi telst ekki ósamrýmanleg að því tilskildu að viðeigandi öryggis sé gætt; 

3. að þær séu nægilegar, viðeigandi og ekki umfram það sem nauðsynlegt er miðað við tilgang vinnslunnar; 

4. að þær séu áreiðanlegar og uppfærðar eftir þörfum; persónuupplýsingum sem eru óáreiðanlegar eða ófullkomnar, miðað við tilgang vinnslu þeirra, skal eyða eða leiðrétta án tafar; 

5. að þær séu varðveittar í því formi að ekki sé unnt að bera kennsl á skráða einstaklinga lengur en þörf krefur miðað við tilgang vinnslu; heimilt er að geyma persónuupplýsingar lengur að því tilskildu að vinnsla þeirra þjóni einungis skjalavistun í þágu almannahagsmuna, rannsókna á sviði vísinda eða sagnfræði eða í tölfræðilegum tilgangi og að viðeigandi öryggis sé gætt; 

6. að þær séu unnar með þeim hætti að viðeigandi öryggi persónuupplýsinganna sé tryggt.

Þeir sem vinna með gervigreind þurfa því að uppfylla þessar meginreglur.

Til viðbótar eru óbeinar vísanir, eins og í lögum um hlutafélög og lögum um fjármálafyrirtæki.

AI Act

Reglugerð ESB 2024/1689 er almennt vísað til sem AI Act eða gervigreindarlögin. Hún tók gildi innan ESB 2. ágúst sl., en lönd innan ESB hafa ýmist til 2. desember 2027 eða 2. ágúst 2028 til að innleiða hana í lög hjá sér. Mér vitanlega er reglugerðin ekki orðin hluti af EES-samningnum, EN það ætti ekki að koma í veg fyrir innleiðingu hennar hér á landi.

Íslenskar skipulagsheildir, sem eru í samstarfi við aðila innan ESB og nýta gervigreind, gætu þurft að hafa allt sitt á hreinu á sama tíma og samstarfsaðilar þeirra. Því er þeim í raun ekki til setunnar boðið, heldur verða að vinda sér í að aðlaga starfsemi sína AI Act.

ISO staðlar

Staðallinn ISO/IEC 27001 og leiðbeiningar í ISO/IEC 27002 gefa góðar reglur um hugbúnaðarþróun, þó dýptin sé kannski ekki mikil. Skipulagsheildir, sem vinna með gervigreind og eru vottuð samkvæmt ISO 27001, þurfa því að hlíta þeim kröfum sem hið vottaða kerfi þeirra kveður á um varðandi hugbúnaðarþróun sama hvernig gervigreindin er notuð. Að tæknin heiti gervigreind skiptir hér engu máli. Gervigreindin er bara enn eitt tólið í verkfærakistu skipulagsheildarinnar sem tryggja á framgang hennar og samkeppnishæfi á markaði.

Árið 2023 var gefinn út staðallinn ISO/IEC 42001 stjórnunarkerfi um gervigreind. Engum ber skylda til að hvorki huga að þessum staðli né innleiða hann. Kosturinn við staðalinn er, að hann fellur vel að uppbyggingu ISO/IEC 27001, bæði 2013 útgáfunni og þeirri nýjustu frá 2022, og ISO/IEC 27701:2025, sem er nýjasta útgáfa þess staðals. Mælt er með því að skipulagsheildir hugi að samþættingu krafna í ISO 42001 við núverandi stjórnunarkerfi.

Svo vill til, að höfundur er svo kallaður Lead auditor í öllum þessum stöðlum og þekkir því vel hvernig er hægt að láta þá vinnan saman.

Aðrir staðlar

ISO er ekki eitt um að þróa staðla eða umgjörð um notkun gervigreindar. Vestanhafs er almennt litið til NIST, en stofnunin hefur gefið út umgjörð fyrir áhættustjórnun vegna gervigreindar (AI Risk Management Framework eða AI RMF). Þar sem engin lagaskylda hvílir á fyrirtækjum að innleiða þessa umgjörð, þá verða þau að gera það að eigin frumkvæði. Eins og með alla umgjörð eða staðla um áhættustjórnun, þá eru þau hjálpartæki fyrir skipulagsheildir til að ná utan um áhættu í rekstrarumhverfi sínu. Nokkuð, sem allar eiga að gera án kvaða, þar sem mikilvægt er fyrir rekstur skipulagsheilda að þekkja þessar áhættur og hafa brugðist við þeim.

Í Evrópu eru CEN, CENELEC og ETSI þær stofnanir sem hafa sinnt staðlagerð á sviði ESB reglugerða og eru viðurkenndar, sem slíkar, bæði af ESB og EFTA. Því er gott að leggja við eyrun og fylgjast með hvað þær gera.

Staðlaráð fylgist vel með því sem er að gerast hjá samstarfvettvangi CEN-CENELEC og er höfundur í starfshópnum sem fylgist með staðlagerð fyrir gervigreind. Þar eru nokkrir staðlar í mótun og einn er þegar kominn út EN 18286:2026 Artificial intelligence - Quality management system for EU AI Act regulatory purposes. Nokkrir aðrir eru í þróun, s.s prEN 18282 vegna netöryggis gerivigreindarkerfa, prEN 18284 um gæði og stjórnun gagnasafna innan gerivgreindar og prEN 18285 um matsumgjörð, svo nokkrir séu nefndir.

Hvað er æskilegt að gera?

Áður hefur verið nefnt, að sem stendur er aðeins ein lagaskylda á skipulagsheildum að bregðast við notkun gervigreindar, þ.e. uppfylla þarf ákvæði persónuverndarlaga nr. 90/2018 og því einnig GDPR. Vissulega má segja, að alls konar óbeinar lagaskyldur séu, s.s. þurfa fjármálafyrirtæki að uppfylla ákvæði um seiglu í stafrænum rekstri sínum sem þýðir eftirlit með bæði þeim kerfum sem þau nota og tryggja að mikilvægir samstarfsaðilar séu með sitt á hreinu og lög um hlutafélög fjalla um eftirlitsskyldur stjórna.

Vinnunni má skipta í nokkra fasa. Á meðfylgjandi mynd eru þeir sjö. (Myndin er að sjálfsögðu útbúin með hjálp gervigreindar og birti ég hana fyrst á LinkedIn svæði mínu í vor en hana er einnig að finna á vefsvæðinu secprico.com.)

Þetta ferli er nógu skýrt til þess, að skipulagsheildir ættu að geta fylgt því, en annars er ég í símaskránni!

Ferlið er ítarlegt og metnaðarfullt, en hægt er að fylgja fösum 1 til 5 án þess að innleiða stjórnunarkerfi samkvæmt ISO/IEC 42001 (fasi 6). Skipulagsheildir komast hins vegar ekki hjá því að móta stefnu um notkun gervigreindar, þar sem koma fram markmið og leiðir. Skilja þarf hver er tilgangurinn með notkun gervigreindarinnar, hvar og hvernig hún nýtist. Mikilvægt er að takmarka hvaða gögn skipulagsheildarinnar hefur aðgang að og gæta að þau leki ekki út. Verðmætaskráningin er til að fylgjast með hvaða tól eru notuð og koma í veg fyrir skuggatól (þ.e. óheimil tól). Svo er það áhættumatið og áhættumeðferð, líklega mikilvægasti hluti ferlisins, þó vissulega byggi þetta á því að annað hafi verið gert á undan. Loks viljum við vakta það sem gert er.

Höfundur er ráðgjafi, ISO 27001, ISO 27701 og ISO 42001 Lead auditor.