Raunveruleikinn hvarf Kristján Friðbertsson skrifar 25. febrúar 2024 13:31 Færni gervigreindar til sjálfvirkrar sköpunar á texta, hljóði og mynd (s.k. sköpunargreind, e. generative artificial intelligence) hefur fengið þó nokkra athygli undanfarið. Í slíkri sjálfvirkri sköpun lærir gervigreindin undirliggjandi uppbyggingu og notar lærdóminn til að skapa eitthvað nýtt, en svipað. Alls ekki ólíkt því ef ég myndi ætla að læra að mála með olíu í stíl kúbisma. Þá kynni ég mér hvernig maður málar með olíulitum ásamt því hvað einkennir kúbisma. Skoða verk kúbista og reyni í fyrstu að mála eftirmyndir til að átta mig á tækninni. Ef ég mála eftirlíkingu af frægu verki og set nafn fræga málarans á strigann, þá er það fölsun. Ef ég set mitt nafn, þá er það stuldur. Nema ef ég breyti einhverju, jafnvel smávægilegu, þá getur það talist afleidd (e. derivative) list. Að sama skapi getur verið hægt að nota gervigreind í tilgangi fölsunar eða stuldar, en gervigreindin sjálf er þó í versta falli að skapa afleidda list. Vélræn textasköpun og málskilningur hafa ekki orðið útundan í þessari þróun. Fyrirtæki geta loksins farið að nota spjallmenni sem verða meira en bara gagnslaus, pirrandi tól. Framfarir í radd- og myndgreiningum og hljóð- og myndvinnslu í bland við sjálfvirka sköpun opna á alls kyns tækifæri, sum jákvæðari en önnur. Vinnumarkaðurinn Svokallaðar djúpfalsanir (e. „deepfakes“) hafa verið til staðar í u.þ.b. áratug, en undanfarið hefur afurðin orðið sífellt meira sannfærandi. Sé nægilegt mynd- og hljóðefni til staðar af viðkomandi, er hægt að þjálfa gervigreindina svo hún skapi efni sem erfitt er fyrir almenning að sjá að sé óekta. Nýlegt dæmi sáum við auðvitað í áramótaskaupinu. Auk misnotkunaráhættu, getur þetta vegið að starfsöryggi ýmissa stétta. Raddleikarar sem starfa í tengslum við auglýsingar, tölvuleiki og teiknimyndir verða skyndilega ekki jafn nauðsynlegir fyrst tölvan getur leyst þá af með samskonar rödd. Svipað með leikara í sjónvarpi og kvikmyndum. Þegar viljandi er apað eftir þeirra rödd eða útliti í blekkingar tilgangi er það þó auðvitað fljótt að rata í hendur lögfræðinga. Við getum líka lítið í átt til tónlistarframleiðenda, hverra hlutverk er að gefa tónlistinni kunnuglegan, vinsælan hljóm. Gervigreindarkerfi byggð á tauganetum sem læra hratt á gríðarlega stór hljóðsöfn geta tekið ansi stóran hluta af slíkri vinnu til sín. Handritshöfundar í Bandaríkjunum höfðu takmörkun á notkun gervigreindar við textasmíð meðal krafna í nýlegri kjarabaráttu. Að sumu leyti framsýnt, skynsamlegt og skiljanlegt. Kaupir tíma og mildar höggið. Nær samt því miður ekki að vera framtíðarlausn. Geti gervigreind raunverulega sparað miklar fjárhæðir og samt skilað jafn góðum afurðum, myndast auðvitað ákveðið samkeppnisforskot fyrir þá aðila sem eru ekki bundnir slíkum samningum. Aðila sem geta þá framleitt myndir og þætti fyrir lægri kostnað, eða nýtt peningana betur í annað. Sjálfsagt styttist í þann raunveruleika. Einhverjir verða afkastameiri með tækniframförum, en aðrir þurfa með tímanum að þróa sína hæfni yfir á nýtt svið. Sögufalsanir Leikarinn Stephen Fry er meðal þeirra sem hafa rekist á sannfærandi myndband af sjálfum sér á netinu, flytjandi ræðu sem hann hefur aldrei flutt, á stað sem hann hefur aldrei komið. Heldur fleiri kannast kannski við umfjöllun um falsaðar nektarmyndir og kynlífsmyndbönd, sem m.a. söngkonan Taylor Swift og fleiri hafa orðið fyrir nýlega. Allt getur þetta verið notað til þess að koma höggi á viðkomandi aðila, skapa tekjumyndandi efni í samkeppni við hið raunverulega efni, eða jafnvel til hótana og fjárkúgana. Fölsun getur komið hvaðan sem er og stundum er jafnvel ómögulegt að um hina raunverulegu persónu sé að ræða. En hvað ef hún er skipulögð með mikilli fyrirhöfn til að hámarka neikvæðar afleiðingar? Myndir þú trúa því að bara í akkurat þessu eina tilfelli sem þér mislíkar væri um að ræða fölsun? Þó svo það líti út og hljómi nákvæmlega eins og allt sem maður hefur áður séð frá viðkomandi. Nema kannski fyrir utan örfáar óvanalegar setningar. Akkurat bara eina atvikið sem kæmi sér mjög illa fyrir viðkomandi, ef rétt reynist og er því kallað fölsun... Martröð millistjórnenda? Aukið aðgengi að öflugri tækni er gríðarlega mikilvægt og á jákvæðu hliðinni vonum við að það leysi úr læðingi mikla vannýtta orku meðal fólks. Einnig má vona að sérfræðingar losni við einföldustu verkin og verði afkastameiri. Starfsfólk í mannaflsfrekum störfum hefur lengi horft upp á vaxandi sjálfvirkni fækka störfum í boði. Færra starfsfólk þarf líka minna utanumhald. Ýmislegt sem krafist hefur sérfræði þekkingar hefur einnig byrjað að fara sama veg. Flóknari og sérhæfðari verk þurfa þó enn að vera unnin (og yfirfarin) af sérfræðingum, en viðbúið er að einhvers staðar þurfi færri hendur í heildina. Grafískum störfum í tölvuleikjaiðnaðinum í Kína hefur t.d. nú þegar fækkað um 70% þökk sé gervigreind. Vont fyrir starfsfólkið, gott fyrir heildina? Nágrannaríkið Japan horfir líka jákvæðum augum til gervigreindar. Þjóðin sem lengi hefur verið í fararbroddi í ýmiss konar tækniþróun, þ.m.t. vélmennum, nýtir sér tæknina í baráttu við fólksfækkun. Gervigreind og vélmenni með ýmiss konar mannleg viðmót leysa í vaxandi mæli starfsfólkið af. Gildir þar einu hvort um ræðir hefðbundin flutnings- og verksmiðjustörf, verslun og þjónustu eða jafnvel hrísgrjónaræktun. Gottvont? Hér blandast augljóslega ýmislegt saman. Lausnir við skorti á vinnuafli kallast á við kjarabaráttu og starfsöryggi. Nytsamlegar tækniframfarir misnotaðar í blekkingarleik, fölsunum, fjársvikum og öðrum sakamálum. Mikið af þessu er þó auðvitað gömul saga og ný. Tæknin getur hjálpað okkur að vinna gegn ýmsum vandamálum, en auðvitað getur hún einnig búið önnur til. Á stærsta kosningaári í langan tíma, víða um heim, er nánast útilokað að það verði ekki amk einhver dæmi um pólitíska misnotkun á þessum tólum. Reyndar þurfum við ekki einu sinni að bíða, því dæmin eru þegar farin að detta inn t.d. frá Slóvakíu, Bretlandi, Bandaríkjunum og víðar. Eru kosninganiðurstöður gildar ef þær eru augljós afleiðing blekkingarleiks, svo lengi sem ekki var átt við sjálfa atkvæðaseðlana? Er þetta jafnvel bara eðlileg framlenging af hinum margfrægu „kosningaloforðum“ og efndum þeirra? Meðfylgjandi myndir voru skapaðar af sköpunargreindarvélinni DallE-3. Höfundur er tölvunarfræðingur. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Gervigreind Tækni Japan Kína Bandaríkin Tengdar fréttir Innræti og manndómur íslenzkra ráðherra og alþingismanna Á síðustu dögum og vikum hafa komið upp tvö mál, þar sem reynt hefur sérstaklega á innræti og manndóm, innri mann, ráðamanna hér. Einkar athyglisvert hefur verið, að fylgjast með því, hvern mann ráðamenn hafa í reynd að geyma, á bak við sitt breiða bros, fallegu orðræðu og ótæpilegu loforð, til Péturs og Páls. Hér urðu menn að koma til dyranna, eins og þeir eru í raun klæddir. 12. júní 2023 13:01 Kosningaórói Njáls Trausta Ekki hafa margir Alþingismenn orðið á vegi íbúa Austurlands undanfarið og ef ekki hefðu komið til hörmungarnar á Seyðisfirði hefði enn minna sést til þeirra á svæðinu en ella. 27. maí 2021 20:18 Mest lesið Grafið undan trúverðugleika ákæruvaldsins Róbert Spanó Skoðun „Spilaborgin hrynur einn daginn“ Hjörtur J. Guðmundsson Skoðun „Bullið sem vellur upp úr þessu ágæta fólki“ Kristófer Már Maronsson Skoðun Halló! Er einhver til í að hlusta? Vilborg Gunnarsdóttir Skoðun Risið er flott en kjallarinn molnar Davíð Bergmann Skoðun Að vinna með fræðafólki úr landránsnýlenduríki Ingólfur Gíslason Skoðun Látið sjóði verkafólks vera Jóhann Páll Jóhannsson Skoðun Lofsvert framtak ÖBÍ, BSRB og ASÍ Ögmundur Jónasson Skoðun Reykjavíkurborg leikur stórt hlutverk í verðbólgustöðunni Elliði Vignisson Skoðun Hugrenningar forstöðumanns Dögg Þrastardóttir Skoðun Skoðun Skoðun Hugrenningar forstöðumanns Dögg Þrastardóttir skrifar Skoðun Reykjavíkurborg leikur stórt hlutverk í verðbólgustöðunni Elliði Vignisson skrifar Skoðun Grafið undan trúverðugleika ákæruvaldsins Róbert Spanó skrifar Skoðun Að vinna með fræðafólki úr landránsnýlenduríki Ingólfur Gíslason skrifar Skoðun Hvalir, lög og líf: Ísland á siðferðilegum krossgötum Anahita Babaei,Elissa Phillips skrifar Skoðun Halló! Er einhver til í að hlusta? Vilborg Gunnarsdóttir skrifar Skoðun Eftirfylgni og hagrænir hvatar í loftslagsmálum Sigurpáll Ingibergsson skrifar Skoðun „Spilaborgin hrynur einn daginn“ Hjörtur J. Guðmundsson skrifar Skoðun Risið er flott en kjallarinn molnar Davíð Bergmann skrifar Skoðun Lofsvert framtak ÖBÍ, BSRB og ASÍ Ögmundur Jónasson skrifar Skoðun Látið sjóði verkafólks vera Jóhann Páll Jóhannsson skrifar Skoðun „Bullið sem vellur upp úr þessu ágæta fólki“ Kristófer Már Maronsson skrifar Skoðun Gögn sem ekki er hægt að TReysta Kristófer Már Maronsson skrifar Skoðun Fimm ráð um hvernig þinn hópur getur stutt við þann sem greinist með krabbamein Hólmfríður Einarsdóttir skrifar Skoðun Alþjóðlegar kröfur um króknandi en velupplýsta leikmenn Pawel Bartoszek skrifar Skoðun Í orði en ekki á borði Áslaug Inga Kristinsdóttir skrifar Skoðun „Hvers virði er ég?“ – Áskorun til barna- og unglingabókahöfunda Friðrik Erlingsson skrifar Skoðun Að draga ályktanir af þrettán ára frétt Hörður Arnarson skrifar Skoðun Jafnlaunavottunin: Það er þörf á breytingum Drífa Sigurðardóttir skrifar Skoðun Við verðum að ræða um Reykjavíkurflugvöll Daði Rafnsson,Margrét Manda Jónsdóttir,Kristján Vigfússon skrifar Skoðun Verndum íslenskuna! (Nema það kosti pening) Vilhelm Þór Neto skrifar Skoðun Áhöfnin sér loksins til lands Sigurður Páll Jónsson skrifar Skoðun Þið mótmælið... afleiðingum eigin gjörða Kristófer Már Maronsson skrifar Skoðun Sjö ára kláðinn: Engin vandamál, bara lausnir Jakob Frímann Magnússon skrifar Skoðun Stéttaskipt tjáningarfrelsi Tanja M. Ísfjörð Magnúsdóttir,Ólöf Tara Harðardóttir,Hulda Hrund Guðrúnar Sigmundsdóttir skrifar Skoðun Stjórnlaus heimur Reynir Böðvarsson skrifar Skoðun Ég er eiginlega alveg hætt að borða sykur Þorgerður María Þorbjarnardóttir skrifar Skoðun Að kjósa með sjálfum sér Sveinn Ólafsson skrifar Skoðun Alþjóðadagur sjálfsvígsforvarna Alma D. Möller skrifar Skoðun Stjórnarskipti og húsnæðisöryggi fyrir alla Sandra B. Franks skrifar Sjá meira
Færni gervigreindar til sjálfvirkrar sköpunar á texta, hljóði og mynd (s.k. sköpunargreind, e. generative artificial intelligence) hefur fengið þó nokkra athygli undanfarið. Í slíkri sjálfvirkri sköpun lærir gervigreindin undirliggjandi uppbyggingu og notar lærdóminn til að skapa eitthvað nýtt, en svipað. Alls ekki ólíkt því ef ég myndi ætla að læra að mála með olíu í stíl kúbisma. Þá kynni ég mér hvernig maður málar með olíulitum ásamt því hvað einkennir kúbisma. Skoða verk kúbista og reyni í fyrstu að mála eftirmyndir til að átta mig á tækninni. Ef ég mála eftirlíkingu af frægu verki og set nafn fræga málarans á strigann, þá er það fölsun. Ef ég set mitt nafn, þá er það stuldur. Nema ef ég breyti einhverju, jafnvel smávægilegu, þá getur það talist afleidd (e. derivative) list. Að sama skapi getur verið hægt að nota gervigreind í tilgangi fölsunar eða stuldar, en gervigreindin sjálf er þó í versta falli að skapa afleidda list. Vélræn textasköpun og málskilningur hafa ekki orðið útundan í þessari þróun. Fyrirtæki geta loksins farið að nota spjallmenni sem verða meira en bara gagnslaus, pirrandi tól. Framfarir í radd- og myndgreiningum og hljóð- og myndvinnslu í bland við sjálfvirka sköpun opna á alls kyns tækifæri, sum jákvæðari en önnur. Vinnumarkaðurinn Svokallaðar djúpfalsanir (e. „deepfakes“) hafa verið til staðar í u.þ.b. áratug, en undanfarið hefur afurðin orðið sífellt meira sannfærandi. Sé nægilegt mynd- og hljóðefni til staðar af viðkomandi, er hægt að þjálfa gervigreindina svo hún skapi efni sem erfitt er fyrir almenning að sjá að sé óekta. Nýlegt dæmi sáum við auðvitað í áramótaskaupinu. Auk misnotkunaráhættu, getur þetta vegið að starfsöryggi ýmissa stétta. Raddleikarar sem starfa í tengslum við auglýsingar, tölvuleiki og teiknimyndir verða skyndilega ekki jafn nauðsynlegir fyrst tölvan getur leyst þá af með samskonar rödd. Svipað með leikara í sjónvarpi og kvikmyndum. Þegar viljandi er apað eftir þeirra rödd eða útliti í blekkingar tilgangi er það þó auðvitað fljótt að rata í hendur lögfræðinga. Við getum líka lítið í átt til tónlistarframleiðenda, hverra hlutverk er að gefa tónlistinni kunnuglegan, vinsælan hljóm. Gervigreindarkerfi byggð á tauganetum sem læra hratt á gríðarlega stór hljóðsöfn geta tekið ansi stóran hluta af slíkri vinnu til sín. Handritshöfundar í Bandaríkjunum höfðu takmörkun á notkun gervigreindar við textasmíð meðal krafna í nýlegri kjarabaráttu. Að sumu leyti framsýnt, skynsamlegt og skiljanlegt. Kaupir tíma og mildar höggið. Nær samt því miður ekki að vera framtíðarlausn. Geti gervigreind raunverulega sparað miklar fjárhæðir og samt skilað jafn góðum afurðum, myndast auðvitað ákveðið samkeppnisforskot fyrir þá aðila sem eru ekki bundnir slíkum samningum. Aðila sem geta þá framleitt myndir og þætti fyrir lægri kostnað, eða nýtt peningana betur í annað. Sjálfsagt styttist í þann raunveruleika. Einhverjir verða afkastameiri með tækniframförum, en aðrir þurfa með tímanum að þróa sína hæfni yfir á nýtt svið. Sögufalsanir Leikarinn Stephen Fry er meðal þeirra sem hafa rekist á sannfærandi myndband af sjálfum sér á netinu, flytjandi ræðu sem hann hefur aldrei flutt, á stað sem hann hefur aldrei komið. Heldur fleiri kannast kannski við umfjöllun um falsaðar nektarmyndir og kynlífsmyndbönd, sem m.a. söngkonan Taylor Swift og fleiri hafa orðið fyrir nýlega. Allt getur þetta verið notað til þess að koma höggi á viðkomandi aðila, skapa tekjumyndandi efni í samkeppni við hið raunverulega efni, eða jafnvel til hótana og fjárkúgana. Fölsun getur komið hvaðan sem er og stundum er jafnvel ómögulegt að um hina raunverulegu persónu sé að ræða. En hvað ef hún er skipulögð með mikilli fyrirhöfn til að hámarka neikvæðar afleiðingar? Myndir þú trúa því að bara í akkurat þessu eina tilfelli sem þér mislíkar væri um að ræða fölsun? Þó svo það líti út og hljómi nákvæmlega eins og allt sem maður hefur áður séð frá viðkomandi. Nema kannski fyrir utan örfáar óvanalegar setningar. Akkurat bara eina atvikið sem kæmi sér mjög illa fyrir viðkomandi, ef rétt reynist og er því kallað fölsun... Martröð millistjórnenda? Aukið aðgengi að öflugri tækni er gríðarlega mikilvægt og á jákvæðu hliðinni vonum við að það leysi úr læðingi mikla vannýtta orku meðal fólks. Einnig má vona að sérfræðingar losni við einföldustu verkin og verði afkastameiri. Starfsfólk í mannaflsfrekum störfum hefur lengi horft upp á vaxandi sjálfvirkni fækka störfum í boði. Færra starfsfólk þarf líka minna utanumhald. Ýmislegt sem krafist hefur sérfræði þekkingar hefur einnig byrjað að fara sama veg. Flóknari og sérhæfðari verk þurfa þó enn að vera unnin (og yfirfarin) af sérfræðingum, en viðbúið er að einhvers staðar þurfi færri hendur í heildina. Grafískum störfum í tölvuleikjaiðnaðinum í Kína hefur t.d. nú þegar fækkað um 70% þökk sé gervigreind. Vont fyrir starfsfólkið, gott fyrir heildina? Nágrannaríkið Japan horfir líka jákvæðum augum til gervigreindar. Þjóðin sem lengi hefur verið í fararbroddi í ýmiss konar tækniþróun, þ.m.t. vélmennum, nýtir sér tæknina í baráttu við fólksfækkun. Gervigreind og vélmenni með ýmiss konar mannleg viðmót leysa í vaxandi mæli starfsfólkið af. Gildir þar einu hvort um ræðir hefðbundin flutnings- og verksmiðjustörf, verslun og þjónustu eða jafnvel hrísgrjónaræktun. Gottvont? Hér blandast augljóslega ýmislegt saman. Lausnir við skorti á vinnuafli kallast á við kjarabaráttu og starfsöryggi. Nytsamlegar tækniframfarir misnotaðar í blekkingarleik, fölsunum, fjársvikum og öðrum sakamálum. Mikið af þessu er þó auðvitað gömul saga og ný. Tæknin getur hjálpað okkur að vinna gegn ýmsum vandamálum, en auðvitað getur hún einnig búið önnur til. Á stærsta kosningaári í langan tíma, víða um heim, er nánast útilokað að það verði ekki amk einhver dæmi um pólitíska misnotkun á þessum tólum. Reyndar þurfum við ekki einu sinni að bíða, því dæmin eru þegar farin að detta inn t.d. frá Slóvakíu, Bretlandi, Bandaríkjunum og víðar. Eru kosninganiðurstöður gildar ef þær eru augljós afleiðing blekkingarleiks, svo lengi sem ekki var átt við sjálfa atkvæðaseðlana? Er þetta jafnvel bara eðlileg framlenging af hinum margfrægu „kosningaloforðum“ og efndum þeirra? Meðfylgjandi myndir voru skapaðar af sköpunargreindarvélinni DallE-3. Höfundur er tölvunarfræðingur.
Innræti og manndómur íslenzkra ráðherra og alþingismanna Á síðustu dögum og vikum hafa komið upp tvö mál, þar sem reynt hefur sérstaklega á innræti og manndóm, innri mann, ráðamanna hér. Einkar athyglisvert hefur verið, að fylgjast með því, hvern mann ráðamenn hafa í reynd að geyma, á bak við sitt breiða bros, fallegu orðræðu og ótæpilegu loforð, til Péturs og Páls. Hér urðu menn að koma til dyranna, eins og þeir eru í raun klæddir. 12. júní 2023 13:01
Kosningaórói Njáls Trausta Ekki hafa margir Alþingismenn orðið á vegi íbúa Austurlands undanfarið og ef ekki hefðu komið til hörmungarnar á Seyðisfirði hefði enn minna sést til þeirra á svæðinu en ella. 27. maí 2021 20:18
Skoðun Hvalir, lög og líf: Ísland á siðferðilegum krossgötum Anahita Babaei,Elissa Phillips skrifar
Skoðun Fimm ráð um hvernig þinn hópur getur stutt við þann sem greinist með krabbamein Hólmfríður Einarsdóttir skrifar
Skoðun Við verðum að ræða um Reykjavíkurflugvöll Daði Rafnsson,Margrét Manda Jónsdóttir,Kristján Vigfússon skrifar
Skoðun Stéttaskipt tjáningarfrelsi Tanja M. Ísfjörð Magnúsdóttir,Ólöf Tara Harðardóttir,Hulda Hrund Guðrúnar Sigmundsdóttir skrifar