Hver hugsar þegar þú notar gervi­greind — þú eða vélin?

Flest okkar nota gervigreind orðið daglega, oft án þess að hugsa út í það. Við biðjum spjallmenni að semja tölvupóst, draga saman langan texta eða útskýra eitthvað flókið. Þetta sparar tíma og er oft hreint ágætt. En það læðist að mér spurning sem ég held að við ættum öll að staldra við: þegar verkið er unnið, hver var það eiginlega sem hugsaði? Ég, eða vélin?

Til að svara þessu finnst mér gagnlegt að taka tvö gömul og einföld hugtök og leggja þau saman.

Stigveldi hugsunar

Fyrir áratugum lýsti menntafræðingurinn Benjamin Bloom því hvernig hugsun byggist upp í þrepum. Neðst er að muna (rifja upp staðreynd). Svo kemur að skilja, að beita því sem maður kann, að greina (brjóta niður og sjá tengsl), að meta (leggja rökstutt mat) og efst að skapa (búa til eitthvað nýtt).

Hugmyndin er einföld: það er auðveldara að muna ártal en að meta hvort röksemdafærsla standist. Eftir því sem ofar dregur, því meira reynir á okkur.

Hér er það sem hefur breyst: gervigreind er orðin býsna góð í neðri þrepunum. Hún man, hún skilur, hún getur jafnvel beitt reglum og dregið saman. Þar með færist verðmæti mannlegrar hugsunar upp á við, í að greina, meta og skapa. Það er þar sem við bætum einhverju við sem vélin gerir ekki.

En hver heldur um stýrið?

Hér kemur seinna hugtakið inn, sem á ensku heitir „agency" en ég kýs að kalla gerendahæfni. Það merkir einfaldlega: hver hefur frumkvæðið, hver stýrir, og hver ber ábyrgðina?

Það er auðvelt að rugla þessu tvennu saman og halda að „flóknari hugsun" þýði sjálfkrafa „ég er við stjórn". En það er ekki rétt. Þú getur fengið gervigreind til að skapa heila ræðu, hæsta þrep hugsunar og samt haft nánast enga gerendahæfni sjálfur, ef þú lest hana yfir í flýti og sendir hana óbreytta. Á yfirborðinu leit djúp vinna út fyrir að eiga sér stað. Í raun afhentir þú vélinni bæði hugsunina og ábyrgðina.

Og öfugt: þú getur tekið einfalt verk, að fletta upp einni staðreynd og samt sýnt fulla gerendahæfni, með því að velja meðvitað hvaða heimild þú treystir og hvers vegna.

Hættusvæðið

Þegar ég legg þetta saman birtist eitt svæði sem við ættum að vara okkur á: flókin hugsun með lítilli mannlegri gerendahæfni. Það er þegar gervigreind metur, ályktar og skapar og við kinkum bara kolli. Útkoman lítur gáfuleg út, en enginn maður stóð raunverulega að baki henni. Þá er hætt við að villur, slagsíða eða hreinn uppspuni vélarinnar renni í gegn án þess að nokkur grípi.

Þetta er ekki vandamál vélarinnar. Þetta er spurning um hvernig við veljum að nota hana.

Einföld regla

Niðurstaðan mín er ekki að við eigum að nota gervigreind minna. Hún er þessi einfalda þumalputtaregla:

Því mikilvægari og flóknari sem hugsunin er, því fastar held ég um stýrið.

Látum vélina um það sem hún er góð í, að muna, draga saman, gera drög. En þegar kemur að því að meta hvað er satt og skapa það sem skiptir máli, þá á maðurinn að vera við stjórn, ekki farþegi. Það er einmitt þessi gagnrýna hugsun, að taka ekki sannfærandi svari sem gefnu, sem er að verða ein dýrmætasta færni samtímans, ekki síst þegar sannfærandi en rangt efni verður sífellt auðveldara að framleiða.

Gervigreindin er frábært verkfæri. En verkfæri á að vera í hendi einhvers. Spurningin sem ég skil eftir er einföld: næst þegar þú notar hana, ertu með hendur á stýrinu, eða ertu bara farþegi?

Höfundur er ráðgjafi, ritstjóri og situr í starshóp um gervigreind til góðs.