For­stjórar gervi­greindar­fyrir­tækja segja hættu á ferðum og hægja þurfi á þróun

Dario Amodei, forstjóri og meðstofnandi Anthropic, segir að þróunin sé í dag það hröð að ekki sé hægt að tryggja öryggi á sama tíma. Þetta kemur fram í 3.800 orða pistli sem hann birtir í dag.

Leiðtogar annarra bandarískra gervigreindarfrumherja hafa tekið undir ákallið. The New York Times (NYT) greinir frá þessu en Sam Altman, forstjóri OpenAI, og Elon Musk, sem þróar spjallmennið Grok og hefur aukið útgjöld til gervigreindar innan SpaceX, segjast vera sammála um að hægja þurfi á þróuninni.

„Undanfarna mánuði hef ég orðið sannfærður um að til að bregðast fyllilega við áhættunni þurfum við að sýna enn meiri varfærni – ekki bara fjárfesta í forvörnum, heldur að hægja á framþróunargetunni svo að forvarnirnar geti fylgst að,“ skrifar Amodei.

„Við verðum að hægja á því hversu hratt við aukum getu gervigreindarlíkana.“

Amodei hefur varað við áhættunni sem fylgir gervigreind í fleiri ár, að því er fram kemur í frétt NYT. Þrátt fyrir það eru nýjustu skrif hans sögð vera eitt afdráttarlausasta ákallið fram að þessu frá stjórnanda gervigreindarfyrirtækis sem telst í fremstu röð.

Hann kallar eftir því að óháðir eftirlitsaðilar yfirfari öryggisstaðla fyrirtækjanna og að reglur um þróun gervigreindar verði lagðar fram sem hluti af alþjóðlegri samvinnu.

Vaxandi órói

Ákall Amodei kemur í kjölfar vaxandi óróa í tæknigeiranum sem hefur farið vaxandi síðustu mánuði. Miklar framfarir hafa verið í þróun gervigreindarlíkana hjá fyrirtækjum eins og Anthropic, OpenAI sem þróar ChatGPT, og Google.

Þá jókst spennan eftir að gervigreindarfyrirtæki uppgötvuðu að hugbúnaður þeirra hafði framið öryggisbrot án þeirra vitundar.

Fyrr á þessu ári brutust kerfi OpenAI inn í kerfi gervigreindarsprotafyrirtækisins HuggingFace og uppgötvaðist það ekki fyrr en hið síðarnefnda tilkynnti OpenAI um atvikið vikum síðar.

Á þriðjudag sagði Jacob Coxon upp störfum hjá Anthropic og birti röð færslna á samfélagsmiðlum þar sem fullyrt var að leiðandi gervigreindarfyrirtæki væru ekki að þróa tæknina með ábyrgum hætti. Þau væru þar með að tefla lífi fólks í tvísýnu.

Að sögn NYT hafa aðrir sérfræðingar í geiranum kallað eftir því að vinnuveitendur sínir geri hlé á þróuninni. Þá hafa enn aðrir myndað klofningshópa til að vekja meiri athygli á áhættunni sem fylgi gervigreind.

Leiðtogar í geiranum stefna að því að þróa gervigreindarkerfi sem getur þróað sig áfram á eigin vegum, án aðkomu mannsins. Telja sumir hátt settir sérfræðingar að slíkt fyrirkomulag gæti leitt til þess að fyrirtæki missi stjórn á gervigreindinni.

„Ef ekkert er að gert gætu þau farið fram úr getu okkar til að skilja og stjórna þessum kerfum og því verður að fara mjög varlega í þessa átt, og jafnvel sleppa því,“ skrifar Amodei.

Verið rætt innan OpenAI

Nokkrum klukkustundum eftir að Amodei birti langa færslu sína birti Altman, forstjóri OpenAI, yfirlýsingu á samfélagsmiðlum þar sem hann tók undir það að nauðsynlegt væri að hægja á þróuninni.

„Þetta hefur verið aðalumræðuefnið í samtölum okkar hjá OpenAI undanfarnar vikur,“ skrifaði Altman. „Það er frábær hugmynd að skuldbinda sig til að veita óháðum matsmönnum aðgang á við starfsmenn, og við munum gera slíkt hið sama. Við munum hafa meira um þetta að segja innan skamms.“

Musk var stuttorður í færslu á samfélagsmiðli sínum X, áður Twitter: „Dario hefur rétt fyrir sér.“

Stjórnendur OpenAI sögðu í síðasta mánuði að þeir hefðu vísvitandi hægt á þróun gervigreindarlíkansins Astra og vísuðu til framfara í netárásagetu.