Gervi­greindar­mynd­skeiðum af barnaníði fjölgar gífur­lega

Samkvæmt IWF fundust 8.029 myndir og myndskeið á netinu í fyrra sem sýndu afar raunverulegt barnaníðsefni, framleitt með gervigreind. Veruleg aukning var á myndskeiðum en af 3,443 féllu 65 prósent í flokk A, grófasta efnið samkvæmt skilgreiningu yfirvalda á Bretlandseyjum.

Sambærilegt hlutfall fyrir myndskeið sem sýna barnaníð framleitt með „hefðbundnum“ hætti, það er að segja án notkunar gervigreindar, var 43 prósent. Gervigreindin er þannig að greiða fyrir aukningu í efni sem sýnir afar grófa misnotkun á börnum.

„Tækniframþróun á aldrei að verða á kostnað öryggi og velferðar barna,“ hefur Guardian eftir Kerry Smith, framkvæmdastjóra IWF. „Á sama tíma og gervigreindin getur boðið upp á margt jákvætt þá er hrylliegt að hugsa til þess að möguleikar hennar séu notaðar til að rústa lífi barns. Þetta efni er hættulegt.“

Sérfræðingar IWF segja að á djúpvefnum hafi menn sem níðast á börnum tekið framþróun gervigreindarinnar fagnandi. Þar eigi þeir samræður um hversu raunverulegt efnið sé að verða og að nú sé að verða hægt að bæta við hljóði og búa til efni með því að notast við myndir af börnum sem viðkomandi þekkja.

Samkvæmt skoðanakönnun sem IWF birti vilja átta af tíu Bretum að stjórnvöld innleiði lög sem skylda tæknifyrirtækin til að setja öryggi í forgrunninn þegar kemur að þróun gervigreindar.