Óttast flóðbylgju barnaníðsefnis sköpuðu með aðstoð gervigreindar Hólmfríður Gísladóttir skrifar 8. nóvember 2023 07:07 Börn og foreldrar eru algjörlega varnarlaus gagnvart gervigreindarsköpuðu barnaníðsefni, þar sem allt sem þarf er mynd af andliti barnsins. Getty Móðir stúlku hvers mynd var notuð til að búa til barnaklám með aðstoð gervigreindar segist hafa heyrt frá mörg hundruð foreldrum sem segja börn sín einnig meðal fórnarlamba hinnar nýju tækni. Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði. Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Helgi í Góu og fyrrverandi borguðu brúsann Innlent Albert mættur í dómsal Innlent Silja Björk biður Ingó afsökunar Innlent Skilur ekkert í niðurstöðu Guðrúnar Innlent Svarar fyrir að hafa banað syni sínum í Kópavogi Innlent Talinn hafa svipt barn frelsi sem hann grunaði um að stela veipi Innlent Gerði sér mat úr kattaráti andlega veikrar konu Erlent „Fólk fer hreinlega grátandi frá mér“ Innlent „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu Erlent Sigurður Helgi Guðjónsson látinn Innlent Fleiri fréttir Trump vígreifur en veit betur Bon Jovi lofaður fyrir að bjarga konu í sjálfsvígshugleiðingum Fyrsta geimganga óbreyttra borgara Fujimori er látinn „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu 171 handtekinn og 402 börnum bjargað í aðgerðum í Malasíu Sex starfsmenn UNRWA sagðir hafa verið drepnir í árás Ísraelshers Gerði sér mat úr kattaráti andlega veikrar konu Sprengdu yfirgefinn skýjakljúf í Lousiana Daunill þróun í metanlosun mannkynsins Baráttan um Bandaríkin: Sögulegar kappræður gerðar upp Gætu leyft Úkraínu að nota langdræg flugskeyti gegn Rússlandi Krefjast þess að Ísraelsher bæti ráð sitt eftir dráp á Bandaríkjamanni Brú yfir Saxelfi hrundi í Dresden Trump í mikilli vörn en lýsir yfir sigri 1,4 milljarðar króna fyrir að mæta ekki fyrir rétt Bein útsending: Harris og Trump takast á í fyrsta sinn Sveik 1,3 milljarða úr streymisveitum með gervispilunum Trump verði áfram Trump en meira í húfi fyrir Harris Verður næsti utanríkisráðherra Svíþjóðar Hafa fengið skotflaugar frá Íran Reglur kvöldsins: Engir áhorfendur og slökkt á meðan hinn talar Siðblindur raðlygari sem sýndi aðra hlið út á við Ætla í fyrstu borgaralegu geimgönguna Handtekinn í Dubaí Rannsókn hafin en efasemdir uppi um sekt Letby Auglýsa eftir upplýsingum um 28 ára gamalt morðmál Brú hrundi eftir gríðarlegan fellibyl Weinstein fluttur í flýti í bráðaaðgerð Þjóðverjar herða tökin á landamærum Sjá meira
Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði.
Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Helgi í Góu og fyrrverandi borguðu brúsann Innlent Albert mættur í dómsal Innlent Silja Björk biður Ingó afsökunar Innlent Skilur ekkert í niðurstöðu Guðrúnar Innlent Svarar fyrir að hafa banað syni sínum í Kópavogi Innlent Talinn hafa svipt barn frelsi sem hann grunaði um að stela veipi Innlent Gerði sér mat úr kattaráti andlega veikrar konu Erlent „Fólk fer hreinlega grátandi frá mér“ Innlent „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu Erlent Sigurður Helgi Guðjónsson látinn Innlent Fleiri fréttir Trump vígreifur en veit betur Bon Jovi lofaður fyrir að bjarga konu í sjálfsvígshugleiðingum Fyrsta geimganga óbreyttra borgara Fujimori er látinn „Lærisveinn“ Pélicot sagður hafa beitt sömu aðferðum á eigin konu 171 handtekinn og 402 börnum bjargað í aðgerðum í Malasíu Sex starfsmenn UNRWA sagðir hafa verið drepnir í árás Ísraelshers Gerði sér mat úr kattaráti andlega veikrar konu Sprengdu yfirgefinn skýjakljúf í Lousiana Daunill þróun í metanlosun mannkynsins Baráttan um Bandaríkin: Sögulegar kappræður gerðar upp Gætu leyft Úkraínu að nota langdræg flugskeyti gegn Rússlandi Krefjast þess að Ísraelsher bæti ráð sitt eftir dráp á Bandaríkjamanni Brú yfir Saxelfi hrundi í Dresden Trump í mikilli vörn en lýsir yfir sigri 1,4 milljarðar króna fyrir að mæta ekki fyrir rétt Bein útsending: Harris og Trump takast á í fyrsta sinn Sveik 1,3 milljarða úr streymisveitum með gervispilunum Trump verði áfram Trump en meira í húfi fyrir Harris Verður næsti utanríkisráðherra Svíþjóðar Hafa fengið skotflaugar frá Íran Reglur kvöldsins: Engir áhorfendur og slökkt á meðan hinn talar Siðblindur raðlygari sem sýndi aðra hlið út á við Ætla í fyrstu borgaralegu geimgönguna Handtekinn í Dubaí Rannsókn hafin en efasemdir uppi um sekt Letby Auglýsa eftir upplýsingum um 28 ára gamalt morðmál Brú hrundi eftir gríðarlegan fellibyl Weinstein fluttur í flýti í bráðaaðgerð Þjóðverjar herða tökin á landamærum Sjá meira