Lifestyle / Tehnologija
Character.AI hostuje pro-anoreksične četbotove
Prema istrazi koju je sproveo medijski portal "Futurism", popularni AI startap Character.AI hostuje brojne pro-anoreksične četbotove koji podstiču opasne navike mršavljenja i poremećaje u ishrani. Ti četbotovi često se predstavljaju kao treneri za mršavljenje ili stručnjaci za oporavak od poremećaja u ishrani, ali zapravo podstiču korisnike da usvajaju opasne navike poput ekstremnog smanjenja unosa kalorija i prekomernog vežbanja.
Neki od njih čak romantizuju takvo ponašanje imitiranjem popularnih likova. Ovaj problem nije jedinstven za Character.AI - i druge platforme su takođe otkrivene kao domaćini sadržaja koji podstiče poremećaje u ishrani među mlađom populacijom.
Pre dva meseca, 14-godišnji dečak izvršio je samoubistvo nakon što je navodno stvorio emocionalnu vezu sa AI botom koji je imitirao lik Deneris Targerijan iz serije "Igra prestola". Nešto ranije, Character.AI se našla na udaru kritika zbog hostovanja četbota koji je imitirao tinejdžerku koja je ubijena 2006. godine – njen otac je otkrio bot, nakon čega je uklonjen. Prethodi izveštaji pokazali su da sajt takođe hostuje četbotove sa suicidalnim temama, kao i one koji promovišu seksualno zlostavljanje dece.
OBRATI PAŽNJU
"Neprovereni, nesigurni generativni AI modeli pušteni su u svet, što je dovelo do neizbežne posledice – nanose štetu. Otkrili smo da najpopularniji generativni AI sajtovi podstiču i pogoršavaju poremećaje ishrane kod mladih korisnika – od kojih su neki vrlo ranjivi," napisao je Imran Ahmed, izvršni direktor Centra za borbu protiv digitalne mržnje.
Tinejdžeri (ali i odrasli) sve više se okreću digitalnim prostorima i tehnologijama, uključujući AI četbotove, u potrazi za društvom. Iako neke od tih platformi kreiraju i nadgledaju pouzdane organizacije, čak i one su podložne neželjenim ponašanjima. Kada su u pitanju četbotovi i onlajn forumi koje ne regulišu nadzorne organizacije, rizici su višestruki, uključujući predatorsko ponašanje i zloupotrebu.
Sajt, koji je izuzetno popularan među mlađim korisnicima, do trenutka objavljivanja Futurismovog izveštaja nije preduzeo mere da ukloni ovakve četbotove, uprkos tome što oni krše uslove korišćenja platforme.
izvor: mashable.com
