A digitális algoritmusok segíthetnek-e megvédeni olyan gyermekeket a bántalmazástól, mint Gabriel Fernandez?

Évente nagyjából 7 millió gyermeket jelentenek be a gyermekjóléti hatóságoknak esetleges bántalmazás miatt, de hogyan állapítják meg a hatóságok, hogy szeretik-e a gyerekek Gabriel Fernandez súlyos veszélyben vannak és beavatkozásra szorulnak?





Számos gyermekjóléti hatóság támaszkodik a kockázatértékelésekre, amelyeket a személyzet képzett arra, hogy telefonos vonalakat kezeljen, ahol visszaélések gyanújáról számolnak be, de egyesek úgy gondolják, hogy létezhet jobb módszer is.

'Számos irodalom létezik, amelyről azt láthattuk, hogy az emberek nem különösebben jó kristálygömbök' - Emily Putnam-Hornstein, a Gyermekadat-hálózat és az USC egyetemi docense elmondta az új Neflix-dokumentumsorozatban „Gabriel Fernandez tárgyalásai”. 'Ehelyett azt mondjuk, hogy képezzünk ki egy algoritmust annak meghatározására, hogy ezek közül a gyermekek közül melyik illik egy profilba, ahol a hosszú ívkockázat a rendszer jövőbeli bevonását sugallhatja.'



Fernandez 8 éves fiú volt, akit agyonvert és halálra kínzott anya és ő fiú barát annak ellenére, hogy tanára és mások többször is felhívták a visszaélés gyanújáról beszámoló hatóságokat. Az új hatrészes sorozat Fernandez életét és szörnyű halálát vizsgálja, de nagyobb pillantást vet rá szisztémás problémák a gyermekjóléti rendszeren belül, amely szerepet játszhatott volna.



Putnam-Hornstein szerint a legnagyobb kockázatnak kitett gyermekek hatékonyabb azonosításának egyik stratégiája speciálisan létrehozott algoritmusok használata lehet, amelyek adminisztratív nyilvántartásokat és adatbányászatot használnak az egyes gyermekek kockázati pontszámainak meghatározásához.



'Valójában körülbelül 6 vagy 7 millió gyermekünk van, akiket állítólagos bántalmazás vagy elhanyagolás miatt jelentenek be minden évben az Egyesült Államokban, és történelmileg az, hogy néhány szűrési döntést hoztunk, csak egyfajta bélfelmérésen alapszik' - mondta. 'A prediktív kockázati modellezés csak annyit mond:' Nem, nem, nem, vegyünk ehhez szisztematikusabb és empirikusabb megközelítést. '

Putnam-Hornstein és Rhema Vaithianathan, a Központ a szociális adatok elemzéséhez , az ötletet a pennsylvani Allegheny megyében tudták megvalósítani. A pár gyermekbántalmazások ezreit használta fel egy olyan algoritmus megtervezéséhez, amely meghatározta a megyei gyermekvédelmi szolgálatoknak jelentett minden család kockázati pontszámát. Egészségügyi Újságírás Központ .



'Körülbelül száz különböző tényezőt néznek meg' - magyarázta Marc Cherna, az Allegheny megyei Humán Szolgáltatások Főosztályának igazgatója a docu-sorozatban. 'Néhány alapvető példa a gyermekjóléti történet, a szülő története, minden bizonnyal a kábítószer-fogyasztás és -függőség, a családi mentális betegségek, a börtön és a meggyőződés, és különösen, ha vannak támadások és hasonló dolgok.'

west memphis három igazi gyilkos 2017

A nagy hívásmennyiség miatt az ország egész területén a gyermekjóléti hatóságok feladata annak meghatározása, hogy egy családot be kell-e vizsgálni a panasz alapján történő vizsgálat céljából, vagy kiszűrik-e.

2015-ben az országszerte kapott 4 millió állítás 42% -át 7,2 millió gyermek bevonásával kiszűrték A New York Times .

Mégis, a gyermekek továbbra is meghalnak a gyermekek bántalmazása miatt.

mit mondott Kate Spade öngyilkos jegyzete

Az Allegheny megyében használt rendszert arra tervezték, hogy adatelemzés révén pontosabban megjósolja, mely családok várhatóan jövőben vesznek részt a rendszerben.

'Ami az átvizsgálóknak van, az sok adat' - mondta Vaithianathan a The Times-nak. „De elég nehéz eligazodni és tudni, hogy mely tényezők a legfontosabbak. Egyetlen híváson belül a C.Y.F. , lehet, hogy két gyermeke van, feltételezett elkövető, lesz anyja, lehet, hogy még egy felnőttje van a háztartásban - ezeknek az embereknek olyan történetei lesznek a rendszerben, amelyet a hívást átvilágító személy kivizsgálhat. De az emberi agy nem olyan ügyes az összes adat hasznosításában és értelmezésében. ”

Az Allegheny család szűrőeszköze az „adatbányászat” nevű statisztikai technikát használja a történelmi minták megvizsgálására, hogy „megpróbáljanak jóslatot adni arról, hogy mi történhet” minden esetben - mondta a docu-sorozat.

Minden eset kap egy és 20 közötti kockázati pontszámot - minden esetet magas vagy közepes vagy alacsony kockázat kategóriába sorolva.

Rachel Berger, a Pittsburgh-i Gyermekkórház gyermekorvosa a The Times-nak 2018-ban elmondta, hogy a prediktív elemzést értékessé teszi az, hogy megszünteti a szubjektivitás egy részét, amely általában a folyamatba megy.

'Mindezek a gyerekek káoszban élnek' - mondta. „Hogyan működik a C.Y.F. kiválaszthatja, melyek vannak a legnagyobb veszélyben, ha valamennyien rendelkeznek kockázati tényezőkkel? Nem tudja elhinni, hogy mennyi szubjektivitás jár a gyermekvédelmi döntésekben. Ezért szeretem a prediktív elemzéseket. Végül hoz némi objektivitást és tudományt olyan döntésekhez, amelyek olyan hihetetlenül megváltoztathatják az életet. '

De akadtak olyan kritikusok is, akik szerint a prediktív elemzés használata olyan adatokra támaszkodik, amelyek már elfogultak lehetnek. Korábbi kutatások kimutatták, hogy a kisebbségek és az alacsony jövedelmű családok gyakran felülreprezentáltak az összegyűjtött adatokban, ami a doku-sorozat szerint elfogultságot eredményezhet afro-amerikai családokkal vagy más kisebbségi családokkal szemben.

„Az emberi elfogultságok és az adatok torzításaikéz a kézben járnak egymással'- mondta Kelly Capatosto, az Ohio Állami Egyetem Kirwan Institute for Race and Ethnicity Study of Race and Ethnicity vezető tudományos munkatársa, az Egészségügyi Újságíró Központ szerint. „Ezekkel a döntésekkel a felügyeletre és a rendszer kapcsolattartására gondolunk - rendőrséggel, gyermekjóléti ügynökségekkel, bármely szociális jólétet kiszolgáló ügynökséggel. Ez felülreprezentált lesz az (alacsony jövedelmű és kisebbségi) közösségekben. Ez nem feltétlenül jelzi, hogy hol zajlanak ezek az esetek. '

Erin Dalton, az Allegheny megyei elemzési, technológiai és tervezési iroda igazgatóhelyettese elismerte, hogy elfogultság lehetséges.

„Az biztos, hogy a rendszereinkben elfogultság tapasztalható. A gyermekbántalmazást mi látjuk, és adataink nem a tényleges gyermekbántalmazás függvényei, hanem annak függvénye, hogy kiket jelentenek be ”- mondta a Netflix sorozatban.

De a megye azt is közölte az Egészségügyi Újságírás Központjával, hogy megállapította, hogy a közpénzek megszerzése csökkenti majdnem családjaik kockázati pontszámát.

Tmegye „nagyon érzékeny” erre az aggodalomra, és folyamatosan elemzi a rendszert annak megállapítására, hogy a csoportokat aránytalanul célozták-e meg - mondta Cherna a doku-sorozatban is.

Az Allegheny megyei rendszer maga a megye tulajdonában van, de kritikát értek más magántulajdonban lévő szűrőrendszerekkel kapcsolatban is.

Az Illinois-i Gyermek- és Családügyi Szolgáltatások Osztálya 2018-ban bejelentette, hogy többé nem fogja használni az Eckerd Connects nonprofit szervezet és a profit-profit partnere, a MindShare Technology által kifejlesztett prediktív elemzési csomagot, részben azért, mert a vállalat nem volt hajlandó részleteket közölni, hogy milyen tényezőkről a The Times szerint képletükben használták.

Állítólag a rendszer több ezer olyan gyermeket kezdett megjelölni, akik sürgős védelemre szorulnak, és több mint 4100 illinoisi gyermeknek 90% -kal vagy nagyobb valószínűséggel adnak halált vagy sérülést, A Chicago Tribune számolt be 2017-ben.

a scott peterson rokona a felhívott petersonhoz

Mégis, más gyermekek, akik nem kaptak magas kockázati pontszámot, mégis meghaltak a bántalmazás miatt.

'A prediktív elemzés (nem) jósolta a rossz eseteket' - mondta a Beverly 'B.J.' Gyermek- és Családügyi Szolgáltatások Osztály igazgatója. Walker elmondta a Tribune-nak. - Úgy döntöttem, hogy nem folytatom a szerződést.

Daniel Hatcher, a “ A szegénységipar: Amerika legsérülékenyebb polgárainak kizsákmányolása ”Összehasonlította az analitikai rendszerek egy részét egy„ fekete dobozzal ”, a docu-sorozatban azt mondta, hogy nem mindig világos, hogy hogyan hozzák meg döntéseiket.

'Nincs módjuk kitalálni, hogyan döntenek valójában arról az ellátási szintről, amely hatalmas hatással van az egyénre' - mondta.

Putnam-Hornstein elismerte, hogy a prediktív analitikai rendszerek nem képesek meghatározni a jövőbeni viselkedést, de úgy véli, hogy ez egy értékes eszköz, amely lehetővé teszi az átvizsgálók számára, hogy megalapozottabb döntéseket hozzanak arról, hogy mely gyermekek lehetnek a legnagyobb veszélyben.

'Remélem, hogy ezek a modellek segítenek a rendszerünknek nagyobb figyelmet fordítani az áttétel viszonylag kis részcsoportjára, ahol a kockázat különösen magas, és ennélfogva több erőforrást tudunk szentelni ezeknek a gyermekeknek és családoknak' - mondta. az Egészségügyi Újságírás Központjához. „Nem akarom, hogy bárki túlértékelje a prediktív kockázatmodellezést. Ez nem kristálygömb. Ez nem oldja meg az összes problémánkat. De a margón, ha ez lehetővé teszi számunkra, hogy valamivel jobb döntéseket hozzunk, azonosítsuk a magas kockázatú eseteket, és kiválasszuk azokat az alacsony kockázatú esetekből, és ennek megfelelően állítsunk be, ez fontos fejlemény lehet a területen. '

Népszerű Bejegyzések