[LIVE] Coronavirus Pandemic: Real Time Counter, World Map, News
Igual que un xef professional o un cirurgià cardíac, un algoritme d'aprenentatge automàtic només és tan bo com la formació que rep. I a mesura que els algorismes cada vegada prenen el regnat i prenen decisions per als humans, estem descobrint que molts d’ells no van rebre la millor educació, ja que imiten els biaixos basats en la raça humana i el gènere i fins i tot creen nous problemes.
Per aquests motius, és particularment important que diversos estats, incloent Califòrnia, Nova York i Wisconsin, utilitzin algorismes per predir quines persones tornaran a cometre delictes després de ser empresonats. Pitjor encara, ni tan sols sembla funcionar.
En un article publicat el dimecres a la revista Avanços científics, un parell de científics d’informàtica al Dartmouth College van trobar que un programa d’ordinador àmpliament utilitzat per predir la reincidència no és més precís que els civils completament no entrenats. Aquest programa, anomenat Correctional Offender Management Profiling per a sancions alternatives, analitza 137 factors diferents per determinar la probabilitat que una persona cometi un altre crim després del seu alliberament. COMPAS considera factors com ara l'ús de substàncies, l'aïllament social i altres elements que teoritzen els criminalistes poden conduir a la reincidència, classificant les persones com a alt, mitjà o de baix risc.
I segur, l’avaluació del risc sona molt bé. Per què no disposar de més dades per ajudar els tribunals a determinar qui és un risc més gran? Però el que van trobar els científics d’ordinadors de Dartmouth, Julia Dressel i Hany Farid, va ser que els individus no entrenats van jutjar correctament el risc de reincidència amb gairebé la mateixa precisió que COMPAS, el que suggereix que el suposat poder de l’algorisme no és realment allà.
En un judici que incloïa només una fracció de la informació utilitzada per COMPAS (set factors en comptes de 137 i excloent la raça), un grup de voluntaris humans a Internet, sense cap tipus de formació en avaluació de riscos, va avaluar els informes de casos. Van estimar correctament la reincidència d’una persona amb un 67% d’exactitud, en comparació amb el 65% de precisió de COMPAS.
Preneu-vos un moment per deixar que s'enfonsin. Les persones no entrenades a la xarxa estaven lleugerament millors per predir si una persona tornaria a la presó que l’eina que està literalment dissenyada per predir si una persona tornaria a la presó. I empitjora. Un cop hàgiu afegit la cursa d'un acusat, les taxes falses positives i falses negatives del voluntari es van situar en només uns pocs punts percentuals del COMPAS. Així, doncs, COMPAS no només és tan bo en predir la reincidència, sinó que és igualment propens al biaix racial que els humans. Tant per la freda lògica dels ordinadors.
Després, els investigadors van elaborar un model lineal que va coincidir amb la taxa de predicció de COMPAS amb només dos factors: edat i nombre de condemnes anteriors. Només per ser clar, aquesta predicció també seria injusta, però demostra el que COMPAS és defectuós.
I si bé aquesta investigació és nova, no es tracta de les grans opcions que es recullen. En una investigació del 2016, ProPublica Els periodistes van trobar que COMPAS no només és poc fiable, sinó que és realment sistemàticament esbiaixat contra els afroamericans, que classifica constantment a les persones negres un risc més elevat que els blancs que van cometre crims més greus. Amb sort, aquesta nova investigació ajudarà a preparar el camí per a processos d’avaluació dels riscos més justos en el sistema de justícia penal.
El fet que COMPAS sigui inútil en el millor dels casos i profundament esbiaixat, en el pitjor dels casos, suggereix que les avaluacions de risc basades en ordinadors podrien aprofundir les injustícies que el sistema de justícia hauria de tractar.Atès que els resultats de l’avaluació del risc es poden aplicar en qualsevol pas del procés de justícia penal, inclosa la fixació de l’obligació de la persona, la determinació de si se'ls concedeix la llibertat condicional, i en alguns estats, fins i tot per determinar la sentència d’una persona, aquesta investigació suggereix una necessitat extrema reexamina l’ús de COMPAS i altres programes.
Per què els gossos viuen vides més curtes que els humans? La ciència explica
"Si els gossos i els éssers humans tinguin un cor i coses que necessitem per sobreviure, llavors, per què els gossos no viuen tant com els humans?" Els gossos són mamífers com els humans i tenen totes les coses que necessiten per sobreviure. Els nostres gossos ens ofereixen tanta felicitat, però llavors tanta tristesa quan moren. Llavors, per què no sobreviuen amb nosaltres?
Microsoft segueix amb una aplicació que prediu la reincidència
En un webcast amb els departaments de policia a principis d’any, un programador sènior de Microsoft va deixar escapar que l’empresa estava desenvolupant una aplicació que pot predir si un intern serà darrere de les reixes sis mesos després del seu alliberament.
Canvi climàtic: clar vincle amb la salut mental pobra en un estudi nou i massiu
Els científics afirmen en la revista Proceedings of the National Academy of Sciences que l'exposició a curt termini a condicions meteorològiques extremes, l'escalfament de diversos anys i l'exposició de ciclons tropicals estan associats a una salut mental agreujada. Aquest cas es basa en les dades de salut mental de prop de 2 milions de nord-americans.