A.I. Expert Virginia Dignum: mostra el problema del carretó per què necessitem la transparència

$config[ads_kvadrat] not found

El problema de la Carretera Central

El problema de la Carretera Central
Anonim

La intel·ligència artificial necessita transparència perquè els humans puguin tenir-la en compte, ha afirmat un investigador. Virginia Dignum, professora associada de la Universitat de Tecnologia de Delft, va dir divendres a un públic de la Universitat de Nova York que si no entenem per què les màquines actuen de la mateixa manera, no podrem jutjar les seves decisions.

Dignum va citar una història de David Berreby, escriptor i investigador de ciències, publicat a Psicologia d'avui: "Les evidències suggereixen que quan la gent treballa amb màquines, senten menys sentit d’agència que quan treballen sols o amb altres persones".

El "problema del carretó", va explicar Dignum, és un àmbit on la gent pot confiar en una màquina per tal de triar el resultat adequat. La qüestió és si canviar la palanca d’un hipotètic tren de fugida perquè mata a una persona en lloc de cinc. La gent espera que les màquines resolguin el problema de la manera més racional possible. Però això no sempre és així i la transparència ajudaria a explicar com va arribar la decisió de la màquina.

"No és només una cadena d'esdeveniments de xarxes neuronals molt profundes, que ningú no pot entendre, sinó fer aquestes explicacions d'una manera que la gent pugui entendre", va dir.

A.I. això fa que el seu funcionament sigui clar: DARPA ha estat explorant. L’agència va publicar un anunci al’agost que buscava equips interessats en explicar A.I. projectes coneguts com XAI. Aquests sistemes ajudaran als investigadors a entendre per què un A.I. va prendre la decisió que va fer, donant més abast per decidir què fer amb la informació resultant, en lloc de confiar cegament en la màquina.

Amb l’aprenentatge automàtic, Dignum va assenyalar que la transparència és més important que mai. "No podem esperar que els sistemes, i especialment les màquines d'aprenentatge automàtic, aprenguin i sàpiguen tot seguit", va dir."No esperem que els nostres conductors, en conduir, entenguin plenament les lleis de trànsit. En molts països, utilitzen aquestes plaques "L" per mostrar, "Estic aprenent, disculpi'm pels errors que podria fer". Veure la IA, entendre com es tracta de determinades decisions i actuar sobre la base d’aquest que serà crucial per aturar les màquines que encara aprenen a prendre decisions dolentes.

$config[ads_kvadrat] not found