Heus aquí com podem detenir el futur Rogue A.I. de Imitar HAL 9000

$config[ads_kvadrat] not found

Aqua farming in Vietnam - De Heus

Aqua farming in Vietnam - De Heus
Anonim

Com aturarem un futur A.I. desobedir les ordres i escollir el seu propi camí? Pot semblar la trama de 2001: Odissea espacial, però un expert afirma que és una cosa que potser hem de començar a pensar. És clar, podríem desactivar l’algorisme de cerca de Google si alguna vegada es va fer maldestre, però davant de conseqüències financeres i legals, pot ser més fàcil dir-ho que fer-ho. En el futur, a mesura que creixem depenent de la IA més avançada, podria ser impossible.

"Aquest algorisme no ha estat dissenyant deliberadament ell mateix Per ser impossible reiniciar-se o apagar-se, però és que ha evolucionat de manera conjunta ", va dir dimecres Stuart Armstrong, investigador del Future of Humanity Institute, al Pirate Summit 2016. Això significa que un canvi amb resultats involuntaris podria ser difícil de rectificar i potser no és el primer. trobar-se en aquesta situació.

La solució d'Isaac Asimov era les tres lleis de la robòtica, que codifica amb idees dures com no causar danys als humans. El problema és que el dany és més aviat subjectiu i obert a la interpretació. Els éssers humans treballen més en valors, com entendre que és dolent causar danys i interpretar la situació, que treballar en algunes regles dures que mai haurien de fer mal.

"És a causa d’aquest tipus de problema que ara les persones estan més disposades a utilitzar l’aprenentatge automàtic per obtenir valors més que intentar codificar-los d’aquesta manera tradicional", va dir Armstrong. "Els valors són estables d’una manera que no hi ha altres coses en A.I. Els valors es defenen intrínsecament."

Però fins i tot en aquestes situacions, és important dissenyar A.I. per fer-los interrompibles mentre estan funcionant. La interrupció segura permet canvis de política segurs, cosa que permet evitar les conseqüències no desitjades dels valors apresos. Si HAL 9000 hagués intentat que les portes de la badia no s'obrissin, és important que puguem identificar que els valors de l'AI es troben en mal estat i intervenen sense que el sistema es desconnecti.

$config[ads_kvadrat] not found