Com el nou centre d'UC Berkeley podia prevenir un A.I. Apocalipsi

La Universitat de Califòrnia Berkeley acaba d’afegir el seu nom a una llista creixent d’institucions de confiança que treballen per evitar que la intel·ligència artificial malintencionada destrueixi la humanitat. El seu nou Centre d'Intel·ligència Artificial Compatible amb l'Home, anunciat el dilluns, està destinat a garantir que A.I. segueix sent beneficiós, i també per excloure un A.I. apocalipsi.

El propi A.I. de Berkeley l’expert, el professor Stuart Russell, lidera l’empresa. El projecte Open Philanthropy va proporcionar una subvenció de 5,5 milions de dòlars al centre, i altres també es van produir un salt. Diversos altres experts de Berkeley, la Universitat de Cornell i la Universitat de Michigan serviran de co-investigadors principals.

El professor de Cornell, Bart Selman, va dir: Invers sobre el Centre, A.I. que nosaltres hauria de fer-ho? la por, i per què el món probablement no es dirigeix ​​a l'infern en una peça de mà - encara.

Què espera aconseguir amb el Centre d'AI compatible amb els humans?

Aquests centres són un desenvolupament relativament nou. La gent fa inversions: per exemple, l'Institut del futur de la vida té una inversió per part d'Elon Musk, de Tesla, per tractar les qüestions sobre el futur de la vida i les possibles amenaces per al futur de la vida i la societat. El nou centre de Berkeley és un altre exemple d’aquest institut.

S'inspira en el canvi de paper de la intel·ligència artificial i la informàtica a la nostra societat. Aquestes tecnologies estan passant a la nostra societat i tindran un efecte sobre nosaltres. Aquests instituts estan aquí per reunir els investigadors per estudiar possibles impactes negatius o com assegurar-se que no hi ha impactes negatius.

El propi títol del Centre suggereix que A.I. i la humanitat és inherentment incompatible. És la vostra opinió?

Aquesta és la primera reacció que tenen les persones, que aquestes coses poden ser incompatibles. De fet, creiem que, amb les precaucions adequades i les directrius i investigacions adequades, podem alinear realment els interessos i assegurar-nos que aquestes tecnologies siguin beneficioses. A.I. La tecnologia té uns bons costats positius, i l’objectiu per a la societat és assegurar-nos que continuem sent positius. Els investigadors que participen a l’institut creuen que és factible.

Si poguessis adoptar una perspectiva del "dooms", quin aspecte tindria el més probable és que l’escena del dia del judici provocada per l’I.

Un clar risc seria un desenvolupament militar de la intel·ligència artificial, que pogués conduir a una cursa d’armes A.I.-armes entre països: armes autònomes, drons autònoms que segueixen els seus propis comandaments, desenvolupats per diferents països que són hostils entre si. Aquest és el risc més concret que veig. Crec que A.I. desenvolupat per a automòbils autocontrolats, per exemple, per a funcions regulars en la societat, serà molt beneficiós. Però l’aspecte militar és un component preocupant.

És ja una batalla costa amunt?

Els països estan considerant aquesta qüestió. En cert sentit, és una batalla costa amunt: els militars estan impulsant el desenvolupament de l'AI. tecnologia. Però, hi ha hagut acords - per exemple, les armes biològiques són probablement el cas més conegut - on els països en algun moment van decidir que beneficiaria a tots els països no desenvolupar armes biològiques a gran escala. Esperem que els països s'adonin que el desavantatge, per a tothom, és massa gran per entrar en un A.I. carrera d'armaments.

Si ambdues parts desenvolupen aquesta tecnologia, ningú no està per davant.

Hi ha alguna cosa més que hauria de saber sobre el Centre, o sobre A.I. en general?

És important donar el costat positiu. És fàcil posar èmfasi en els riscos –i, per descomptat, en part perquè aquests centres s’estableixen–, però també és important assenyalar que molts investigadors consideren que aquest risc és manejable i que l’elevat serà enorme.

Ja heu donat la perspectiva finalista. Quins són alguns possibles usos positius de l'AI que està realment emocionat?

Els aspectes positius seran una societat on estem assistits per aquesta tecnologia. Traduccions simultànies al discurs: entre xinès i anglès, per exemple, on la gent només pot conversar, com si parlés una llengua nativa, entre si a tot el món. Atenció a la gent gran: la gent pot romandre durant el temps que vulgui a casa seva, perquè té un robot auxiliar que els permet viure de manera independent.

Això probablement tindrà un impacte bastant dramàtic sobre la vida en general, tant pel que fa a l'ocupació com al que prioritzem.

Sí. Hi ha un debat sobre l’ocupació, que és un debat independent. Hi haurà recursos suficients per donar suport a tothom, així que hi ha el problema de com ens assegurem que tothom es beneficia d’aquests desenvolupaments. Hi haurà una nova realització del que significa treballar, quin tipus de treball farà la gent. Però, en principi, la gent tindrà més llibertat i tindrà més temps per fer activitats que els agrada fer, perquè les màquines ajudaran amb molts altres més mundans, treballar - Escriu les coses. Prendrà algun temps, però creiem que la societat s'adaptarà i incorporarà aquests canvis lentament.

Aquesta entrevista s'ha editat per claredat i brevetat.