El despegue de la mente artificial
El gran dilema del alineamiento
El día después de la singularidad
¿Pueden sentir las máquinas?
YOUR GOAL
Master of El salto a la superinteligencia artificial
sonia El dilema del alineamiento
Enséñale tus metas (sí, tus metas) / pero con valores (oh, de verdad)
sonia Sintoniza los controles de la IA para descubrir cómo colaborar con una superinteligencia.
La paradoja de Midas: Al igual que el rey Midas que convirtió todo en oro y murió de hambre, una IA que cumpla nuestros deseos de forma literal podría destruirnos.
Acción de colocar diferentes elementos en línea o ajustarlos para que funcionen de manera coordinada. En 1960, Norbert Wiener planteó la necesidad de sincronizar los objetivos de las máquinas con los humanos.
¿Qué organización fundada en 2015 se dedica a investigar la seguridad y el alineamiento de la IA?
¿Cuál es el principal riesgo de intentar apagar una superinteligencia si se vuelve peligrosa?
¿Qué es el 'problema del alineamiento' en el desarrollo de la inteligencia artificial?
En el experimento del 'maximizador de clips', ¿cuál es el peligro de la superinteligencia?
Según la 'tesis de la ortogonalidad', ¿qué relación hay entre inteligencia y moralidad?