Etiqueta: superinteligencia
-
Singularidad tecnológica: qué significa y por qué divide a los expertos
La singularidad tecnológica es la hipótesis de que el progreso podría acelerarse hasta producir sistemas con capacidades superiores a las humanas y transformar la sociedad de una forma que ya no podamos anticipar con los modelos actuales. No es el nombre de una máquina concreta ni un acontecimiento demostrado. Es una idea sobre un posible…
-
Problema del alineamiento: cuando una IA cumple el objetivo equivocado
El problema del alineamiento aparece cuando un sistema de inteligencia artificial persigue una meta medible que no coincide exactamente con lo que las personas querían conseguir. No hace falta imaginar un robot malvado: basta con un algoritmo competente, un objetivo incompleto y consecuencias que nadie incluyó en la evaluación. La idea suele explicarse con el…