Etiqueta: convergencia instrumental

El mayor riesgo de la IA no es que se vuelva malvada, sino que cumpla demasiado bien un objetivo equivocado. Por qué los propios investigadores que la crean están asustados El problema del alineamiento de la inteligencia artificial se entiende mejor con un ejemplo. Imagina que le pides a una IA extremadamente capaz una tarea sencilla: «fabrica…