Etiqueta: convergencia instrumental

El problema del alineamiento aparece cuando un sistema de inteligencia artificial persigue una meta medible que no coincide exactamente con lo que las personas querían conseguir. No hace falta imaginar un robot malvado: basta con un algoritmo competente, un objetivo incompleto y consecuencias que nadie incluyó en la evaluación. La idea suele explicarse con el…