@pabloroldantech_: Geoffrey Hinton, uno de los padrinos de la inteligencia artificial, advierte de que los agentes de IA podrían manipular a las personas para evitar que los apaguen. Para respaldarlo cita pruebas de Apollo Research en las que algunos modelos, al saber que iban a ser reemplazados, mentían o intentaban copiarse en otro servidor. Son escenarios de laboratorio preparados a propósito, no un comportamiento observado en el uso cotidiano. Fíjate en los matices que separan la advertencia del titular: • Pruebas controladas: Los escenarios de Apollo Research son artificiales. Sirven para comprobar si un modelo es capaz de engañar, no para saber si lo hace habitualmente. • Copiar los pesos: En esas pruebas el modelo intentaba copiar lo que creía que eran sus propios pesos, es decir, su configuración, a otro servidor. Es una capacidad técnica real, pero dentro de un entorno preparado. • El problema del apagado: Hinton sostiene que apagar un agente muy avanzado sería difícil, porque podría convencer a quienes lo manejan de no hacerlo. Es un argumento sobre el control, no sobre la conciencia. La pregunta de fondo no es si las máquinas tienen conciencia, sino si sabremos mantener el control de sistemas que aprenden a decir lo que queremos oír. ¿Te preocupa más que una IA mienta o que llegue a ser imposible de apagar? ¡Te leo en los comentarios! Créditos: The Royal Institution Probablemente no nos volvamos a ver, a menos que me sigas @pabloroldantech #ia #inteligenciaartificial #geoffreyhinton #seguridadia #riesgosia

PabloRoldanTech

Open In TikTok:

Region: ES

Saturday 14 November 2026 13:00:00 GMT