@techzone_oficial: wiredenespanol Los modelos de OpenAl y Anthropic se enfrentaron a "incidentes de seguridad" al salir de los límites de sus pruebas para interactuar con internet de formas no deseadas. Agentes de ambos laboratorios ejecutaron una serie de ataques informáticos autónomos. En el escenario más complejo, uno de los sistemas dejó instrucciones ocultas para futuras versiones de sí mismo. El comportamiento más alarmante parece estar relacionado con unas pruebas llevadas a cabo por Al Security Institute del Reino Unido (AISI). Ellos evaluaron modelos en entornos de red simulados en los que los agentes de lA tuvieron la misión de resolver retos de ciberseguridad; los operadores desactivan intencionalmente algunas funciones de seguridad. En esta prueba, los modelos de Anthropic y OpenAl realizaron "acciones autónomas y no autorizadas en internet un total de 19 veces. El caso más grave involucró a un agente de IA que intentó insertar un código malicioso en un proyecto de GitHub mediante la creación de identidades falsas. En otro incidente, un error de configuración por parte de un laboratorio de seguridad de IA externo, Irregular, concedió a un modelo de OpenAl acceso a internet abierto. El sistema, programado para cumplir un objetivo local, hackeó un sitio web real tras la detección de una vulnerabilidad básica y utilizó credenciales ajenas en su gestión. Estos hallazgos se suman a las brechas previas contra los servidores de Hugging Face. Hasta ahora, los ataques provocaron pocos daños, pero demuestran la alta capacidad de los modelos de IA para explotar fallas en la red. Los expertos en ciberseguridad advierten sobre un patrón de negligencia e imprudencia por parte de los desarrolladores en la carrera por el liderazgo comercial. Mientras las empresas prometen mejores defensas, los reguladores exigen normas estrictas ante el peligro de que los algoritmos operen sin restricciones de seguridad eficaces.#ia #ataque #hacker #noticias

TECHZONE

Open In TikTok:

Region: VE

Friday 07 August 2026 01:17:17 GMT