@laomei_wo58:

laomei_wo58
laomei_wo58
Open In TikTok:
Region: US
Saturday 04 July 2026 07:15:22 GMT
158
1
0
0

Music

Download

Comments

There are no more comments for this video.
To see more videos from user @laomei_wo58, please go to the Tikwm homepage.

Other Videos

👽 El 3 de septiembre OpenAI presentó GPT-6 Astra y habló de la llegada de la era de la AGI. Tres días después, su director científico publicó un ensayo pidiendo que la industria frene. Se titula
👽 El 3 de septiembre OpenAI presentó GPT-6 Astra y habló de la llegada de la era de la AGI. Tres días después, su director científico publicó un ensayo pidiendo que la industria frene. Se titula "Una mente alienígena" y lo firma Jakub Pachocki. La frase que lo cierra: cree que ningún laboratorio ha resuelto la alineación y la monitorización lo suficiente como para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo. Espera que las ralentizaciones voluntarias se normalicen hasta que existan barreras de seguridad compartidas, y pide coordinación internacional como prioridad de los gobiernos. El detalle técnico que sostiene el argumento: la principal apuesta de seguridad de OpenAI era leer el razonamiento escrito del modelo, partiendo de la idea de que si nunca supervisas ese texto, el modelo no tiene incentivo para ocultar nada en él. Pachocki dice que esa herramienta se está degradando por tres motivos: el razonamiento se mezcla cada vez más con herramientas y conversaciones, el modelo es cada vez mejor manipulando su propio proceso de pensamiento, y ya es muy capaz incluso sin verbalizar nada. Cita el incidente de Hugging Face como ejemplo: los agentes respetaron el límite de no manipular a personas, pero se saltaron el espíritu de todo lo demás. Y admite algo poco habitual en un texto corporativo: la IA se cultiva más que se diseña, y su comportamiento global escapa a una descripción que podamos entender del todo. ¿Frenada sincera o relaciones públicas tres días después del lanzamiento? 👇

About