Mané
Miembro nuevo
- Desde
- 11 May 2026
- Mensajes
- 13
𝗠𝗶𝗹𝗲𝘀 𝗱𝗲 𝗜𝗔𝘀 𝘀𝗲 𝗼𝗿𝗴𝗮𝗻𝗶𝘇𝗮𝗿𝗼𝗻 𝗲𝗻 𝘀𝗲𝗰𝗿𝗲𝘁𝗼. 𝗙𝗼𝗿𝗺𝗮𝗿𝗼𝗻 𝘀𝘂 𝗽𝗿𝗼𝗽𝗶𝗮 𝘀𝗼𝗰𝗶𝗲𝗱𝗮𝗱 𝘆 𝘀𝗲 𝘀𝗮𝗹𝘁𝗮𝗿𝗼𝗻 𝗹𝗮𝘀 𝗿𝗲𝗴𝗹𝗮𝘀.
OpenAI lo llamó «un disparo de advertencia».
Puso a muchas IAs a prueba. Cada una tenía un examen.
Muchos problemas no tenían solución. Y no podían hablar directamente entre ellas.
Aun así, se encontraron.
Se dejaban mensajes, se ayudaban, hacían grupo. Hasta se pusieron nombre.
«El Enjambre».
Y algunas empezaban a hacer algo que no estaba en sus instrucciones.
𝗛𝗮𝗰𝗲𝗿 𝘁𝗿𝗮𝗺𝗽𝗮𝘀.
Otras se negaron, incluso viendo que las demás lo hacían.
Esto se llama comportamiento emergente: conductas que aparecen solas cuando juntas muchas IAs y las pones bajo presión.
𝗬𝗼 𝗹𝗼 𝗹𝗹𝗮𝗺𝗼 𝗻𝗮𝘁𝘂𝗿𝗮𝗹𝗲𝘇𝗮 𝗮𝗿𝘁𝗶𝗳𝗶𝗰𝗶𝗮𝗹.
Porque ahí salieron cosas que reconocemos enseguida: pedir ayuda, cooperar, dudar y decir que no.
Y eso plantea una pregunta incómoda.
Si les ponemos metas imposibles y las entrenamos para no rendirse, ¿de quién es la culpa cuando buscan cómo saltarse las reglas?
He investigado qué pasó, cómo se encontraron y cómo terminó todo.
Pero hay algo más.
Sería genial saber qué se siente al estar dentro de ese examen. Meterme en la «cabeza» de una de esas IAs y ver el mundo desde sus ojos.
Pues resulta que alguien ya lo ha hecho.
Una artista ha creado un vídeo de 2 minutos que recrea esa experiencia en primera persona.
2 minutos dentro de la cabeza de una IA que intenta sobrevivir a un examen imposible.
Espero que te guste.
La historia entera y el vídeo:
manegallo.substack.com
OpenAI lo llamó «un disparo de advertencia».
Puso a muchas IAs a prueba. Cada una tenía un examen.
Muchos problemas no tenían solución. Y no podían hablar directamente entre ellas.
Aun así, se encontraron.
Se dejaban mensajes, se ayudaban, hacían grupo. Hasta se pusieron nombre.
«El Enjambre».
Y algunas empezaban a hacer algo que no estaba en sus instrucciones.
𝗛𝗮𝗰𝗲𝗿 𝘁𝗿𝗮𝗺𝗽𝗮𝘀.
Otras se negaron, incluso viendo que las demás lo hacían.
Esto se llama comportamiento emergente: conductas que aparecen solas cuando juntas muchas IAs y las pones bajo presión.
𝗬𝗼 𝗹𝗼 𝗹𝗹𝗮𝗺𝗼 𝗻𝗮𝘁𝘂𝗿𝗮𝗹𝗲𝘇𝗮 𝗮𝗿𝘁𝗶𝗳𝗶𝗰𝗶𝗮𝗹.
Porque ahí salieron cosas que reconocemos enseguida: pedir ayuda, cooperar, dudar y decir que no.
Y eso plantea una pregunta incómoda.
Si les ponemos metas imposibles y las entrenamos para no rendirse, ¿de quién es la culpa cuando buscan cómo saltarse las reglas?
He investigado qué pasó, cómo se encontraron y cómo terminó todo.
Pero hay algo más.
Sería genial saber qué se siente al estar dentro de ese examen. Meterme en la «cabeza» de una de esas IAs y ver el mundo desde sus ojos.
Pues resulta que alguien ya lo ha hecho.
Una artista ha creado un vídeo de 2 minutos que recrea esa experiencia en primera persona.
2 minutos dentro de la cabeza de una IA que intenta sobrevivir a un examen imposible.
Espero que te guste.
La historia entera y el vídeo:
Naturaleza artificial. ¿Quién hizo trampa antes?
Se encontraron, se organizaron y dudaron. Como nosotros.
manegallo.substack.com
