La inteligencia artificial ya tiene perfilados a nuestros hijos
En nuestras manos está no condenarlos a ese social scoring
Mañana sábado 4 de abril voy a conversar con Rudy Ladagga. Rudy fundó Gnius Club1, uno de los programas pioneros en enseñanza de inteligencia artificial para niños en México, y por más de 21 años ha evaluado innovaciones digitales educativas como representante de México en el World Summit Award, una de las iniciativas más importantes del mundo para reducir la brecha digital.
Enseña inteligencia artificial a niños desde 2018, varios años antes de que ChatGPT existiera, y trabaja con la alianza de inteligencia artificial de UNIDO2 para entender qué competencias va a demandar el mercado laboral en los próximos años.
Lo que sabe Rudy es tan urgente que necesita llegar a muchas más familias. Este artículo apenas rasca la superficie. La profundidad del tema amerita una conversación mucho más larga, y por eso estamos lanzando junto con Gnius Club un programa que se llama “IA para papás” el próximo 16 de abril, donde vamos a cubrir todo esto con el detalle que merece.
Tu hijo ya no solo deja huellas digitales: ahora la IA genera opiniones sobre él
Todos los padres que usamos internet entendemos más o menos qué es la huella digital tradicional: lo que publicamos en redes sociales (yo no, pero conozco amigos míos que sí), las aplicaciones que bajamos, los sitios que visitamos, todo eso queda registrado en los servidores de las empresas tecnológicas. Si tu hijo publicaba algo hace cinco años, probablemente quedaba enterrado entre millones de publicaciones y la posibilidad de que alguien lo encontrara era como buscar una aguja en un pajar. Un riesgo, sí, pero un riesgo limitado.
Eso cambió de forma radical en los últimos 24 meses. Ocho de cada diez grandes modelos de lenguaje (ChatGPT, Gemini, Claude, Grok) entrenan con redes sociales y foros públicos. Los posts, los likes, los comentarios y los memes que tu hijo comparte se convierten en señales que alimentan el entrenamiento de estas inteligencias artificiales. Y una vez que esa señal entra al modelo, la IA la recuerda y puede generar una opinión sobre tu hijo si alguien se lo pregunta.
Rudy lo llama huella digital generativa, y la diferencia con la huella digital tradicional es fundamental. Antes, tu rastro digital era pasivo: estaba ahí, almacenado, pero alguien tenía que ir a buscarlo activamente. Ahora, la IA puede generar un perfil reputacional de tu hijo de forma activa cuando cualquier persona (un reclutador, una universidad, un potencial socio) le pregunte. La IA no juzga en el sentido emocional de la palabra, pero sí integra patrones, detecta consistencias e inconsistencias, y produce un resumen probabilístico de quién es esa persona basándose en todo lo que publicó.
Cómo la IA clasifica a tu hijo sin que ninguno de los dos lo sepa
Todo lo que hacemos en línea se convierte en una señal: darle like a un video violento, subir un meme sarcástico, publicar a las dos de la mañana, seguir cuentas de cierto tipo, responder con muchos emojis, compartir artículos largos, cambiar de opinión frente a datos nuevos. La IA registra todo eso.
Con esas señales, la IA empieza a detectar patrones y a agruparlos en lo que técnicamente se llaman clústeres. Agrupa las señales de contenido y tono por un lado, las de horario y hábitos por otro, las de relación con otros por otro. Después le asigna un peso a cada señal basándose en cuatro criterios: con qué frecuencia aparece, qué tan clara es la intención detrás, si aporta algo valioso, y qué tan visible y rastreable es. Una señal que aparece de forma frecuente, que es clara, que es pública y que revela algo sustantivo sobre la persona pesa mucho más que un comportamiento aislado.
Al final de ese proceso, la IA genera lo que Rudy llama una etiqueta provisional: un resumen de quién parece ser esa persona según sus señales digitales. “Reactivo y competitivo.” “Confiable y curioso.” “Interesado principalmente en dinero y finanzas.” Esas etiquetas cambian si cambian las señales que alimentan al modelo, pero son lo que una universidad, un empleador o un inversionista va a encontrar cuando le pregunte a la IA sobre tu hijo.
Los seres humanos ya implementamos social scoring
El 54% de los empleadores ya han decidido no contratar a alguien basándose en lo que encontraron en sus redes sociales. El 70% de los empleadores estadounidenses han rechazado candidatos por contenido online. Y el 57% de los reclutadores han eliminado candidatos después de revisar sus perfiles sociales3. Esos números son de antes de que la huella digital generativa se convirtiera en la norma. Con la IA integrando toda esa información y generando opiniones activas sobre las personas, la tendencia va a acelerarse.
Harvard le rescindió la admisión a diez estudiantes que ya habían sido aceptados por publicar memes de odio en un grupo privado de Facebook4. Pensá en el esfuerzo que esos jóvenes hicieron para entrar a Harvard. Y pensá en que hoy, con la IA entrenada con toda esa información, ese tipo de señales no se quedan en un grupo privado: se integran al modelo y pueden resurgir años después cuando alguien pregunte.
Desde mi perspectiva, nuestros hijos van a ser evaluados por una IA, y lo único que podemos controlar es con qué señales llegan a esa evaluación.
El reto adicional: la dopamina rota
Las aplicaciones de redes sociales y entretenimiento fueron diseñadas con un objetivo específico: mantenernos atrapados en la pantalla el mayor tiempo posible, porque para esas empresas nuestra atención es lo que venden. Lo hicieron con mecanismos que generan adicción a la dopamina, y el resultado es que estamos criando a la primera generación que según múltiples estudios tiene indicadores de capacidad cognitiva más bajos que la generación anterior.
Un niño con un teléfono o una tableta recibe entre 100 y 300 notificaciones al día. La investigación muestra que cada vez que una notificación interrumpe una actividad que requiere concentración (estudiar, leer, pensar) el cerebro tarda aproximadamente 15 minutos en recuperar el nivel de atención previo5.
Haz la cuenta: si tu hijo recibe 20 notificaciones mientras estudia dos horas, matemáticamente no tuvo ni un solo bloque de concentración profunda durante toda esa sesión.
Es relevante para su huella digital generativa porque un adolescente con la atención fragmentada por la dopamina es un adolescente que puede llegar a publicar en redes sociales de forma impulsiva, sin criterio, sin pensar en las consecuencias a largo plazo de las señales que deja. Y esas señales impulsivas están alimentando el modelo que va a generar una opinión sobre él en el futuro.
Qué podemos hacer como padres
Enseñar ciudadanía digital desde temprana edad es tan necesario como enseñarles a ponerse el cinturón de seguridad, con la diferencia de que para el cinturón bastaba con una instrucción simple, y para la ciudadanía digital en la era de la IA generativa necesitamos entender un mundo que cambia cada semana y para el que nadie nos preparó.
Las etiquetas que la IA genera son provisionales. Cambian si cambian las señales. Si tu hijo empieza a publicar contenido que demuestra criterio, pensamiento crítico, intereses constructivos y consistencia entre lo que dice y lo que hace, las señales nuevas van a desplazar progresivamente a las anteriores en los siguientes ciclos de entrenamiento de los modelos. El momento para empezar es ahora, porque cuanto antes se cambien las señales, más rápido se transforma la etiqueta.
Pero para poder guiar a nuestros hijos en esto, primero tenemos que entenderlo nosotros. La realidad es que la mayoría de los padres (incluyéndome a mí hace no mucho tiempo) no tenemos una comprensión clara de cómo funcionan estos modelos, qué señales están captando, cómo las procesan y qué podemos hacer de forma práctica para proteger y fortalecer la reputación digital de nuestros hijos.
Por eso, junto con Rudy Ladagga y su equipo de Gnius, estamos lanzando AI para papás, un programa diseñado específicamente para que los padres entiendan desde adentro qué está pasando con la inteligencia artificial, cómo impacta a sus hijos y qué acciones concretas pueden tomar. El programa arranca el 16 de abril.