La respuesta corta
Para proteger las fotos de niños y adolescentes de la IA: cuentas en privado (también las de los adultos que publican sus fotos), nada que lo ubique en la imagen, menos primeros planos de frente, pocos videos donde se escuche su voz, una palabra clave familiar para las emergencias y saber dónde denunciar si aparece una foto falsa. Abajo, los 9 pasos y los casos reales que explican por qué.
Qué puede hacer hoy la IA con una foto pública
1. Videos falsos que engañan a adultos
A comienzos de 2024, un empleado de la empresa de ingeniería Arup, en Hong Kong, entró a una videollamada con su director financiero y otros colegas. Los veía y los oía como siempre, así que hizo 15 transferencias a cinco cuentas: unos 25 millones de dólares. Ninguna de esas personas estaba en la llamada: eran deepfakes, videos falsos hechos con IA. Arup lo confirmó en mayo de 2024.
Si eso le pasa a un profesional en su trabajo, un niño o adolescente frente a un video o una foto falsa de alguien que conoce está mucho más expuesto. Y los adultos de la familia, frente a un video falso de él, también.
2. Fotos falsas a partir de fotos normales
En septiembre de 2023, en Almendralejo (España), una veintena de familias denunció que circulaban en grupos de WhatsApp fotos de sus hijas desnudas. Eran falsas: unos compañeros habían sacado las caras de sus perfiles de redes sociales y las habían pegado sobre cuerpos desnudos con una app de IA. En julio de 2024, el Juzgado de Menores de Badajoz condenó a 15 menores a un año de libertad vigilada.
Las fotos de origen no tenían nada de malo: eran fotos comunes de perfil. Por eso la primera defensa es quién puede verlas y descargarlas.
3. Voces clonadas con segundos de audio
VALL-E, un modelo de investigación de Microsoft, genera habla personalizada a partir de una grabación de 3 segundos, y conserva hasta la emoción y el ambiente de esa grabación. Sus propios creadores advierten que puede usarse mal. La estafa típica: una llamada o un audio con la voz de un familiar, en apuros, pidiendo dinero urgente.
Qué fotos y videos son los más riesgosos
| Más riesgoso | Mejor alternativa |
|---|---|
| Primer plano de frente, nítido, en perfil público | De espaldas, de lejos o en grupo, en cuenta privada |
| Con uniforme, nombre del colegio o frente de la casa | Sin datos que lo ubiquen |
| Publicado en el momento, con ubicación | Publicado después, sin ubicación |
| Video largo donde habla claro a la cámara | Video corto, con música o sin su voz |
| Traje de baño o ropa interior | No se publica |
9 pasos para proteger las fotos de niños y adolescentes
1.Cuentas en privado, con seguidores que la familia conoce
Es lo primero que recomienda el FBI. En Instagram y TikTok las cuentas de menores de 16 años ya vienen privadas, pero el punto débil suele ser otro: la cuenta pública del adulto que sube las fotos del niño o adolescente. Revisa la tuya, la de los abuelos y la de quien publique fotos de la familia.
2.Revisa lo que ya está publicado
Álbumes antiguos, fotos de perfil y publicaciones de cumpleaños siguen visibles años después. En WhatsApp, la foto de perfil se puede limitar en Ajustes → Privacidad → Foto del perfil → Mis contactos. Y conversa con el curso y el colegio sobre las fotos que se comparten en grupos y páginas públicas.
3.Nada que lo ubique
Uniforme con el logo, nombre del colegio, frente de la casa, patente del auto o ubicación en vivo: con eso un desconocido sabe dónde encontrarlo. Apaga la ubicación de la cámara (en iPhone: Ajustes → Privacidad y seguridad → Localización → Cámara → Nunca; en Android, en los ajustes de la app de cámara).
4.Menos primeros planos de frente
Una cara de frente, nítida y en alta resolución es justo el material que necesita un deepfake. De espaldas, de lejos, en grupo o con la cara tapada con un emoji, la foto cuenta lo mismo y sirve mucho menos para falsificarla.
5.Cuidado con los videos donde habla
Para clonar una voz bastan segundos de grabación. Un video público con el niño o adolescente hablando claro y largo es materia prima para una llamada falsa a los abuelos. El FBI aconseja limitar lo que se publica con la voz y la imagen de la familia.
6.Una palabra clave familiar
Si llama alguien con la voz de un familiar pidiendo dinero urgente, se le pide la palabra. La FTC agrega: no confíes en la voz y corta y llama tú a un número que sabes que es suyo. Ensáyenlo una vez en la mesa: así se acuerdan cuando haga falta.
7.Conversa antes de que pase
Tres reglas para el niño o adolescente: nunca mandar fotos a alguien que no conoce en persona; si alguien lo amenaza con publicar una foto, real o falsa, no paga, no borra la conversación y avisa a un adulto; y que sepa que no lo van a retar por contarlo. El miedo a ser castigado es lo que hace que se callen.
8.Si aparece una foto falsa, actúa rápido
Guarda capturas con el enlace, la fecha y la cuenta que la publicó; denúnciala en la red social y en la policía; avisa al colegio si circula entre alumnos. Para imágenes sexuales de menores de 18 años existe Take It Down, gratis y anónimo, que la bloquea en las plataformas que participan sin que la imagen salga de tu teléfono. Y Google tiene un formulario para sacar de sus resultados imágenes de menores.
9.Que entienda cómo funciona la IA
Un niño o adolescente que ha visto cómo se arma una imagen o una voz con IA reconoce más rápido una falsa y entiende por qué no se comparte. La mejor defensa no es el miedo: es saber cómo funciona y verificar por otro canal.
Y con ChatGPT y otras IA, ¿qué fotos se pueden subir?
Ninguna con su cara. Las herramientas de IA guardan lo que se les sube, y una foto del niño o adolescente no hace falta para casi nada de lo que se hace con ellas. Las reglas completas por edad, qué datos no compartir y cómo supervisar están en nuestra guía de reglas de IA para la casa.
Preguntas frecuentes
¿Puede la IA usar las fotos de niños que se suben a redes sociales?
Sí. Cualquier foto pública se puede descargar y usar para crear imágenes o videos falsos con IA. En Almendralejo (España), 15 menores fueron condenados en 2024 por sacar las caras de compañeras desde sus perfiles de redes y pegarlas sobre cuerpos desnudos. Una cuenta privada, con seguidores que la familia conoce, reduce mucho ese riesgo.
¿Cuántos segundos de voz necesita una IA para clonarla?
Muy pocos. VALL-E, un modelo de investigación de Microsoft, genera habla personalizada a partir de una grabación de 3 segundos. Por eso conviene no publicar videos largos con la voz del niño o adolescente y acordar en familia una palabra clave para las emergencias.
¿Qué hago si alguien hizo una foto falsa del niño o adolescente con IA?
No la reenvíes ni pagues si te piden dinero. Guarda capturas con el enlace, la fecha y el usuario que la publicó, denúnciala en la red social y en la policía, y avisa al colegio si circula entre alumnos. Si la imagen es sexual, Take It Down (del NCMEC) ayuda a retirarla de las plataformas que participan, gratis y sin que la imagen salga de tu teléfono. Google tiene un formulario para sacar de sus resultados imágenes de menores de 18 años.
¿Hay que dejar de publicar fotos de niños?
No hace falta dejar de compartir, sino elegir dónde y qué. Las fotos van mejor en grupos privados o cuentas cerradas que en perfiles públicos, y sin datos que lo ubiquen: uniforme, nombre del colegio, frente de la casa o ubicación en vivo.
¿Qué es una palabra clave familiar?
Una palabra o frase secreta que solo conoce la familia. Si llega una llamada o un audio de emergencia con la voz de alguien de la casa, se le pide la palabra antes de mandar dinero o datos. La recomienda el FBI desde 2024 frente a las estafas con voces clonadas.