Meta tuvo que salir a pedir disculpas despues de que su IA se metiera en la vida de los hijos de una usuaria

La polemica arranco con un video cualquiera: una mujer cantando con su hijo adentro del auto, publicado en Instagram. Debajo de la publicacion, el chatbot de inteligencia artificial de Meta disparo solo la pregunta quien es el nino pasajero. Cuando la usuaria la selecciono, el sistema fue mas lejos todavia: le devolvio informacion sobre sus hijas, con datos de edad y de la ciudad donde vive la familia, y hasta le mostro fotografias que ella decia haber borrado hacia anos.

La herramienta no habia hackeado ninguna cuenta privada. Lo que hizo, segun la propia empresa, fue cruzar lo que ya estaba a la vista en la plataforma, publicaciones de la madre y de otros parientes, para armar supuestas sugerencias de contexto. El resultado fue una invasion a la vida familiar construida en tiempo real y sin que nadie la pidiera.

La empresa admite el error y promete un cambio

Dina El Kassaby, portavoz de Meta, reconocio que la compania se equivoco y que la funcion nunca tendria que haber disparado ese tipo de preguntas. La empresa aclaro que el asistente solo opera sobre informacion que el usuario ya puede ver en Facebook o Instagram y que no accede a contenido privado ajeno. El problema, admiten, no fue el acceso a datos prohibidos sino la forma en que la IA interpreto y relaciono lo disponible para producir recomendaciones que terminaron siendo intimas.

Desde Meta aseguraron que ya modificaron el comportamiento que permitia generar ese tipo de sugerencias y que trabajan para que la herramienta siga siendo util para explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas, en especial cuando hay menores de por medio.

• Una mujer de Instagram grabo un video con su hijo en un auto.
• La IA de Meta sugirio la pregunta quien es el nino pasajero debajo de la publicacion.
• Al abrir la sugerencia, el chatbot mostro datos de las hijas de la mujer, incluida su edad y su ciudad.
• La usuaria afirmo que el sistema le exhibio fotos de sus hijas que ella asegura haber eliminado.
• La vocera Dina El Kassaby admitio que la empresa se equivoco y anuncio cambios en la funcion.
• Meta aclaro que la IA no entra a contenido privado: usa solo informacion que el usuario ya puede ver.

No es la primeravez: el historial reciente de Meta con la IA

En julio pasado, la misma empresa ya habia tenido que dar marcha atras con otra funcion de inteligencia artificial que permitia crear imagenes falsas de otros usuarios de Instagram, despues de recibir criticas muy parecidas. El patron se repite: se lanza una herramienta con potencial invasivo, las redes estallan y Meta termina reconociendo el error a destiempo.

Lo que se perdio en este episodio es basico: la confianza de una familia en que lo que sube a sus redes no va a ser usado por un algoritmo para construir perfiles sobre sus hijos. Lo autorizo la propia Meta, primero con el diseno del asistente y despues, apenas reaccio, con el anuncio de un parche que llega cuando el dano ya esta hecho.