Meta admitió que su chatbot de inteligencia artificial cruzó datos familiares de una usuaria y disparó preguntas íntimas sobre sus hijas

El episodio quedó al descubierto cuando una usuaria de Instagram publicó un video casero en el que se la veía cantando dentro de un auto junto a su hijo. Debajo de la publicación, el asistente de inteligencia artificial integrado por Meta en sus plataformas generó de manera automática la pregunta sugerida "¿Quién es el niño pasajero?". Al abrir esa sugerencia, el chatbot comenzó a desplegar información sobre las hijas de la mujer, con referencias a la edad de las menores y al lugar donde vive la familia.

De qué se acusa al sistema

La usuaria sostuvo además que la herramienta le mostró fotografías de sus hijas que habían sido compartidas con anterioridad en la plataforma, e incluso mencionó una imagen que, según su propio relato, había eliminado hacía años. A partir de ese cruce, la inteligencia artificial de Meta construyó preguntas de carácter íntimo a partir de publicaciones propias y de familiares, sin que la mujer lo hubiera solicitado de manera explícita.

Dina El-Kassaby, portavoz de Meta, reconoció públicamente que la empresa "se equivocó" y aseguró que la función "nunca debería haber sugerido ese tipo de preguntas al usuario". La compañía buscó enmarcar el incidente: aclaró que su sistema no accede a contenido privado al que el usuario consultante no tenga permiso, ya que el asistente solo opera sobre información que esa persona puede ver dentro de la propia plataforma.

Cómo se resolvió, según Meta

• La empresa identificó que el problema no estuvo en el acceso a datos prohibidos, sino en la forma en que la inteligencia artificial interpretó y relacionó información ya disponible para producir sugerencias invasivas.
• La función original apunta a ayudar a los usuarios a obtener más contexto sobre lo que están viendo en la plataforma; el error fue aplicar esa misma lógica sobre datos personales y familiares sin los filtros adecuados.
• Meta indicó que ya corrigió el comportamiento que generaba este tipo de recomendaciones y que trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas.

Un antecedente reciente

No es la primera vez que Meta enfrenta cuestionamientos por sus herramientas de inteligencia artificial. En julio pasado, la compañía retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas de similar tenor. El nuevo caso reaviva la discusión sobre los límites que deben tener los asistentes automatizados cuando procesan información personal, aun cuando se trate de datos que el propio usuario o sus contactos hicieron públicos en la red social.