Cuando el modelo sigue acertando en promedio y falla justo donde importa

Centinela Algorítmico es un proyecto editorial con sede en Buenos Aires, en Av. Corrientes 1235, piso 14, Torre Corrientes, Ciudad Autónoma de Buenos Aires. Trabajamos sobre un problema incómodo: un lote contaminado puede dejar la precisión agregada intacta mientras degrada un segmento concreto de la población. Este recorrido arranca en el diagnóstico de señales débiles y avanza hacia la trazabilidad del linaje de datos, con arquitecturas de redes neuronales que auditan lotes biométricos y transaccionales.

Ver el enfoque de auditoría Cómo se contamina un modelo de scoring

Centinela Algorítmico: intro focus — Distribución de predicciones por segmento, no solo el promedio global.

Las imágenes del sitio son ilustrativas y no representan equipos, clientes ni instalaciones reales. Si querés plantear una consulta técnica, podés escribirnos a support@bibleexaminer.com o llamar al +54 11 4923-4175.

Por qué este enfoque y no otro

Un lote contaminado no rompe el modelo: lo inclina

La mayoría de los sistemas de scoring se vigilan con métricas agregadas. El problema es que el envenenamiento de datos rara vez mueve esas métricas. Lo que mueve es la frontera de decisión en un segmento concreto, y eso no aparece en el promedio.

Miramos la estructura, no solo el tamaño

Un conjunto de entrenamiento puede crecer sin mejorar. Lo que revisamos es cómo se distribuyen las muestras dentro de cada lote, qué proporción de casos límite entra y si hay franjas donde las etiquetas resultan sospechosamente consistentes. Esa lectura estructural es la que separa una auditoría real de un simple conteo de registros.

Arquitecturas que auditan, no que clasifican

Trabajamos con redes cuyo propósito es reconstruir o comparar, no etiquetar. Un autoencoder que reconstruye mal una muestra está diciendo algo sobre su origen. Una red siamesa que acerca representaciones que deberían estar lejos está mostrando un desplazamiento en el espacio de embeddings. Ese tipo de señal es más difícil de ocultar que una caída de precisión global.

El orden temporal importa

Cuando la contaminación se inyecta en una ventana de tiempo específica, una partición aleatoria la reparte entre entrenamiento y prueba y la vuelve invisible. Por eso validamos por bloques temporales y comparamos el comportamiento entre tramos, en lugar de confiar en un único número de rendimiento.

Trazabilidad antes que sospecha

Sin registro de procedencia, cualquier investigación empieza de cero. Reconstruir qué lote entró, cuándo y desde dónde permite aislar el origen de una desviación en lugar de discutir hipótesis. Es la parte menos vistosa del trabajo y la que más veces resuelve el caso.

Ver el enfoque de trabajo Revisar los planes de auditoría

Un paso concreto

Antes de reentrenar, conviene saber qué entró al conjunto

La precisión agregada puede quedarse quieta mientras un segmento puntual se degrada. Ese es el síntoma más incómodo del envenenamiento de datos: no rompe el modelo, lo inclina. Si el equipo sospecha que un lote biométrico o transaccional arrastra ruido sintético, el primer movimiento no es reentrenar a ciegas, sino ordenar el linaje de lo que ya se usó. En la página de contacto se puede plantear el caso con el contexto mínimo: tipo de modelo, volumen aproximado del conjunto y qué señales se observaron.

Plantear una consulta técnica

Si el recorrido recién empieza, conviene leer primero el enfoque de trabajo y revisar cómo se auditan los lotes por dentro.

Recorrido editorial

El veneno que no mueve la aguja

Un lote contaminado puede dejar intacta la precisión agregada del modelo y, al mismo tiempo, inclinar su comportamiento en un segmento puntual. Esa es la parte incómoda del envenenamiento de datos: no rompe el sistema, lo desvía. Por eso este recorrido no empieza por las métricas de tablero, sino por las señales débiles que suelen quedar fuera de foco.

Precisión global, daño local

Cuando el error promedio se mantiene estable, la revisión habitual no encuentra nada. El desplazamiento ocurre en la frontera de decisión de un subgrupo: solicitudes de un rango de ingreso, operaciones de una franja horaria, identidades con poca representación en el conjunto. Ahí es donde conviene mirar la distribución interna de las predicciones y no solo su resumen.

Qué se audita en un lote biométrico o transaccional

El trabajo se concentra en la estructura del conjunto de entrenamiento: coherencia entre etiquetas y variables, muestras que aparecen por primera vez, registros con un patrón demasiado regular. Un lote sintético suele delatarse por cómo se distribuye, no por cuánto pesa dentro del total. La auditoría observa esa forma antes de decidir si el lote entra al pipeline.

Del indicio a la trazabilidad

Detectar una anomalía sirve de poco si después no se puede reconstruir de dónde salió. El registro de procedencia permite responder qué lote ingresó, en qué momento y desde qué fuente, y comparar dos versiones del modelo para aislar el cambio responsable. Sin ese linaje, cualquier investigación arranca de cero y termina en sospechas sin respaldo.

Un punto de partida, no una conclusión

Este recorrido editorial se detiene en el diagnóstico de señales débiles y en la trazabilidad del linaje de datos. Los métodos concretos de detección y las reglas de agregación en entornos distribuidos se desarrollan en las secciones internas del sitio. Si el equipo ya observó un comportamiento extraño en producción y no logra explicarlo con las métricas actuales, el siguiente paso es plantear la consulta técnica.