La inteligencia artificial puede reducir el trabajo operativo de recopilación de objetivos, registros de reuniones, indicadores y comentarios. El problema comienza cuando esta conveniencia se convierte, sin previo aviso, en una calificación de desempeño, una recomendación de promoción o una señal de que alguien debe ser advertido o despedido.
Esta separación no elimina todos los riesgos legales u organizativos. Sin embargo, crea un punto de partida práctico para que RRHH, gerentes, privacidad, tecnología y asuntos legales decidan dónde ayuda la automatización y dónde impulsa las decisiones de las personas.
Sin embargo, el cronograma para las reglas de alto riesgo ha cambiado. El Ómnibus Digital pospuso hasta el 2 de diciembre de 2027 la aplicación de obligaciones específicas a sistemas clasificados como de alto riesgo, entre ellos, ciertos usos de la IA en la contratación, la gestión de trabajadores, el seguimiento y la evaluación del desempeño. El cambio se adoptó porque las normas técnicas y las estructuras de inspección aún estaban en desarrollo.
Esto no significa que las empresas deban suspender la gobernanza hasta 2027. Las prácticas prohibidas y las obligaciones de alfabetización en IA ya comenzaron a aplicarse el 2 de febrero de 2025. Además, las normas de protección de datos, laborales y de no discriminación siguen siendo válidas independientemente del término específico de la Ley de IA.
La Ley de IA clasifica el riesgo según el propósito y el uso real del sistema. La etiqueta comercial del proveedor (“asistente”, “copiloto” o “herramienta de productividad”) no determina por sí sola la categoría.
Los sistemas diseñados para monitorear o evaluar a los trabajadores, distribuir tareas en función del comportamiento individual o influir en la promoción, compensación y terminación de la relación laboral pueden clasificarse como de alto riesgo. La presencia formal de un gerente en la etapa final no resuelve el problema cuando las notas, clasificaciones, alertas o recomendaciones de la máquina influyen materialmente en el resultado.
Por otro lado, las directrices europeas presentan como ejemplos de funciones preparatorias o de apoyo la consolidación de registros existentes y la revisión del lenguaje de las evaluaciones ya realizadas por los directivos, siempre que la IA no altere las calificaciones, produzca nuevos juicios o influya en la decisión.
| Soporte recomendado, sujeto a controles |
Decisión que requiere responsabilidad humana |
Condición mínima |
| Reúna objetivos, registros individuales y entregables documentados |
Definir la calificación de desempeño final |
El gestor comprueba el origen, integridad y relevancia de los registros |
| Resumir textos y actas proporcionadas por la organización |
Decide promoción, bonificación o aumento |
Ninguna nueva conclusión puede ser tratada como un hecho sin evidencia |
| Identificar campos vacíos, periodos sin registros o fechas conflictivas |
Conclusión de que hubo falta de interés, baja colaboración o falta de compromiso |
La IA señala lagunas, pero no interpreta la intención ni la personalidad |
| Calcular indicadores con fórmula previamente aprobada |
Definir el peso de cada indicador o relativizar el contexto |
Las fórmulas, fuentes y excepciones deben documentarse |
| Sugerir preguntas para la conversación de evaluación |
Liderar la conversación y responder a las explicaciones del trabajador |
Las preguntas deben ser revisadas y adaptadas por el responsable |
| Comparar registros con criterios explícitos y estables |
Aplicar advertencia o iniciar plan de mejora |
El responsable debe examinar contexto, proporcionalidad y contradicciones |
| Mejorar la claridad de los comentarios ya decididos y escritos por el gerente |
Crear acusación, crítica o justificación disciplinaria |
La versión final debe preservar los hechos y la intención del responsable |
| Producir informes agregados sobre el proceso |
Decidir desconectar o desactivar una cuenta profesional |
La decisión debe tener un canal individual de análisis, justificación y revisión |
La supervisión humana no puede estar a un clic de distancia
Mantener a una persona en la última pantalla no es suficiente. La supervisión debe ser eficaz: la persona responsable debe comprender el papel del sistema, reconocer sus limitaciones, verificar la evidencia y tener la autoridad para rechazar o detener su uso.
La Ley de IA exige que se diseñen sistemas de alto riesgo para permitir la supervisión humana y reducir el riesgo de una dependencia excesiva de los resultados automatizados. También determina que las personas responsables de esta supervisión tengan la competencia, formación y autoridad adecuadas.
En la práctica, una revisión humana es significativa cuando el gerente:
- recibe los registros originales, no solo la síntesis de IA;
- tómese el tiempo para comprobar si hay omisiones y contradicciones;
- puedes estar en desacuerdo sin tener que justificar la decisión ante el propio sistema;
- conoce los criterios y datos que influyeron en la salida;
- registre por qué aceptó, ajustó o rechazó la recomendación;
- responsable personalmente del resultado comunicado al trabajador.
Cuando el flujo fomenta la aprobación automática (por ejemplo, cientos de evaluaciones completadas previamente con un botón de "confirmar"), la responsabilidad sigue siendo humana en el papel, pero la decisión puede haberse automatizado en la práctica.
Ocho controles antes de utilizar la IA en la evaluación del desempeño
1. Inventario de usos, no sólo de herramientas
El primer paso es descubrir dónde ya está presente la IA. Los recursos automatizados se pueden integrar en plataformas de recursos humanos, sistemas de objetivos, herramientas de productividad, videoconferencias, servicios internos y aplicaciones contratadas directamente por los gerentes.
Para cada uso, registre:
- finalidad declarada;
- personas afectadas;
- datos de entrada;
- resultado producido;
- quién recibe este resultado;
- decisión en la que ella puede influir;
- proveedor, modelo y versión;
- países donde se utilizará el resultado.
La clasificación debe rehacerse cuando una función originalmente administrativa comienza a generar rankings, recomendaciones o alertas sobre personas. El NIST organiza la gestión de riesgos de la IA en cuatro funciones continuas (gobernar, mapear, medir y gestionar), lo que refuerza que es necesario comprender el contexto de uso antes de medir y controlar.
2. Definir propósito, datos permitidos e inferencias prohibidas
No entregue todos los datos disponibles a la herramienta sólo porque se pueden procesar. Defina de antemano qué información es necesaria para los fines de la evaluación y cuál debe quedar fuera del sistema.
Los mensajes privados, registros médicos, datos biométricos, ubicación, actividad sindical, información familiar y características protegidas requieren un análisis riguroso. Incluso datos aparentemente neutrales pueden actuar como aproximaciones de edad, discapacidad, género, origen o condición de salud.
En la Unión Europea, el uso de IA para inferir las emociones de las personas en el lugar de trabajo está prohibido, excepto por una estrecha excepción por motivos médicos o de seguridad. Por lo tanto, las herramientas que prometen identificar el entusiasmo, el estrés, la sinceridad o el compromiso mediante la voz, el rostro u otras señales biométricas no deben tratarse como simples recursos de evaluación.
En Brasil, la LGPD requiere propósito, adecuación, necesidad, transparencia, no discriminación, seguridad y rendición de cuentas. La existencia de una hipótesis jurídica para el tratamiento no exime del cumplimiento de estos principios.
3. Establecer una matriz formal de derechos de decisión
La política interna debe indicar, por escrito, quién puede:
- activar o suspender el sistema;
- validar datos de entrada;
- consultar los registros originales;
- cambiar una salida;
- definir la nota;
- decidir ascensos, remuneraciones o medidas disciplinarias;
- responder a una disputa;
- autorizar nuevos propósitos.
Las notas, ascensos, advertencias, planes de mejora y despidos deben tener una persona humana nominal responsable. Esta persona a cargo debe tener competencia y autonomía, no solo acceso técnico al botón de aprobación.
La matriz también debería evitar que la puntuación automatizada se convierta en un requisito informal. Si en teoría el gerente puede estar en desacuerdo, pero debe rendir cuentas cuando no está de acuerdo, la supervisión puede no ser efectiva.
4. Controlar la calidad y representatividad de la evidencia
Un resumen preciso no corrige un registro incompleto. Antes de utilizar la IA, examine si los datos representan el trabajo realmente realizado y si todos los grupos son observados en condiciones comparables.
Algunos problemas recurrentes son:
- los objetivos cambiaron sin actualización del sistema;
- resultados colectivos atribuidos a una sola persona;
- tareas invisibles, como apoyo y tutoría, fuera de los indicadores;
- períodos de ausencia interpretados como baja productividad;
- mayor volumen de registros para equipos monitoreados digitalmente;
- retroalimentación puntual tratada como un estándar permanente;
- evaluaciones anteriores contaminando todos los ciclos posteriores.
El sistema debe mostrar la fuente y el período de cada prueba. Cuando no hay suficiente información, la solución correcta es declarar insuficiencia, no llenar el vacío con una inferencia.
5. Informar claramente a trabajadores y directivos
La transparencia debe ocurrir antes del uso relevante de la herramienta, y no sólo después de una decisión desfavorable.
La comunicación debe explicar:
- para qué se utilizará la IA;
- qué datos entran en el proceso;
- qué resultados produce;
- qué decisiones pueden ser influenciadas;
- quién accede a los resultados;
- durante cuánto tiempo se conservan los registros;
- cómo corregir datos;
- cómo solicitar una aclaración o revisión;
- quién sigue siendo responsable de la decisión.
La Ley de IA proporciona, para los sistemas de alto riesgo utilizados en el trabajo, información previa a los trabajadores afectados y sus representantes. También proporciona explicaciones claras y significativas en ciertas decisiones individuales basadas en los resultados de estos sistemas. Las fechas de aplicación de estas obligaciones específicas deberán verificarse según el cronograma actualizado.
6. Crear disputa y revisión por parte de una persona diferente
El canal de disputa no debe devolver al trabajador a la misma salida automatizada. La revisión debe permitir:
- corregir datos incompletos o erróneos;
- contexto actual y evidencia adicional;
- saber qué criterios eran relevantes;
- recibir una respuesta razonada;
- escalar el caso a otra persona;
- suspender los efectos graves cuando existan dudas materiales.
En Brasil, el artículo 20 de la LGPD garantiza al titular el derecho a solicitar la revisión de decisiones tomadas únicamente basadas en tratamientos automatizados que afecten a sus intereses. El responsable del tratamiento deberá, cuando se le solicite, proporcionar información clara y adecuada sobre los criterios y procedimientos utilizados, respetando los secretos comerciales e industriales. La legislación actual no establece expresamente que toda revisión deba ser realizada por una persona física; por lo tanto, mantener una revisión humana independiente es una recomendación de gobernanza más protectora, no una transcripción literal del artículo.
7. Errores de auditoría, disparidades y resultados reales
La auditoría no debe limitarse a la precisión técnica del modelo. Es necesario comprobar cómo el sistema cambia las decisiones y las oportunidades.
Los indicadores útiles incluyen:
- frecuencia con la que los directivos aceptan o rechazan la salida;
- diferencias en las calificaciones antes y después de la adopción;
- tarifas de promoción, bonificación, advertencia y terminación;
- disparidades entre grupos, equipos, regímenes de trabajo y ubicaciones;
- volumen y resultado de los desafíos;
- errores de asociación, omisión y duplicidad;
- casos en los que faltaban pruebas suficientes;
- tiempo dedicado a la revisión humana;
- cambios después de la actualización del modelo.
La Ley nº 9.029/1995 prohíbe prácticas discriminatorias y limitantes en el acceso o mantenimiento de la relación laboral. Una herramienta no transfiere esta responsabilidad al proveedor ni legitima un resultado discriminatorio.
Cuando hay disparidad, la organización necesita investigar datos, criterios, ponderaciones, contexto y uso humano. Es posible que la corrección del modelo por sí sola no resuelva procesos de gestión que ya eran desiguales.
8. Mantener registros, control de cambios y responsabilidad de los proveedores
La empresa debe poder reconstruir una evaluación: qué versión del sistema se utilizó, qué datos llegaron, qué resultados se produjeron, quién los revisó y por qué se tomó la decisión final.
El contrato con el proveedor debe abordar:
- finalidad autorizada;
- categorías y ubicación de los datos;
- suboperadores;
- retención y eliminación;
- seguridad y respuesta a incidentes;
- documentación técnica disponible;
- pruebas de calidad y sesgos;
- cambios de modelo;
- apoyo para explicaciones y disputas;
- exportación de registros;
- suspensión y terminación del servicio.
Las descripciones empresariales como “IA responsable” o “imparcial” no sustituyen a la evidencia. La organización que utiliza la herramienta necesita probar su comportamiento en un contexto real, monitorear los cambios y evitar que se activen nuevas funciones sin evaluación.
Un flujo de evaluación más seguro respaldado por IA
Un proceso controlado puede funcionar así:
- El trabajador y el gerente registran los objetivos, los resultados y el contexto a lo largo del ciclo.
- La IA organiza registros, identifica fechas conflictivas y señala campos sin evidencia.
- El gestor consulta los documentos originales, corrige omisiones y añade hechos comprobables.
- La IA sugiere preguntas, sin atribuir intención, culpa o rasgos de personalidad.
- El gestor realiza la evaluación y define su conclusión, aplicando criterios conocidos.
- La calibración la llevan a cabo personas, prestando atención a los patrones discrepantes entre equipos.
- El trabajador recibe la justificación, sabe que hubo apoyo de IA y puede cuestionar datos o conclusiones.
- La organización audita el ciclo, registra las divergencias y decide si su uso debe continuar, modificarse o suspenderse.
En este modelo, los registros de las reuniones 1:1 pueden contribuir como evidencia, pero la reunión 1:1 no se convierte automáticamente en una revisión de desempeño. Las conversaciones de seguimiento tienen su propio contexto y no deben reutilizarse silenciosamente con fines disciplinarios incompatibles con lo informado.
Lista de verificación de gobernanza para guardar
Antes de iniciar una prueba piloto, confirme:
-
El uso y la decisión influenciada se describen por escrito.
-
Existe una persona responsable de la nota y sus efectos.
-
Los datos son necesarios, relevantes y verificables.
-
Se evaluaron características sensibles y aproximaciones inadecuadas.
-
La herramienta no infiere emoción, lealtad, personalidad o intención.
-
Los trabajadores y gerentes recibieron información comprensible.
-
Puedes consultar la evidencia original.
-
Existe una disputa con revisión humana independiente.
-
Los resultados y las disparidades serán auditados periódicamente.
-
Los cambios de proveedor o propósito requieren una nueva aprobación.
-
Los registros, versiones y justificaciones se conservarán durante el período definido.
-
Revisión piloto de las leyes laborales, de privacidad y de recursos humanos.
Si no se puede cumplir con algún elemento esencial, la decisión prudente es limitar el uso a tareas administrativas o suspender la implementación.
La responsabilidad sigue siendo de la organización
El debate sobre la IA en la evaluación del desempeño no se limita a preguntar si el modelo “lo hace bien”. Es necesario saber qué datos privilegia, qué comportamientos induce, quién puede impugnarlos y quién asume las consecuencias cuando se equivoca.
La automatización es más defendible cuando reduce el trabajo mecánico sin reducir los derechos. Es más peligroso cuando convierte registros incompletos en una apariencia de objetividad y entrega decisiones serias sin que nadie pueda explicar de dónde provienen.
Utilice la IA para organizar el proceso, no para ocultar quién es el responsable. Guarde esta lista de verificación de gobernanza y lea también la guía sobre cómo grabar reuniones individuales antes de conectar estas conversaciones con el ciclo de desempeño formal.
Temas de este artículoAI Actavaliação de desempenhodecisões automatizadasgovernança de IALGPDrecursos humanossupervisão humana
