Cuando una organización se prepara para la Ley 21.719 suele convocar a dos tipos de especialistas: los abogados que redactan las políticas y los contratos y los técnicos que implementan los sistemas y la seguridad. Ambos son necesarios pero, entre ellos, existe un espacio crucial que ninguno cubre y donde, en la práctica, la ley se cumple o no. Por ejemplo: ¿La persona afectada por una decisión automatizada entiende qué le pasó y qué puede hacer? ¿El humano que supervisa al sistema puede realmente comprenderlo, contradecirlo y corregirlo? ¿La organización puede explicar sus propias decisiones algorítmicas en términos que un socio, un cliente o un fiscalizador comprendan?
Ese territorio operacional, comunicacional y humano es el campo de trabajo de Criterio Humano. Trabajamos de forma complementaria con los estudios jurídicos y los equipos técnicos, para que lo que la ley exige se convierta en algo que las personas comprendan.
Una organización puede publicar toda la información exigida y seguir siendo incomprensible. La transparencia es una propiedad del sistema si la información está disponible. La claridad es una propiedad de la relación si la persona concreta es capaz de comprenderla. La ley exige lo primero con palabras que solo se satisfacen logrando lo segundo.
En un país con los niveles de comprensión lectora de Chile, esta distinción es la diferencia entre derechos que pueden ser ejercidos y derechos meramente decorativos. Por eso tratamos cada aviso, cada formulario y cada comunicación de decisión como lo que son: objetos diseñados que pueden orientarse hacia la comprensión o atentar contra ella.
La automatización bien hecha libera a las personas de lo mecánico. Una automatización hecha sin criterio elimina que las personas que comprendan las decisiones del sistema, puedan disentir de ellas sin costos asociados y tengan autoridad real para corregirlas.
Esto es precisamente lo que la ley y la confianza de sus clientes exige conservar.
Sostenemos que esa capa humana es uno de los activos más valiosos de una organización que decide sobre personas y la fuente de su capacidad para explicarse, corregirse y merecer confianza.
Todo diagnóstico de Criterio Humano evalúa cada sistema en cinco dimensiones: caracterización funcional (qué hace, con qué datos, qué decide), impacto sobre titulares (a quiénes afecta y con qué severidad), trazabilidad (qué puede demostrarse ante una fiscalización), arquitectura de intervención humana (si la supervisión es real o ceremonial) y capa comunicacional (si las personas comprenden y pueden actuar).
Cinco preguntas simples pero exigentes de responder. Las respuestas, priorizadas por severidad, se convierten en un plan de adecuación que su organización puede ejecutar.
Detrás de este enfoque hay una convicción de fondo y radica en que ningún objeto que diseñamos es neutral. Cada sistema, cada interfaz y cada texto encarna una idea de cómo tratar a las personas. Elegir esa idea con lucidez y no heredarla por defecto es, exactamente, tener criterio.
Escribo semanalmente sobre estos temas en Objeto de Reflexión. Conversemos sin costo sobre la situación de su organización.
Conversemos Leer Objeto de Reflexión