Voz sintética, generada por un programa; no es la de ninguna persona.
Debajo, el texto completo del episodio.
Suele decirse, para tranquilizar, que los errores se compensan. Que si veinte oficinas trabajan por separado, unas se equivocan hacia un lado y otras hacia el otro, y en el promedio la cosa se endereza. Eso es falso para la persona a quien le tocó el error. A ella no la consuela ningún promedio. Pero hay algo peor, y de eso trata este episodio.
Piense en esas veinte oficinas. Antes, cada una resolvía los casos a su manera, con su criterio, bueno o malo. Y eso, que parece desorden, hacía gratis dos trabajos que nadie había encargado.
El primero: permitía detectar un fallo. Si a usted le niegan algo en una oficina y en la de al lado, con el mismo caso, se lo conceden, ahí hay una señal. Alguien está equivocado. La diferencia entre las dos es la que enciende la alarma.
El segundo: dejaba una segunda puerta. Si aquí le dijeron que no, quedaba la posibilidad de que allá lo mirara otro ojo y viera lo que el primero no vio.
Ahora las veinte oficinas adoptan el mismo sistema. El mismo día, el mismo proveedor, la misma versión. Y suponga, para ser generoso, que el sistema es mejor que el promedio de las veinte. Se equivoca menos. Los errores bajan.
Fíjese en lo que se perdió igual. Desapareció el resultado divergente. Ya no hay oficina de al lado que diga otra cosa, porque todas consultan lo mismo. Y ya no hay segunda puerta, porque detrás de las veinte puertas está la misma respuesta.
Antes el error era ruido: molesto, desparejo, visible en la comparación. Ahora el error es sesgo. El mismo, para todos, a la vez, y sin nada con qué contrastarlo.
Aquí es donde la objeción a este razonamiento tiene su mejor carta, y hay que ponerla entera. Dice así: si el sistema se equivoca menos que lo que había antes, mejora la vida de la gente, aunque sus fallos no se vean. Y añade algo justo. Cuando no hay a quién acudir, la máquina no compite con un buen servicio: compite con nada. Exigir que una organización esté preparada antes de usar la herramienta se parece a pedirle que ya tenga resuelto aquello que la herramienta podría ayudarla a resolver.
Eso hay que concederlo, y no es un detalle. Pero note dónde está la respuesta. No está en que el error de la máquina sea invisible, porque el error humano también lo era. Está en la correlación. Mil personas mediocres se equivocan cada una a su manera. Un sistema se equivoca igual para todos a la vez, y no queda ningún resultado distinto con el cual notarlo.
Por eso el criterio no dice «no adopte». Dice algo más exigente: que al adoptar hay que instalar la medición que antes hacía gratis la diversidad. Si todas las oficinas van a decir lo mismo, alguien tiene que comprobar, con casos de respuesta conocida, que lo que dicen está bien. Nadie más lo va a notar desde fuera.
Y hay un detalle más. Cuando la diversidad la sostenía el desorden, se perdió sin que nadie lo decidiera. Nadie firmó la decisión de eliminar la segunda opinión. Simplemente se compró el mismo sistema veinte veces.
De ahí una recomendación concreta, y es la única de este episodio. Cuando una organización adopta una herramienta de inteligencia artificial, conviene mantener una parte del trabajo fuera del sistema. No por nostalgia. Para tener con qué comparar. El día que el proveedor cambie algo sin avisar, esa parte de afuera es lo que puede delatarlo.
La uniformidad es cómoda y se parece mucho al orden. Pero un sistema donde todos aciertan igual es también un sistema donde todos se equivocan igual. Y ese error, si nadie mide, no lo encuentra nadie.
Notas del episodio. Este episodio deriva del ensayo «Quién corrige a la máquina», de La Cátedra: https://lacatedra.do/quien-corrige-a-la-maquina.html. No cita obras de terceros y no contiene mediciones: los números que menciona son hipótesis de razonamiento.
El guion de este episodio se elaboró con asistencia de inteligencia artificial y la voz es sintética, generada por un programa; no es la de ninguna persona. Se publica tras edición, verificación y aprobación bajo la responsabilidad editorial de Johnny Pujols, director de La Cátedra.
Voz: modelo libre es_MX-ald-medium del proyecto Piper, entrenado con grabaciones donadas al dominio público (Unlicense). La Cátedra no imita la voz de ninguna persona.