Voz sintética, generada por un programa; no es la de ninguna persona.
Debajo, el texto completo del episodio.
Hay dos clases de error, y confundirlas cuesta caro cuando llega una herramienta nueva como la inteligencia artificial. La diferencia entre las dos no está en la herramienta. Está en cómo se entera uno de que algo salió mal.
Empecemos por la clase fácil. Usted manda una transferencia y el dinero no llega. Nadie tiene que explicarle que hubo un error. Lo nota ese mismo día, lo nota sin ser experto, y reclama. Eso es un lazo de corrección: el resultado de una acción vuelve a quien la hizo y cambia la siguiente. Este lazo lo cierra el propio usuario. Es inmediato, es gratis y no necesita a nadie más.
Ahora la clase difícil. Hay errores que la persona que los recibe no puede ver, porque un resultado equivocado tiene el mismo aspecto que uno correcto. Un análisis de laboratorio es el ejemplo clásico. Si el número que sale está mal, el paciente no lo sabe. Y nadie lo detecta caso por caso, porque de uno en uno no se ve.
Lo que se hace conviene conocerlo, porque muestra cómo se vigila lo invisible. Los laboratorios no revisan cada resultado: procesan muestras cuyo valor ya se conoce, junto con las de los pacientes y del mismo modo, comparan lo que sale con lo que debía salir, y vigilan si los valores empiezan a irse hacia un lado. No buscan el error de un paciente. Buscan la desviación del proceso. Ese segundo lazo no lo cierra nadie caso por caso. Se cierra midiendo.
Fíjese en lo que acaba de pasar. El error sigue siendo invisible de a uno. Pero deja de ser invisible en conjunto. Y sale más barato que revisarlo todo. Es un lazo estadístico y diferido: avisa tarde, pero avisa.
Ahora traigamos esto a los sistemas de inteligencia artificial que redactan textos. Estos sistemas cambian las dos cosas que deciden qué clase de lazo es posible. Primero, producen mucho más rápido y más barato, pero comprobar lo que producen no se abarata en la misma medida. Segundo, y esto es lo importante: lo que producen tiene exactamente la forma de una respuesta correcta, aunque no lo sea.
No se trata de atribuirle malas intenciones a la máquina. La máquina no sabe si acertó y no se propone engañar a nadie. Puede avisar de su propia duda, pero avisa mal, y casi nunca ese aviso llega hasta el usuario. Que llegue o no es una decisión de quien armó el producto. No es una propiedad de la técnica.
De ahí una consecuencia práctica, y es la más útil de este episodio. Si usted contrata uno de estos sistemas, parte de su capacidad de notar el error se compra y se exige por contrato. Qué avisa el sistema cuando no está seguro. Qué registro queda de lo que produjo. Qué le informan cuando lo cambian. Eso se negocia antes, no después.
Y conviene ser honesto con la objeción, que existe. Montar una medición así cuesta, y hay tareas donde es un lujo innecesario. Si usted pide una traducción y la comprueba leyéndola, ya tiene su lazo: úsela y no monte nada. El criterio no manda medir siempre. Manda saber en qué caso está.
Porque el peligro no es equivocarse. Es tener un error que nadie nota y creer, por eso mismo, que no hay errores. Una organización que no mide nada no tiene cero fallos. Tiene fallos que nadie cuenta.
Así que la pregunta, para cualquier tarea que usted piense entregarle a una máquina, cabe en una línea. ¿El que recibe el resultado puede darse cuenta solo de que está mal? Si la respuesta es sí, adelante. Si la respuesta es no, hace falta la otra clase de lazo, la que se cierra midiendo. Y si no se instala, lo que queda no es confianza. Es desconocimiento.
Notas del episodio. Este episodio deriva del ensayo «Quién corrige a la máquina», de La Cátedra: https://lacatedra.do/quien-corrige-a-la-maquina.html. No cita obras de terceros y no contiene cifras.
El guion de este episodio se elaboró con asistencia de inteligencia artificial y la voz es sintética, generada por un programa; no es la de ninguna persona. Se publica tras edición, verificación y aprobación bajo la responsabilidad editorial de Johnny Pujols, director de La Cátedra.
Voz: modelo libre es_MX-ald-medium del proyecto Piper, entrenado con grabaciones donadas al dominio público (Unlicense). La Cátedra no imita la voz de ninguna persona.