Levántate y Piensa
Audio · episodio 5 de 5

Quién paga el error

Voz sintética, generada por un programa; no es la de ninguna persona.

Debajo, el texto completo del episodio.

Hay una pregunta que ordena a todas las demás cuando se habla de inteligencia artificial. No es si la herramienta funciona. Es quién paga cuando se equivoca.

Empecemos por lo que cuesta un control de calidad, visto desde la contabilidad de quien tendría que montarlo. Un control cuesta hoy. Cuesta horas de gente, cuesta plazos más largos, cuesta menos volumen despachado. Ese costo es presente, es cierto y tiene nombre: el de quien lo paga y el de quien produce menos por él.

El beneficio, en cambio, son errores que no van a ocurrir. Es decir: algo futuro, difuso y que nadie va a ver nunca. A nadie lo premian por el error que no ocurrió.

Puesto así, la conclusión es incómoda. Si un control no existe, la explicación casi nunca es el descuido. La explicación es que a nadie le convenía pagarlo. Es un resultado económico, aunque nadie lo haya decidido.

Y de ahí se sigue lo contrario, que es la parte útil. Donde los controles sí existen y funcionan, mire alrededor y va a encontrar, casi siempre, a alguien de fuera que le impone a la organización el costo de sus fallos. Un regulador que sanciona. Un auditor. Un cliente que puede irse a otra parte y llevarse su dinero.

Esa última es la más poderosa y la más fácil de olvidar. La posibilidad de irse es parte del control. Cuando el usuario no tiene otra puerta, la organización no tiene por qué mejorar. No por maldad: porque el error no le cuesta.

Ahora lleve esto a las herramientas de inteligencia artificial que redactan textos y sugieren decisiones. Lo primero que hacen es abaratar la producción. Producir se vuelve mucho más barato; comprobar cuesta lo que costaba. Y comprobar no es más fácil, porque lo que producen tiene la forma exacta de una respuesta correcta aunque no lo sea. Con eso, el control queda todavía más caro en comparación, y saltárselo resulta más tentador.

Y lo segundo es más silencioso. Cuando el sistema se contrata como servicio, quien lo provee puede cambiarlo sin que la organización lo decida y sin que se entere. Media respuesta a quién corrige a la máquina es quién puede cambiarla. Y esa mitad pesa más donde ninguno de estos sistemas se fabrica.

La objeción es previsible y hay que atenderla. Se dirá que esto invita a la parálisis. Que exigir controles y vigilantes antes de usar cualquier cosa es una manera elegante de no hacer nada. No es eso. Hay tareas donde el usuario comprueba solo, en el acto y gratis: ahí el control ya está puesto y no hace falta nada más. Esto vale para el otro caso, el del error que nadie nota. Y ahí la pregunta no es si se puede confiar. Es quién paga si no se puede.

Hacerse cargo de estas herramientas tiene, entonces, un contenido preciso: saber quién corrige a la máquina, y con qué, antes de dejarla trabajar. Y quién paga cuando se equivoque.

Para terminar, una frase de hace casi cien años. En mil novecientos veintiocho, en un ensayo que se llama «El descontento y la promesa», escribiendo sobre la expresión literaria americana y no sobre máquinas, Pedro Henríquez Ureña les reprochaba a los inquietos de su tiempo olvidar que, y lo cito, «en cada generación se renuevan, desde hace cien años, el descontento y la promesa». Fin de la cita.

El descontento de esta generación tiene una forma precisa: la herramienta llega antes que el criterio para juzgarla. Y la promesa no consiste en tenerla. Tenerla ya ocurrió, y no distingue a nadie. La promesa consiste en construir los arreglos que permitan equivocarse barato.

Una sociedad que los construye puede importar toda la tecnología que quiera sin importar su juicio.

Notas del episodio. Este episodio deriva del ensayo «Quién corrige a la máquina», de La Cátedra: https://lacatedra.do/quien-corrige-a-la-maquina.html. La frase citada es de Pedro Henríquez Ureña, «El descontento y la promesa», en «Seis ensayos en busca de nuestra expresión» (1928), p. 28, sección «Tradición y rebelión», de la edición del Instituto Superior de Formación Docente Salomé Ureña, Santo Domingo, 2020: https://ministeriodeeducacion.gob.do/docs/biblioteca-virtual/uVJJ-seis-ensayos-en-busca-de-nuestra-expresion-pedro-henriquez-urenapdf.pdf — consultado el 17 de septiembre de 2026. Texto del autor en dominio público; el prólogo, las notas y el resto del aparato de esa edición están protegidos y no se reproducen.

El guion de este episodio se elaboró con asistencia de inteligencia artificial y la voz es sintética, generada por un programa; no es la de ninguna persona. Se publica tras edición, verificación y aprobación bajo la responsabilidad editorial de Johnny Pujols, director de La Cátedra.

Voz: modelo libre es_MX-ald-medium del proyecto Piper, entrenado con grabaciones donadas al dominio público (Unlicense). La Cátedra no imita la voz de ninguna persona.

Todos los episodios

← Volver a la portada