La misma herramienta, dos resultados

Hay una manera de hablar de la inteligencia artificial que ya se volvió costumbre. Se habla en singular. Qué le va a hacer la inteligencia artificial a la humanidad. El problema de esa frase no es que sea alarmista, ni que sea optimista. El problema es que no dice dónde ocurre.

Ningún sistema técnico llega a la humanidad. Llega a un aula. Llega a una consulta. Llega a una oficina, a un despacho. Y cada uno de esos lugares tiene una manera distinta, a veces ninguna, de notar que algo salió mal, corregirlo y hacerse cargo. Esa capacidad pesa más en el resultado que el acceso a la herramienta.

Pongamos dos oficinas. Las dos reciben el mismo sistema, el mismo día, con el mismo contrato. Un sistema que redacta textos. En la primera, lo que la máquina produce pasa por alguien que puede contradecirla, que tiene tiempo para leerlo y que responde con su nombre por lo que sale. En la segunda, lo que la máquina produce se firma y se despacha. Los errores de la primera oficina vuelven. Los de la segunda salen.

Misma herramienta. Mismo acceso. Los resultados pueden llegar a ser opuestos. Y a veces algo peor que opuestos, porque la segunda oficina ahora produce más rápido y más barato. La herramienta no le mejoró el trabajo: le multiplicó el alcance de sus errores.

Conviene decir por qué. Quien compra un sistema así cree que compra dos cosas, y solo compra una. Compra acceso, que se resuelve con conexión y una suscripción. El criterio no se compra con la herramienta. Exige gente capaz de juzgar el resultado, reglas que la obliguen a hacerlo y alguien que responda si falla. Nada de eso llega con la licencia, ni en el mismo plazo.

Aquí hay que ser justo con la objeción, que es fuerte. Exigir capacidad de corrección antes de adoptar se parece mucho a pedirle a un país que se desarrolle antes de usar la herramienta que podría ayudarlo a desarrollarse. Y hay usos donde la comparación no es con un servicio impecable, sino con un servicio que no existe. Es cierto, y no es un detalle. Por eso el criterio no dice «no adopte». Dice algo más incómodo: que la respuesta no se da de una vez para todo, sino uso por uso.

Y la pregunta, uso por uso, es esta: quién nota el error, en cuánto tiempo y a qué costo.

Hay tareas donde el usuario verifica gratis. Uno pide una traducción y la comprueba leyéndola. Ahí no hace falta ningún intermediario, y el criterio manda adoptar sin más trámite. Hay otras donde el error se parece demasiado a un acierto. Un diagnóstico equivocado no le resulta visible a quien lo recibe: se parece a uno correcto. Un escrito con una referencia inventada tiene el mismo aspecto que uno con la referencia verdadera, y quien lo nota, si lo nota, es la otra parte, meses después. En ese terreno, adoptar sin medir no es audacia: es dejar de contar los errores.

Y note el orden, porque es al revés de lo que suele decirse. Este criterio no protege al profesional. A veces lo deja fuera, cuando el usuario puede verificar solo. Y a veces manda esperar donde nadie puede verificar, aunque el profesional exista.

Dos advertencias, para que esto no se convierta en fórmula. Capacidad de corrección no es prestigio: una organización fuerte puede ser una pésima receptora si dentro de ella nadie puede contradecir lo que se adoptó. Y no es la única variable: el costo, los datos y la formación también pesan. Es la más desatendida, no la única.

Si usted decide hoy sobre una de estas herramientas, en una empresa, en una escuela, en un despacho, la pregunta no es si la tecnología sirve. Es más sencilla y más dura. Cuando esto se equivoque, quién se entera, en cuánto tiempo y a qué costo.

Notas del episodio. Este episodio deriva del ensayo «Quién corrige a la máquina», de La Cátedra: https://lacatedra.do/quien-corrige-a-la-maquina.html. No cita obras de terceros y no contiene cifras.

El guion de este episodio se elaboró con asistencia de inteligencia artificial y la voz es sintética, generada por un programa; no es la de ninguna persona. Se publica tras edición, verificación y aprobación bajo la responsabilidad editorial de Johnny Pujols, director de La Cátedra.

Voz: modelo libre es_MX-ald-medium del proyecto Piper, entrenado con grabaciones donadas al dominio público (Unlicense). La Cátedra no imita la voz de ninguna persona.