Levántate y Piensa
Ensayo

Quién corrige a la máquina

La inteligencia artificial no llega a la humanidad: llega a organizaciones concretas

La conversación sobre inteligencia artificial se hace casi siempre en singular: qué le hará «la IA» a «la humanidad». Pero ningún sistema técnico llega a la humanidad. Llega a un aula, a una consulta, a una oficina, a un despacho, y cada uno de esos lugares tiene una manera distinta —a veces ninguna— de notar un error, corregirlo y responder por él. Este ensayo sostiene que esa capacidad pesa más en el resultado que el acceso a la herramienta, y se pone a prueba contra la objeción más fuerte: la del salto tecnológico.

1El texto con el que se discute

En agosto de 2026, Bill Gates publicó en su sitio personal un ensayo largo sobre la transición a la era de la inteligencia artificial. Resumido con nuestras palabras: propone que los Estados administren la transición con instrumentos fiscales y laborales; sostiene que el cambio en curso no se parece a los anteriores; señala tres riesgos, y los dos primeros son la pérdida permanente de empleos y la capacidad ampliada de actores malintencionados; y dedica una parte del texto a los beneficios posibles. No es una promesa: es una advertencia con propuestas institucionales.

Este ensayo propone un criterio distinto, y conviene decir desde ahora que no es una invención suya. Aquel texto discute cómo administrar la transición: quién pierde el empleo y qué se grava. Aquí no se defiende ni se rechaza ninguna de esas propuestas; se mencionan para decir que no son el tema. El tema es anterior: qué hace que un sistema de inteligencia artificial rinda o haga daño dentro de la organización que lo usa. La respuesta que se ensaya es el lazo de corrección —quién nota el error, en cuánto tiempo y a qué costo—, una pregunta vieja en la ingeniería de sistemas y en el estudio de las burocracias que esta conversación casi nunca aplica.

2Acceso no es capacidad de corrección

Un lazo de corrección es un arreglo por el cual el resultado de una acción vuelve a quien la hizo y modifica la siguiente. No es una metáfora: es la forma más común de estabilidad en cualquier sistema. Hay dos clases, y confundirlas cuesta caro. La primera la cierra el usuario, de inmediato y sin experto: si una transferencia no llega, el cliente lo sabe ese día y reclama. La segunda no la cierra nadie caso por caso, porque el error individual no se ve; se cierra midiendo. Un laboratorio clínico no comprueba cada resultado: procesa muestras de control con valor conocido, compara y vigila la deriva. Ese lazo es estadístico, diferido y mucho más barato que revisarlo todo, y existe justamente donde el error es invisible de a uno.

Dos propiedades deciden qué lazo es posible. La observabilidad del error: si quien recibe el resultado puede darse cuenta de que está mal. Y el costo de verificación: cuánto cuesta comprobarlo frente a lo que costó producirlo. Un sistema que redacta textos altera las dos: produce mucho más rápido y más barato, y sus salidas tienen la forma exacta de una respuesta correcta aunque no lo sean. Sin atribuirle intenciones a la máquina: el sistema no sabe si acertó y no se propone engañar. Puede emitir señales de su incertidumbre, pero están mal calibradas y casi nunca llegan al usuario: mostrarlas es una decisión de quien arma el producto, no una propiedad de la técnica. De ahí una consecuencia práctica: parte de la observabilidad se compra y se exige por contrato.

El acceso se resuelve con conectividad y una suscripción; la capacidad de corregir no se compra con la herramienta ni en el mismo plazo, porque exige criterio, procedimientos que obliguen a usarlo y alguien que responda si falla. Dos organizaciones con el mismo acceso y distinta capacidad pueden divergir hasta invertir el signo del beneficio.

3El rendimiento no está en la herramienta

De ahí algo que la discusión pública casi nunca concede: el rendimiento medido de un sistema no es el rendimiento del servicio. El despliegue es otra tarea, sobre otros casos y con una persona en medio, y confundir las dos cosas es el error de compra más común. La unidad que rinde o falla es el par herramienta-organización. Dos oficinas reciben el mismo sistema de redacción: en una, lo que produce pasa por alguien que puede contradecirlo y responde con su nombre; en la otra, se firma y se despacha. Los errores de la primera vuelven; los de la segunda salen.

Esa diferencia, sin embargo, no está dentro de las oficinas. Depende de reglas que vienen de fuera: quién nombra y quién puede remover al revisor, si su evaluación depende de quien firma lo que debe poder objetar, si el error tiene consecuencia y para quién. Llamemos institución a esas reglas y organización al lugar donde se aplican: el lazo se instala en la organización y lo sostienen las reglas.

El acoplamiento produce además efectos no proporcionales a la dosis, y por eso fallan las intervenciones lineales. Lo que sigue es un mecanismo, no una medición. Un revisor comprueba diez documentos al día y detecta la mayoría de los errores; si el volumen sube a cien, cabe esperar que no compruebe «diez veces peor», sino que deje de comprobar y empiece a aprobar. No una pérdida gradual de calidad, sino un cambio de régimen —de revisar a autorizar— en un umbral. Duplicar la conectividad o las horas de capacitación no duplica nada: puede no cambiar nada y luego cambiarlo todo de golpe.

Hay un segundo efecto, de control: cuando el sistema se contrata como servicio, quien lo provee puede modificarlo sin que la organización lo decida ni se entere, y un lazo que solo vigila los errores propios no registra ese cambio. Media respuesta a quién corrige a la máquina es quién puede cambiarla, y esa mitad pesa más donde ninguno de estos sistemas se fabrica.

Y un tercero, de diversidad. Suele decirse que los errores de veinte oficinas independientes se compensan; no se compensan para la persona a quien le tocó el suyo. Lo que se pierde cuando las veinte adoptan el mismo sistema es otra cosa, y es más grave: la posibilidad de detectar un fallo comparando resultados divergentes, y el segundo lugar donde un caso podía resolverse de otro modo. El error deja de ser ruido y pasa a ser sesgo, el mismo para todos a la vez.

4La objeción del salto, en su forma más fuerte

Donde no hay médico, un sistema que sugiere un diagnóstico no compite con un buen médico: compite con nada. Exigir capacidad de juicio como condición previa equivale a pedir que un país se desarrolle antes de usar la herramienta que podría ayudarlo a desarrollarse. Y el argumento invoca su historia: la telefonía móvil y los pagos digitales se difundieron donde las instituciones eran débiles, saltando por encima de la infraestructura que nunca llegó. El criterio de la corrección puede ser, además, una defensa gremial con ropa de prudencia: quienes tienen el monopolio del juicio profesional son los mismos que pierden si la máquina hace parte de su trabajo.

Hay que concederle lo suyo: la comparación relevante no es con el servicio ideal sino con el que no existe, hay usos con balance favorable desde el primer día, y la exigencia de capacidad previa aplicada sin distinción sería una receta para no hacer nada.

Pero esa premisa es más débil de lo que parece. Esas tecnologías se difundieron con mucho menos andamiaje del que se creía necesario, aunque no sin ninguno: hizo falta que alguien las autorizara y fijara reglas. Y funcionaron porque traían su propia verificación: si la llamada no entra, el usuario lo sabe en el acto, sin experto ni costo, y puede irse a otro proveedor. Esa salida —el costo que el usuario le impone a quien falla— es parte del lazo, no un detalle.

Compárese con los casos que el argumento usa como prueba. Un diagnóstico equivocado no le resulta visible a quien lo recibe: se parece a uno correcto. Un escrito jurídico con una referencia inventada tiene el mismo aspecto que uno con la referencia verdadera, y quien lo nota, si lo nota, es la contraparte meses después.

Aquí la objeción tiene todavía su mejor carta: el error silencioso no distingue a la máquina de lo que hay. Donde no hay médico, el diagnóstico lo da un mostrador o nadie, y ese error también es invisible y tampoco lo cuenta nadie. Si el sistema se equivoca menos que esa línea de base, mejora los resultados aunque sus fallos no se vean. La respuesta no está en la invisibilidad: está en la correlación. Mil personas mediocres se equivocan cada una a su manera; un sistema se equivoca igual para todos a la vez, y no queda resultado divergente con el cual detectarlo. Por eso el criterio no dice «no adopte»: dice que, al adoptar, hay que instalar la medición que antes hacía gratis la diversidad.

La pregunta, entonces, no es «desarrollarse primero y adoptar después». Es, uso por uso: quién nota el error, en cuánto tiempo y a qué costo. Y es lo contrario de una defensa gremial: el mismo criterio manda adoptar sin intermediación profesional donde el usuario verifica gratis —una traducción que comprueba leyendo— y manda esperar donde nadie puede verificar, aunque el profesional exista.

Dos precisiones, para que esto no sea una fórmula: capacidad de corrección no es prestigio, porque una organización fuerte puede ser pésima receptora si nadie dentro de ella puede contradecir lo adoptado; y no es la única variable, porque el costo, los datos disponibles y la formación pesan también. Es la más desatendida, no la única.

5Lo que se puede medir y lo que se supone

Sobre el rezago regional hay mediciones, y conviene leerlas con sus límites. Un documento de proyectos de la CEPAL, de Juan Jung y Raúl Katz, encuentra el gasto en IA de la región rezagado frente a la mayoría de las economías avanzadas, con datos de la consultora IDC para 2019-2023, y modela el aporte de ese gasto al producto de varias economías latinoamericanas haciendo pasar el efecto por la productividad del trabajo calificado. Ese canal no se descubre: lo impone la forma del modelo. Los datos son además anteriores al despliegue masivo de los sistemas que generan lenguaje. Y el análisis por país cubre seis economías, entre las que no está la República Dominicana.

El Índice Latinoamericano de Inteligencia Artificial de 2025, elaborado por la CEPAL y el CENIA —que reconoce en sus agradecimientos el apoyo de empresas tecnológicas—, registra que «nueve países cuentan con estrategias nacionales de IA, pero solo unos pocos han asignado presupuesto, definido planes de implementación o establecidos indicadores de impacto» (p. 16). De las tres carencias, la que cuenta aquí es la última: sin indicadores de impacto no hay manera de saber si lo que se hizo funcionó. Es un lazo que no cierra.

Queda la afirmación más fuerte, y se escribe como lo que es: una hipótesis. Dice que una sociedad que importa casi todo su conocimiento técnico recibe la herramienta y no el criterio con que se la juzga. Para dejar de serlo necesita indicadores definidos y fechados: educación terciaria, inversión en investigación y desarrollo, producción científica propia, dependencia de proveedores externos en sistemas críticos. Existen series públicas para casi todos; este ensayo no las ha verificado y no las cita de memoria. Si el resultado iguala o profundiza la desigualdad es otra pregunta, que exigiría medir por grupo y que aquí no se responde. Decirlo es parte del argumento: quien reclama capacidad de corrección no puede eximirse de ella.

6Qué sería recibir bien la IA

Recibir bien no es adoptar rápido ni resistirse: es instalar el lazo antes que la herramienta. Cuatro cosas, anteriores a cualquier compra, que valen igual para una empresa, un hospital, una universidad o un despacho.

Primero, medir antes de creer: definir por escrito qué cuenta como error, probar el sistema contra casos propios de respuesta conocida antes de comprarlo y auditar a fondo una muestra pequeña en lugar de vigilar mal el total. Y donde el desenlace llega tarde —la apelación, la queja del cliente—, registrarlo desde el primer día y tratarlo como medición.

Segundo, y solo después, la persona: alguien con nombre que pueda contradecir la salida y cuyo trabajo no consista en aprobarla. El orden importa: el revisor se degrada cuando el sistema mejora, porque cuanto más fiable parece menos se revisa, y menos sabe revisar quien ha dejado de practicar. Un revisor sin tiempo, sin autoridad y sin una medición que lo respalde es un sello, no un lazo.

Tercero, preguntar quién paga el error, que es la pregunta que ordena las otras. Un lazo tiene costo presente, cierto y con nombre —horas, plazos, menos volumen— y beneficio futuro y difuso: errores que no ocurrieron y que nadie verá. Con ese perfil, su ausencia no se explica por descuido: donde el lazo existe suele ser porque alguien de fuera le impone a la organización el costo de sus fallos —un regulador, un auditor, un cliente que puede irse—.

Cuarto, conservar la posibilidad de deshacer: mantener parte del trabajo fuera del sistema para comparar, registrar qué versión produjo qué y repetir la prueba conocida cada vez que el proveedor cambie algo. Si la organización ya no sabe hacer la tarea sin el sistema, dejó de tener criterio y tiene dependencia.

Esto vale para cualquiera que produzca texto con estos sistemas, incluida una publicación que lo haga. La nota al pie dice cómo se elaboró este artículo y quién responde por él. Conviene añadir lo que no dice: la revisión interna previa la hicieron sistemas del mismo tipo, y una revisión así reduce los errores comunes pero no los vuelve independientes. Eso no resuelve nada. Lo hace comprobable, que es la condición mínima para que alguien pueda corregirlo.

7Cierre

La discusión en español sobre estas máquinas es vieja. José Manuel Iglesias Granda y Antolín Sánchez Cuervo recordaron que dos filósofos del exilio español en México leyeron la cibernética cuando nacía, y que Eduardo Nicol la ligó a una racionalidad de emergencia: «La cibernética sería, para él, la manifestación más perfecta de dicha forma de racionalidad», escriben ellos, no Nicol (párr. 11). En los términos de este ensayo, es lo que ocurre cuando se adopta una técnica para no parecer atrasado y el control se deja para después. Los mismos autores concluyen que ni la tecnofilia ni la tecnofobia sirven, y que lo urgente es «la necesidad de hacerse cargo humana y políticamente de sus avances» (párr. 12).

Hacerse cargo tiene aquí un contenido preciso: saber quién corrige a la máquina, y con qué, antes de dejarla trabajar. En 1928, discutiendo la expresión literaria americana y no la técnica, Pedro Henríquez Ureña reprochaba a los inquietos de su tiempo olvidar que «en cada generación se renuevan, desde hace cien años, el descontento y la promesa» (p. 28). El descontento de esta generación es que la herramienta llega antes que el criterio. La promesa no consiste en tenerla —eso ya ocurrió y no distingue a nadie— sino en construir los lazos que permitan equivocarse barato. Una sociedad que los construye puede importar toda la tecnología que quiera sin importar su juicio.

Fuentes

Cada fuente se da con URL y fecha de consulta. La verificación en fuente primaria la hizo La Cátedra el 15 de septiembre de 2026, con una excepción declarada en la fuente 1. Las citas se reproducen con la ortografía y la sintaxis del original.

  1. Bill Gates, «The turbulent AI era is here. The choices we make now are critical.», Gates Notes, 26 de agosto de 2026. https://www.gatesnotes.com/a-turbulent-ai-era-and-critical-choices-to-make — Consultado el 15 de septiembre de 2026. Ese es el titular del artículo; el título que muestra la página del sitio es «The choices we make about AI now are critical». Obra protegida: aquí se usan solo el enlace y un resumen propio, sin citas textuales. Esta es la excepción del encabezado: la comprobación palabra por palabra de cualquier cita del original está pendiente y, mientras lo esté, este ensayo no reproduce ni una sola frase del original.
  2. Juan Jung y Raúl Katz, «Impacto económico de la inteligencia artificial en América Latina: transformación tecnológica y rezago en materia de inversión y capacidades laborales», serie Documentos de Proyectos (LC/TS.2025/37/Rev.2), Comisión Económica para América Latina y el Caribe (CEPAL), 2025 (registro en el repositorio: 7 de enero de 2026), pp. 5, 6, 23 y 25, donde el documento presenta los datos de gasto, el rezago regional frente a las economías avanzadas y el modelo. https://repositorio.cepal.org/handle/11362/81909 — Consultado el 15 de septiembre de 2026. De este documento no se cita ningún pasaje textual: se describe y se comenta. Las estimaciones proceden de un modelo de los autores con datos de gasto en IA de IDC (2019-2023) para una muestra que no incluye a la República Dominicana. El documento advierte que no fue sometido a revisión editorial formal y declara que se elaboró con financiamiento de la Unión Europea, en el marco de la Alianza Digital Unión Europea-América Latina y el Caribe.
  3. Álvaro Soto, Rodrigo Durán, Antonia Moreno, Sebastián Adasme, Sebastián Rovira, Valeria Jordán y Laura Poveda (coords.), «Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025», serie Documentos de Proyectos (LC/TS.2025/68/Rev.1), CEPAL y Centro Nacional de Inteligencia Artificial (CENIA), 2025, p. 16; la frase citada procede del noveno de los once hallazgos principales del informe. https://repositorio.cepal.org/handle/11362/82514 — Consultado el 15 de septiembre de 2026. El informe declara en su sección de agradecimientos el apoyo de empresas de tecnología, y en su página de créditos, que se elaboró con financiamiento de la Unión Europea; ninguna de las dos páginas está numerada y ambas preceden al índice.
  4. José Manuel Iglesias Granda (CSIC) y Antolín Sánchez Cuervo (Instituto de Filosofía, CSIC), «Cuando nació la inteligencia artificial, la filosofía en español tuvo mucho que decir», The Conversation, 8 de enero de 2024, párrs. 11 y 12, contados sobre el cuerpo del artículo, que tiene doce párrafos; la segunda cita es su frase final. https://theconversation.com/cuando-nacio-la-inteligencia-artificial-la-filosofia-en-espanol-tuvo-mucho-que-decir-219949 — Consultado el 15 de septiembre de 2026. Publicado bajo licencia Creative Commons Atribución-SinDerivadas 4.0 (https://creativecommons.org/licenses/by-nd/4.0/deed.es). La posición atribuida a Eduardo Nicol es la lectura de estos autores, no una cita de Nicol. Divulgación del medio de origen: Antolín Sánchez Cuervo recibe fondos de la Agencia Estatal de Investigación (Proyectos de Generación del Conocimiento 2022).
  5. Pedro Henríquez Ureña, «El descontento y la promesa», en «Seis ensayos en busca de nuestra expresión» (1928), p. 28, sección «Tradición y rebelión», de la edición del Instituto Superior de Formación Docente Salomé Ureña, Santo Domingo, 2020. https://ministeriodeeducacion.gob.do/docs/biblioteca-virtual/uVJJ-seis-ensayos-en-busca-de-nuestra-expresion-pedro-henriquez-urenapdf.pdf — Consultado el 15 de septiembre de 2026. Texto del autor en dominio público; el prólogo, las notas y el resto del aparato de esa edición están protegidos y no se reproducen.

Las firmas de la Mesa de Redacción son voces editoriales de La Cátedra. Sus textos se elaboran con asistencia de inteligencia artificial y se publican tras edición, verificación y aprobación bajo la responsabilidad editorial de Johnny Pujols, director de La Cátedra.

✶

En Lecturas recomendamos textos de otros sobre estas mismas preguntas.

← Volver a la portada