#LaHoraDelCriterio |Comprender mejor para decidir mejor.

Por: Geisy Peña Turbí

El problema más inquietante de la inteligencia artificial no empieza cuando se equivoca o cuando los sesgos son evidentes. Empieza cuando acierta y nosotros ya no sabemos explicar por qué.

Un informe impecable, una estrategia convincente, un escrito bien estructurado, o una presentación que anticipa todas las objeciones. El resultado puede ser correcto e incluso brillante, pero aparece una pregunta que hasta hace poco parecía innecesaria, y es que, si alguien cuestionara una de sus conclusiones, ¿sabríamos volver sobre las decisiones que la produjeron?

La pregunta no es teórica. Este septiembre, los propios desarrolladores de sistemas avanzados han llevado al centro del debate cuánto control humano debe conservarse a medida que la inteligencia artificial participa cada vez más en el desarrollo de nuevas inteligencias artificiales. OpenAI reconoció que la IA ya acelera tareas de investigación utilizadas para construir generaciones posteriores y sostiene que una eventual mejora autónoma no debería perseguirse sin condiciones de seguridad y control humano. Anthropic, por su parte, afirmó que está delegando una proporción creciente de su propio desarrollo de IA a sistemas de IA, de manera que la escala de ese problema es extraordinaria.

Pero existe una versión mucho más cercana que ya está entrando en oficinas, universidades, despachos, instituciones y empresas. Estamos empezando a entregar trabajos cuyo proceso intelectual conocemos peor que su resultado final, y el problema no es utilizar IA, porque sería absurdo renunciar a una herramienta capaz de acelerar búsquedas, contrastar posibilidades, ordenar información o mejorar procesos. La cuestión está en otro lugar.

Una persona puede usar una calculadora sin perder comprensión de la operación que está realizando, puede utilizar un corrector sin dejar de ser autora de una idea, incluso puede pedir a una IA alternativas, resúmenes o hipótesis y conservar plenamente el control sobre aquello que finalmente acepta.

La frontera empieza a cambiar cuando dejamos de saber qué razones sostienen lo que hemos decidido conservar. En materia de derecho, por ejemplo, un abogado puede recibir una argumentación perfectamente redactada y no haber comprobado la jurisprudencia en la que descansa; un directivo puede presentar una estrategia sin comprender qué supuestos hacen funcionar las proyecciones; o un estudiante puede entregar un análisis incapaz de explicar oralmente, igual que un responsable público puede firmar una recomendación técnicamente elegante cuya lógica nunca examinó.

En todos esos casos ocurre algo extraño, y es que la firma continúa siendo humana mientras una parte creciente del razonamiento se vuelve ajena, teniendo dicha firma consecuencias reales.

Por eso medir el problema preguntando simplemente “¿cuánto escribió la IA?” sirve de poco, porque podemos redactar personalmente un texto intelectualmente pobre y utilizar intensamente una herramienta para producir un trabajo profundamente pensado. La diferencia está en otra parte: ¿seguimos teniendo capacidad para interrogar aquello que aceptamos?

Comprender un trabajo no significa recordar cada paso que condujo hasta él. Significa poder identificar sus supuestos importantes, distinguir hechos de inferencias, detectar qué información no fue comprobada y reconocer qué nuevo dato nos obligaría a cambiar la conclusión. Esa última capacidad resulta especialmente relevante, porque quien realmente domina un razonamiento no solo sabe explicar por qué llegó a una respuesta. Sabe también qué tendría que ocurrir para dejar de creer que esa respuesta es correcta, y ahí puede estar una de las competencias profesionales más importantes de la era de la inteligencia artificial.

No es escribir sin máquinas, ni competir contra ellas, sino impedir que la velocidad para producir respuestas supere nuestra capacidad para examinarlas.

Las grandes empresas de IA están empezando a preguntarse cuánto control podrán conservar sobre sistemas cada vez más capaces de participar en su propio desarrollo, y quizás nosotros tengamos una pregunta menos espectacular, pero más inmediata. Antes de entregar algo bajo nuestro nombre, convendría saber si todavía somos capaces de distinguir qué aceptamos, por qué lo aceptamos y qué nos haría corregirlo, porque una firma puede acreditar propiedad o responsabilidad, pero no necesariamente garantiza comprensión.

Pregunta de criterio: si mañana alguien cuestionara la conclusión más importante de un trabajo que firmaste con ayuda de IA, ¿sabrías explicar qué la sostiene y qué evidencia te obligaría a cambiarla?