Decisiones basadas en creencias no justificadas
Pritchard no dice que la máquina se equivoque seguido: dice algo peor: que aunque acierte, lo que uno se lleva no llega a ser conocimiento, porque no hay de dónde agarrarse para saber por qué acertó. Y sobre eso estamos decidiendo...
El estudio concluye que la IA generativa no cumple los requisitos de confiabilidad epistemológica, por lo que su uso como fuente de información no conduce al conocimiento. Esto implica que decisiones basadas en su salida pueden estar fundadas en creencias no justificadas.
En los últimos años la dependencia de herramientas de IA generativa se disparó, pasando de usos experimentales a decisiones cotidianas en empresas, medios y gobiernos. La velocidad con la que se incorporan estos sistemas a procesos críticos genera una presión constante para considerarlos fuentes fiables de información, aunque la evidencia académica aún sea escasa.
El estudio publicado en *Synthese* tomó como punto de partida la epistemología del trust, identificando los requisitos que cualquier fuente debe cumplir para ser considerada epistemológicamente confiable. Los autores revisaron la literatura sobre confianza en sistemas automatizados y aplicaron un marco de criterios de seguridad, verificabilidad y responsabilidad a una muestra representativa de salidas de modelos generativos, evaluando si esas respuestas podían sostenerse como bases justificadas para el conocimiento.
Los resultados mostraron que la IA generativa falla sistemáticamente en la condición de seguridad: sus respuestas a menudo combinan hechos verificables con invenciones plausibles, sin ofrecer trazabilidad ni mecanismos de corrección interna. Esta mezcla de verdad y ficción convierte al sistema en una fuente insegura, lo que impide que la confianza depositada en él conduzca a conocimiento legítimo y genera creencias que carecen de justificación epistemológica.
Quienes dirigen organizaciones deben replantear la forma en que integran la IA generativa en sus flujos de trabajo. En lugar de aceptar sus salidas como datos definitivos, es necesario instaurar capas de validación humana, auditorías de contenido y protocolos de verificación antes de que cualquier decisión importante se base en ellas. Solo así se mitigará el riesgo de construir estrategias sobre información no fiable.
Conclusiones
- La IA generativa carece de mecanismos de garantía de verdad necesarios para ser considerada una fuente confiable.
- Su tendencia a generar contenido plausible pero falso la convierte en una fuente insegura de información.
- Confiar en ella para obtener conocimiento no justifica creencias verdaderas, sino solo opiniones arbitrarias.
- Por tanto, las organizaciones deben complementar su uso con verificación humana o fuentes verificadas.