Un estudio publicado en 2026 en la revista AI & Society identifica 13 debilidades fundamentales de los modelos de lenguaje como ChatGPT y concluye que el conocimiento humano no se reduce a datos. Su explicación central: estos sistemas dominan el lenguaje, pero no atraviesan la socialización, la educación y la vida en comunidad con las que las personas desarrollan criterio.
La tesis de este artículo es que el hallazgo más útil para una empresa no es la lista de fallas, sino la diferencia entre sonar competente y ser responsable de lo que se dice. Un modelo puede ser un excelente borrador y un pésimo garante. Quien lo despliega sin entender esa diferencia está delegando criterio donde no lo hay.
¿Qué dice exactamente el estudio?
El artículo, titulado "More Problems of Large Language Models in Comparison with Human Knowledge", fue publicado en 2026 por Harry Collins (University College London), Simon Thorne (Cardiff Metropolitan University), Rob Evans (Cardiff University) y Paul Newbury (Yard Digital y Cardiff Met). Cardiff Met difundió el trabajo el 3 de agosto de 2026. Según la universidad, la obra propone una nueva clasificación de las formas en que fallan estos sistemas, con una causa principal ligada a las fuentes de información.
El argumento de fondo es que las personas desarrollan su conocimiento mediante la socialización, la educación y la participación en comunidades, procesos que construyen juicio, moral y comprensión de lo que cuenta como evidencia. Los modelos, en cambio, se entrenan con enormes cantidades de texto de internet sin pasar por nada de eso. Thorne lo resume así: los modelos de lenguaje son "excepcionalmente buenos para generar lenguaje convincente, pero esto no es lo mismo que una comprensión genuina".
Cuatro ideas del estudio que importan fuera del laboratorio
- Fluidez sin garantía. Los modelos pueden parecer fluidos y autorizados mientras producen información inexacta o inventada, lo que en la industria se conoce como alucinación.
- "Imperativo de respuesta". Los autores describen una tendencia a contestar siempre, aunque no haya una base confiable para hacerlo. A diferencia de una persona, el sistema rara vez dice "esto no lo sé".
- Falta de "sensibilidad de aula". Es la capacidad humana, aprendida en comunidad, de reconocer la propia incertidumbre y los límites de lo que uno sabe.
- Influencia en el entrenamiento. El proceso permite que intereses políticos, comerciales o ideológicos moldeen las respuestas, de modo que los autores piden mayor transparencia.
Conviene precisar lo que el estudio no dice. Los investigadores no sostienen que la herramienta sea inútil; insisten en entender sus límites antes de usarla en educación, salud o servicios públicos. Tampoco pudimos revisar aquí el texto completo, que está en la plataforma de la editorial; lo descrito proviene de la nota de Cardiff Met, de su ficha en el repositorio de la universidad y de la cobertura de prensa.
¿Qué tiene que ver Platón con un chatbot?
En el Fedro, Platón cuenta que el dios egipcio Theuth presenta la escritura al rey Thamus como remedio para la memoria y la sabiduría. El rey responde que ocurrirá lo contrario: quienes la usen dejarán de ejercitar la memoria y recibirán la apariencia de la sabiduría, no la sabiduría misma. Más adelante, Sócrates añade una imagen que parece escrita para nuestro tiempo: los textos parecen hablar como si pensaran, pero si uno les pregunta algo para entenderlo mejor, repiten siempre lo mismo, y circulan por igual entre quienes los comprenden y quienes no, sin saber a quién conviene hablar y a quién callar.
La obra funciona aquí como herramienta de análisis, no como adorno. Lo que el diálogo identifica en la escritura es lo que el estudio de 2026 identifica en los modelos: la forma del saber sin el vínculo con quien responde por él. Un texto, como un modelo, no distingue a su interlocutor ni puede decir "aquí me quedo corto". La diferencia es de grado: el modelo conversa y se adapta, lo que vuelve la apariencia mucho más persuasiva y, por eso, más riesgosa.
¿Qué cambia para las empresas y las instituciones?
La conclusión práctica no es renunciar a la IA, sino ponerla en el lugar correcto del proceso. Un modelo de lenguaje es muy bueno para redactar, resumir, proponer alternativas y explorar un tema. Es débil como autoridad final en cualquier decisión donde alguien deba rendir cuentas. Esa distinción es también la que ordena el marco de gobernanza que revisamos en nuestro análisis sobre la regulación de la IA en México: la responsabilidad no se transfiere a la herramienta.
Hay además una lección sobre el aprendizaje de las personas. Si el criterio se forma en comunidad, con maestros, pares y práctica supervisada, cualquier organización que automatice esos espacios sin reemplazarlos pierde justo lo que el modelo no puede suplir.
Implicaciones prácticas
Desde IPIA proponemos tres reglas sencillas para equipos que ya usan modelos de lenguaje:
- Un humano firma. Todo resultado que salga de la organización (un contrato, un informe, una respuesta a un cliente) debe tener una persona nombrada que lo revisó y responde por él.
- Verificar contra la fuente. Cifras, nombres, citas y referencias generados por IA se comprueban en el documento original antes de usarse. Es lo que hacemos en cada artículo de este blog.
- Premiar el "no sé". Diseñar los flujos de trabajo para que el sistema pueda abstenerse y escalar a una persona, en lugar de forzar siempre una respuesta.
Estos criterios forman parte de lo que se discute en el Executive MBA en Inteligencia Artificial y en los programas de IPIA Executive Solutions, donde el uso responsable de la IA se trata como una decisión de dirección, no como un tema técnico. Para otra mirada sobre la distancia entre lo que una inteligencia artificial hace y lo que "es", puede leer nuestro ensayo sobre Zima Blue.
Platón desconfiaba de que un texto supiera a quién hablarle. Veinticuatro siglos después la pregunta sigue siendo la misma, solo que ahora el texto contesta. Que conteste no lo hace responsable; esa parte seguimos siendo nosotros.
Preguntas frecuentes
¿Qué son las 13 debilidades de los modelos de lenguaje del estudio de 2026?
Son las fallas que Collins, Thorne, Evans y Newbury clasifican en su artículo de AI & Society, con una causa principal ligada a las fuentes de información. Su idea central es que estos sistemas carecen de la socialización y la educación con que las personas desarrollan conocimiento y criterio.
¿Por qué ChatGPT inventa información con tanta seguridad?
Porque genera lenguaje convincente sin comprensión genuina. Los autores hablan de un "imperativo de respuesta": el sistema tiende a contestar aunque no tenga una base confiable, y rara vez reconoce sus límites.
¿Significa el estudio que no hay que usar IA generativa?
No. Los investigadores piden entender sus límites antes de usarla en educación, salud o servicios públicos. Es una herramienta valiosa para borradores y exploración, pero no una autoridad final.
¿Cómo usar un modelo de lenguaje en una empresa sin asumir riesgos innecesarios?
Con una persona que revise y firme cada resultado, verificación de datos y citas contra la fuente original, y flujos que permitan al sistema abstenerse y escalar a un humano.
Fuentes
- New research identifies fundamental weaknesses in AI language models — Cardiff Metropolitan University (3 de agosto de 2026)
- More Problems of Large Language Models in Comparison with Human Knowledge (Collins, Thorne, Evans y Newbury) — AI & Society (Springer) (2026)
- AI makes mistakes because of its lack of human knowledge, says report — Nation.Cymru
- Fedro (diálogo de Platón) — Wikipedia