REPORTAJE ESPECIAL LA DISCREPANCIA
En este reportaje, el lector encontrará una guía imprescindible para entender qué es realmente la IA generativa, en qué se diferencia de la IA tradicional y por qué su crecimiento acelerado exige nuevas competencias ciudadanas. El texto explica que los modelos generativos no “saben”, sino que predicen palabras plausibles, lo que les hace capaces de producir borradores brillantes pero también errores graves o “alucinaciones” que pueden pasar por verdaderas. Por eso, el doctor Rodríguez Agulló insiste en enseñar la IA como una “calculadora avanzada de texto”, nunca como una autoridad.
El reportaje detalla cómo distinguir usos de bajo riesgo (resúmenes, ideas, borradores) de usos de alto riesgo (sanidad, derecho, finanzas) donde la IA no puede sustituir el juicio experto. El lector encontrará métodos prácticos para preguntar bien: citar siempre una fuente fiable, contextualizar la tarea, aplicar cadenas de verificación, pedir al modelo que revise sus propias respuestas (step-back prompting) y desconfiar de datos demasiado concretos.
Se incluye además una lista de verificación básica, alineada con los marcos de alfabetización en IA de la UE y la UNESCO, que enseña a validar cualquier respuesta con fuentes externas y pensamiento crítico. El reportaje ofrece un apartado especial dedicado al ámbito sanitario, basado en el estudio de la Universidad de Plymouth, que propone un marco de competencias en IA para profesionales médicos inspirado en el modelo piramidal de Miller (saber, saber cómo, demostrar cómo y hacer).
Finalmente, se subraya la necesidad de políticas institucionales claras en hospitales, universidades y centros educativos: qué se puede hacer con IA, qué debe documentarse y cuándo es obligatorio un doble chequeo humano. Un reportaje imprescindible para comprender cómo usar la IA con rigor, seguridad y responsabilidad
Tipos de Inteligencia Artificial (IA):
La diferencia principal es que la IA es una categoría amplia para la inteligencia de las máquinas, mientras que la IA generativa es un subconjunto específico que crea contenido nuevo (texto, imágenes, etc.) a partir de los datos que ha aprendido. La IA tradicional (o no generativa) se enfoca en tareas como analizar datos, hacer predicciones o clasificar información existente, sin generar algo totalmente nuevo.
Límites de la IA generativa
La IA generativa está transformando diversos sectores al permitir la creación de nuevos contenidos, resolver problemas complejos y mejorar las interacciones entre humanos y ordenadores. Desde la generación de imágenes realistas y la redacción de textos coherentes hasta la composición musical y el desarrollo de soluciones innovadoras, la IA generativa está ampliando los límites de lo que la tecnología puede lograr.
Sin embargo, para aprovechar todo su potencial, es fundamental seguir las mejores prácticas que garanticen que estos sistemas de IA no solo sean eficaces y fiables, sino también éticos y responsable[1]. La clave es enseñar que la IA es una buena “calculadora avanzada de texto”, no una fuente de verdad, y dar a los nuevos usuarios un protocolo simple: formular bien la pregunta, contextualizar, verificar siempre y documentar lo que se hace.
Conceptos elementales
En la IA generativa, se predicen palabras plausibles a partir de patrones y puede “alucinar”: no “sabe” si algo es verdadero, solo si suena probable y se produce una «alucinación» cuando el modelo ofrece un resultado que parece plausible, pero que es incorrecto o carece de fundamento. Estas “alucinaciones” pueden ser intrínsecas (el modelo inventa contenido) o extrínsecas (el modelo tergiversa hechos existentes)[2].
Como no “sabe” si algo es verdadero, solo si suena probable, a la hora de utilizar IA generativa hay que distinguir claramente usos de bajo riesgo (borradores, resúmenes, lluvia de ideas) y alto riesgo (clínicos, legales, financieros) donde nunca debe sustituir el juicio experto ni las fuentes primarias.
¿Cómo preguntar de forma eficaz?
Una forma importante de preguntar es que en la pregunta cites una determinada fuente o publicación lo que ayudará a la IA a buscar sus respuestas a la pregunta en información real y fiable. Es decir, siempre mencionar una fuente confiable y relevante en tu pregunta[3].
En segundo lugar, utilice la cadena de verificación que es un método en el que se le pide a la IA que compruebe paso a paso los datos que proporciona. El «Step-Back Prompting» es una técnica por la que se pide a la IA que revise su respuesta anterior y se asegure de que es correcta. Al animar a la IA a dar un paso atrás y reevaluar lo que ha dicho, se le ayuda a detectar y corregir cualquier error. Este método es útil para mejorar la calidad y la fiabilidad generales de las respuestas de la IA.
“Nunca confiar sin verificar”: contrastar puntos clave con al menos una fuente fiable (guías clínicas, legislación, webs institucionales) y desconfiar especialmente de datos muy concretos (fechas, cifras, citas)[4].
Es conveniente usar una lista de verificación del resultado de la respuesta de la IA, p. e.:
- ¿Identifico claramente el propósito y el contexto de la tarea que pido?
- ¿He verificado los puntos críticos en fuentes externas fiables?
- ¿La respuesta es coherente con lo que ya sé y con otras fuentes independientes?
Este tipo de listas está en línea con marcos de “AI literacy” de la UE y UNESCO, que insisten en pensamiento crítico y verificación como competencias básicas[5].
Competencias para utilizar la IA en la asistencia sanitaria
En este aspecto es muy importante el artículo de la Universidad de Plymouth titulado “Avances en la alfabetización en IA en la educación médica: desarrollo de un marco de competencias en IA médica” donde se expresa que la integración de la inteligencia artificial (IA) en la asistencia sanitaria pone de relieve la necesidad de que los profesionales médicos desarrollen competencias en materia de IA. Si bien el marco de competencias en materia de IA de la UNESCO ofrece directrices generales, es amplio y carece de la especificidad necesaria para la educación médica. Este estudio propuso y validó un marco de competencias en materia de IA adaptado a los profesionales médicos, integrando el marco de IA de la UNESCO con el modelo piramidal de Miller que plantea un marco para evaluar la competencia clínica que organiza el desarrollo del profesional en cuatro niveles jerárquicos: saber, saber cómo, demostrar cómo y hacer.
Este estudio presenta un marco de competencias en IA para profesionales médicos, sentando las bases para el desarrollo de futuros planes de estudios. Ofrece ideas y pruebas para orientar el desarrollo de las competencias en IA de los profesionales médicos.
Y finalmente hay que establecer políticas explícitas a nivel de institución (hospital, universidad): qué se puede hacer con IA, qué hay que documentar, por ejemplo “se ha usado IA para redactar este texto” y cuándo es obligatorio el doble chequeo humano.
Para realizar este trabajo se ha consultado a Perplexity y Deepseek.
Resumen del trabajo realizado con Copilot:
El documento aborda cómo enseñar a nuevos usuarios a utilizar la IA generativa con garantías de veracidad. Se destacan varios puntos clave:
- Diferencias entre IA tradicional y generativa: La IA generativa es un subconjunto de la IA que crea contenido nuevo a partir de los datos aprendidos, a diferencia de la IA tradicional que se enfoca en analizar datos y hacer predicciones.
- Transformación de sectores: La IA generativa está revolucionando diversos sectores al permitir la creación de nuevos contenidos y mejorar las interacciones entre humanos y ordenadores. Esto incluye la generación de imágenes, redacción de textos, composición musical y desarrollo de soluciones innovadoras.
- Mejores prácticas: Para aprovechar el potencial de la IA generativa, es fundamental seguir prácticas que garanticen la eficacia, fiabilidad, ética y responsabilidad de estos sistemas. Se debe enseñar a los usuarios a formular bien las preguntas, contextualizar, verificar siempre y documentar lo que se hace.
- Alucinaciones en IA: La IA generativa puede producir «alucinaciones», ofreciendo resultados que parecen plausibles pero que son incorrectos o carecen de fundamento. Es crucial distinguir entre usos de bajo y alto riesgo, y nunca sustituir el juicio experto en áreas críticas como la clínica, legal o financiera.
- Formulación de preguntas: Es importante citar fuentes confiables en las preguntas y utilizar métodos como la cadena de verificación y el «Step-Back Prompting» para mejorar la calidad y fiabilidad de las respuestas de la IA.
- Competencias en IA: En el ámbito de la asistencia sanitaria, es esencial desarrollar competencias específicas en IA. Un estudio de la Universidad de Plymouth propone un marco de competencias adaptado a los profesionales médicos, integrando directrices generales de la UNESCO con un modelo piramidal para evaluar la competencia clínica.
- Políticas institucionales: Es necesario establecer políticas claras a nivel institucional sobre el uso de la IA, incluyendo la documentación del uso de IA en la redacción de textos y la obligatoriedad del doble chequeo humano en ciertos casos.
BIBLIOGRAFÍA
[1] Best Practices for Reliable and Ethical Generative AI. Taylor Karl / Wednesday, July 31, 2024. https://www.newhorizons.com/resources/blog/best-practices-for-generative-ai
[2]How do I reduce hallucinations in AI-generated responses? https://customgpt.ai/reduce-ai-hallucinations/
[3] What are AI Hallucinations? https://www.godofprompt.ai/blog/9-prompt-engineering-methods-to-reduce-hallucinations-proven-tips
[4] Best practices: Generative AI. https://privsec.harvard.edu/best-practices-generative-ai-community-members
[5] Artificial intelligence in education. https://www.unesco.org/en/digital-education/artificial-intelligence
- 18 de julio de 1936. El día que nunca debió existir
Le pareció que resonaba a lo lejos el galope de los cuatro jinetes apocalípticos atropellando a los humanos. Vio al mocetón brutal y membrado con la espada de la guerra, al arquero de sonrisa - Nuestros queridos amnistiadosEl acuerdo de futura financiación “singular” para Cataluña fue el resultado de una negociación entre socialistas y republicanos. Toda negociación requiere un proceso de exigencias y renuncias por las partes negociadoras. Se sabe a
- No dude: hijos de la transiciónSi le preguntan si es hijo de la Transición o nieto de la Guerra Civil que ahora hace 90 años que empezó, casi un siglo, responda que, de las dos cosas, pero que ahora
- El largo crepúsculo del capitalismoContempladas desde una perspectiva histórica, las últimas décadas de globalización neoliberal posiblemente serán consideradas algún día como el canto del cisne del capitalismo. Durante ese período, pareció alcanzar una segunda juventud con el hundimiento
- ¿Qué hicisteis aquel verano?“El deber de memoria es transfronterizo. Aquello que nosotros, franceses, quisimos para nuestros primos del otro lado del Canal de la Mancha nos define en el arco político hexagonal.” Es la certera reflexión de Alain Frachon,
