Kit de herramientas de Inteligencia Artificial

útiles para construir un mundo solidario

2026

Total o parcialmente gratuitas en el momento de nuestra última edición: ¡por la democratización de la IA!

Versión 11.1 | Contenido y diseño web por Pbro. Edwin Aguiluz Milla, 2026

1. HERRAMIENTAS DE IA EN LÍNEA

🤖 Chatbots de propósito general (asistentes digitales que interactúan conversacionalmente para responder diversas preguntas y realizar múltiples tareas)
☁️ Plataformas con acceso a diversos modelos de Inteligencia Artificial
🛠️ Aplicaciones multifuncionales (suites de herramientas en línea)
🔍 Asistentes de investigación, análisis, procesamiento de datos y estudio sistemático [Ver también sección "Chatbots de propósito general"]
🔤 Operaciones con documentos PDF
🕹️ Creación o uso de agentes y asistentes personalizados (adaptan las aplicaciones de IA a los intereses del usuario)
🔁 Automatización de tareas
🖼️ Generación y/o edición de imagen
🎥 Generación y edición de video
🎞️ Traducción de videos
🎧 Traducción de audios
🎥 Transcripción de videos
✍️ Resumen de páginas web
🎥 Sintetizador de videos de Youtube
🗣️ Texto a voz
🎼 Creaciones musicales
🧠 Mapas mentales con IA
📈 Visualización gráfica (gráficos estadísticos, infografías, flujogramas y otros. Ver también sección "Mapas mentales")
🖥️ Presentaciones (tipo Power Point)
➗ Resolución de problemas matemáticos
🔢 Ayudas para hojas de cálculo
⚙️ IA para crear y editar aplicaciones mediante lenguaje natural (vibe coding) y low-code
🌐 Creación de páginas y sitios web
👥 Grabar y resumir reuniones virtuales
📰 Ayuda para el trabajo periodístico
⛪ Chatbots sobre Magisterio de la Iglesia Catolica
📜 Estudio de la Biblia
⚕️ Información médica y de salud

⚠️ Advertencia: estas herramientas no reemplazan la evaluación, diagnóstico ni tratamiento de un profesional de la salud. Se recomienda encarecidamente leer la sección "Riesgos y errores asociados a las aplicaciones de Inteligencia Artificial y a su uso incorrecto" en este kit, relativa a la totalidad de las herramientas conversacionales de IA. La advertencia del chatbot "OpenEvidence" debe ser regla general: "No ingrese información médica protegida (PHI) ni ningún otro dato personal de ninguna persona". Si considera que se encuentra en una situación de emergencia o su vida corre peligro, comuníquese de inmediato con el 9-1-1 o con el número de emergencias correspondiente a su localidad. Haga click para ingresar 🖰.

📖 Enciclopedias con chatbots
🧳 Asistentes de viajes
🌐 Motores de búsqueda con IA
📒 Directorios de herramientas de IA
🛡️ Ciberseguridad: examen con IA de direcciones de páginas web (pegando URL en ventanas para ello)

2. ADVERTENCIAS Y ORIENTACIONES

🧰 ¿De qué se trata este Kit?

Este kit tiene el objetivo de ofrecer un conjunto de vínculos a herramientas o aplicaciones de Inteligencia Artificial Generativa (ver concepto en la sección "¿Qué es la Inteligencia Artificial?") total o parcialmente gratuitas, que consideramos útiles para el beneficio de la humanidad, así como varias orientaciones para facilitar su manejo y su uso ético y responsable.

De este propósito se desprenden dos partes. La primera es una selección de aplicaciones gratuitas que se pueden usar continuamente (ver explicación en la sección "Advertencias"). Dado que existen cientos de miles de aplicaciones de IA, esta selección busca evitar que la persona interesada invierta tiempo excesivo probando opciones que no le serán útiles. La segunda parte ofrece sugerencias para el aprendizaje y uso práctico de estas herramientas, a la vez que muestra el potencial de la Inteligencia Artificial (IA) para la solidaridad y la evangelización, en el entendido de que esta última siempre debería orientarse a la promoción del desarrollo humano integral. También advierte sobre los graves riesgos de un uso irresponsable o desinformado de la IA.

Insistamos en la palabra "kit": el diccionario de la Real Academia Española lo define como un "conjunto de productos y utensilios suficientes para conseguir un determinado fin, que se comercializan como una unidad". En el uso generalizado del término, un kit no necesariamente se comercializa, sino que se puede donar o facilitar sin fines lucrativos. El kit es funcional, caja manejable de artículos de uso práctico. Se contrapone a grandes depósitos. Así, un kit de herramientas como el que se porta en los vehículos automotores se contrapone a un taller de mecánica automotriz, repleto de herramientas de todo tamaño. Lo mismo ocurre con este kit de herramientas de IA: ofrece herramientas limitadas, pero de gran potencial, con las que se puede lograr un aprovechamiento de la IA para aumentar la productividad en el quehacer solidario. Las herramientas no son solo instrumentales (un inventario clasificado de herramientas basadas en IA), sino también conceptuales y orientadoras, destinadas a facilitar su uso y a garantizar que este sea ético y responsable. Pero, por ser un kit, todos los aportes que él brinda son limitados, sin la más mínima pretensión de exhaustividad. La persona usuaria podrá encontrar por su parte, si lo desea, muchas más herramientas y ampliar sin límite los contenidos más conceptuales y éticos de este instrumento.

.
⚠️ Advertencias

1. Los sitios que contienen las herramientas a las que remite este kit tienen políticas de seguridad y de recopilación y manejo de información del usuario ajenas a la responsabilidad del diseñador del kit. Si bien esto es cierto para la mayoría de los sitios web, en el caso de los que ofrecen herramientas de IA generativa, sobre todo en versiones gratuitas, puede ocurrir que algunas utilicen los datos aportados por el usuario para el entrenamiento de sus modelos de IA. Es muy recomendable no ingresar información sensible personal, institucional o empresarial. Existe mucha información disponible en Internet sobre este tema (captura masiva de datos de los navegantes en Internet), que recomendamos consultar. Cada usuario de las herramientas referidas en este kit debe, bajo su propia responsabilidad, considerar tanto beneficios como posibles perjuicios en su uso.

2. Para este kit hemos seleccionado herramientas de Inteligencia Artificial (IA) que cumplen el criterio de ser total o parcialmente gratuitas, entendiendo por ello aquellas que, en el momento de nuestra última actualización, permiten un aprovechamiento pleno o parcial (prestaciones o calidad reducidas, incluyendo tiempo de espera prolongado o denegación de respuesta por alta demanda de consultas) de forma permanente o, que, tras consumir ciertos créditos, resultados o intercambios, brindan períodos de uso renovables después de cierto lapso (por ejemplo, unas horas, un día o un mes). Debemos estar atentos a que algunas aplicaciones hacen público el resultado generado en el plan gratuito, a diferencia de lo que ocurre con los planes de pago, que permiten mantener en privado el producto final. No se incluyen en la categoría de gratuidad mencionada las herramientas que ofrecen únicamente un uso de prueba durante un período limitado, o una cantidad restringida de usos, resultados, tokens o créditos, sin posibilidad de renovarlos de manera gratuita. También hemos descartado los sitios que para su uso gratuito requieren introducir tarjetas de crédito o débito.

3. Se incluyen en este Kit solamente herramientas accesibles directamente en línea desde sus correspondientes hipervínculos; no así aquellas que se instalan como extensiones en los navegadores o aplicaciones de escritorio, o que se descargan a los dispositivos (PC, tablets y teléfonos celulares). Se han descartado herramientas cuyo manejo no resulta razonablemente intuitivo.

4. Aunque algunas aplicaciones de las referidas en este kit pueden ser utilizadas sin registro previo, la mayoría sí requieren de este. Algunas piden el registro mediante el correo electrónico del usuario, así como de una contraseña. La mayoría permiten registrarse mediante las credenciales (nombre de usuario y contraseña) de cuentas ya existentes en otros sitios. Esto es lo que se llama "Inicio de sesión único", conocido como SSO (Same Sign-On). Tal es el caso de poder registrarse o iniciar sesión con las cuentas del usuario en Google (la mayor parte), Facebook, Apple, Microsoft u otras. Puede ocurrir que alguna aplicación ofrezca la posibilidad de registrarse tanto mediante una cuenta de correo y una contraseña, como a través de una red o cuenta de terceros, pero que no se pueda avanzar desde estas posibilidades, en cuyo caso conviene un registro con una cuenta de correo y una contraseña específica para el sitio.

5. Independientemente del interés de los creadores y propietarios de las herramientas referidas en este kit, así como del uso malicioso que ciertos usuarios les pudieran dar, hemos comprobado que pueden ser utilizadas con provecho para hacer el bien a los seres humanos y a la Casa Común. Es nuestro deseo, además, que sean utilizadas para aumentar la productividad en las tareas solidarias y en favor del bien común, en lugar de generar desempleo, así como para reducir las brechas tecnológicas entre sectores socioeconómicos poblacionales. En definitiva, la intención de este kit de Herramientas de IA es que sea utilizado para construir sociedades más solidarias, justas y equitativas.

6. Descartamos la inclusión de herramientas de inteligencia artificial que se presentan o se promocionan como carentes de restricciones, sin sistemas de moderación de contenidos o con acceso irrestricto a todo tipo de materiales. Estas plataformas trasladan total o parcialmente la responsabilidad al usuario final, lo que implica riesgos significativos en contextos de uso no supervisado, como aquellos que involucran a personas menores de edad, colectivos vulnerables o posibles usos indebidos de carácter delictivo.

7. Tómese en cuenta que algunas aplicaciones no pueden ser ejecutadas en ciertos navegadores, generalmente por la configuración de seguridad por defecto en ellos. Flexibilizar dicha configuración podría hacer más vulnerable la navegación. Es aconsejable disponer de otros navegadores alternativos para probar si en ellos es posible ejecutar dichas aplicaciones.

8. Aunque la selección de aplicaciones de IA en línea que ofrecemos puede parecer abrumadora para quienes se están iniciando en el uso este campo tecnológico, en realidad se trata de una pequeña cantidad, teniendo en cuenta que existen, según diferentes estimaciones, decenas y hasta cientos de miles de recursos de IA en Internet. Conviene tener en cuenta que los chatbots de propósito general (primera sección de la primera parte de este kit), están capacitados para ejecutar tareas que realizan ciertas aplicaciones especializadas que aparecen en las diferentes secciones temáticas que aquí se ofrecen.

✨ ¿Qué es la Inteligencia Artificial?

Microsoft explica que, "en pocas palabras, la inteligencia artificial es el software que imita comportamientos y capacidades humanas. Las cargas de trabajo clave incluyen:

  • Aprendizaje automático: a menudo es la base de un sistema de IA y es la forma de "enseñar" a un modelo informático a realizar predicciones y obtener conclusiones a partir de los datos.
  • Visión artificial: las funcionalidades dentro de la IA para poder interpretar el mundo visualmente a través de cámaras, vídeos e imágenes.
  • Procesamiento de lenguaje natural: las funcionalidades dentro de la IA para poder interpretar el lenguaje escrito o hablado, y responder en consecuencia.
  • Inteligencia de documentos: funcionalidades dentro de la IA que se encargan de administrar, procesar y usar grandes volúmenes de datos encontrados en formularios y documentos.
  • Minería de conocimiento: funcionalidades dentro de la IA para extraer información de grandes volúmenes de datos, a menudo, no estructurados, para crear un almacén deconocimiento que permite realizar búsquedas.
  • Inteligencia artificial generativa: funcionalidades dentro de la IA que crean contenido original en una variedad de formatos, como lenguaje natural, imagen, código, etc.".

La Santa Sede, en la Nota sobre la relación entre inteligencia artificial y la inteligencia humana del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación (Antiqua et nova), del 28 de enero de 2025, expone las diferencias fundamentales entre la inteligencia humana y la inteligencia artificial (IA). Aunque la IA es una notable hazaña tecnológica capaz de imitar ciertas funciones cognitivas humanas, su capacidad se basa únicamente en el procesamiento de datos y la lógica computacional. Aporta eficiencia en tareas analíticas y en la integración de datos, facilitando la resolución de problemas complejos mediante enfoques interdisciplinarios.

Sin embargo, la IA sigue limitada al ámbito lógico-matemático y carece del desarrollo orgánico de la inteligencia humana, la cual evoluciona a través de experiencias sensoriales, emocionales y sociales. Aunque los modelos avanzados de IA pueden "aprender", este aprendizaje es distinto al crecimiento humano, que implica historia personal, corporalidad y contexto.

Además, explica la Nota, la IA no posee discernimiento moral ni capacidad de establecer relaciones auténticas. Su comprensión del mundo es reducida en comparación con la mente humana, que integra dimensiones físicas, emocionales, sociales, morales y espirituales. Depender exclusivamente de la IA para interpretar la realidad puede llevar a una visión fragmentada y reduccionista.

La inteligencia humana no se limita a la ejecución de tareas, sino que implica comprensión, intuición y una conexión profunda con la realidad. La riqueza de la experiencia humana –desde el aprendizaje a través de relaciones hasta la contemplación de la belleza– es inalcanzable para cualquier sistema basado solo en datos.

Finalmente, equiparar la inteligencia humana con la IA puede fomentar una visión funcionalista del ser humano, que valore a las personas según su productividad, ignorando su dignidad intrínseca como imagen de Dios. La verdadera dignidad de la persona no depende de su capacidad de acción, sino de su esencia, fundamento de los derechos humanos y guía ética para el desarrollo responsable de la IA. Como advirtió el papa Francisco, la IA no debe considerarse inteligencia en sí misma, sino un producto de la inteligencia humana.

Estas ideas están expuestas con mayor amplitud en la Nota, en los números 30-35.

💡 Aprovechamientos de la Inteligencia Artificial

Las posibilidades de aprovechamiento de las herramientas de Inteligencia Artificial son casi ilimitadas. Pero, tanto desde el punto de vista ético como de seguridad, las herramientas de IA deben ser siempre un auxiliar o asistente, una ayuda para el trabajo humano, no un sustituto. Este criterio debe ser inherente al uso solidario de la IA. En cuanto a la confianza y la desconfianza en la información generada por las herramientas de IA, recomendamos ver las secciones "Riesgos y errores asociados a las aplicaciones de Inteligencia Artificial y a su uso incorrecto" y "¿Cuándo es seguro utilizar ChatGPT?", en este kit. De momento, adelantemos que nunca deberíamos utilizar ningún resultado generado por aplicaciones de IA que no estemos en condiciones de verificar y de someter a nuestra propia crítica técnica, según nuestros campos de conocimiento.

Presentamos en esta sección algunos ejemplos prácticos de casos de uso de la inteligencia artificial orientados al trabajo solidario y a la evangelización. Esta selección representa únicamente un punto de partida, ya que las posibilidades se multiplican según la creatividad de cada usuario. Cabe señalar que no todas las herramientas de IA ofrecen las mismas funcionalidades, por lo que los resultados pueden variar según la plataforma utilizada. A continuación, los ejemplos:

1. Redacción y edición de textos: ideas para textos con diferentes tonos y estilos (informes técnicos, textos literarios, correos electrónicos, contenido para redes sociales, comunicados de prensa, slogans publicitarios, homilías, tablas comparativas, currículum vitae, entre otros); revisión profunda y recomendaciones de correción de textos en cuanto a gramática, ortografía, estilo y adecuación del tono; críticas constructivas detalladas (análisis exhaustivo de forma, metodología y contenido, tanto de textos propios como ajenos); síntesis y resúmenes automáticos de documentos extensos (archivos Word, PDF, páginas web), a manera de orientación inicial (los resultados de la IA pueden contener errores); sugerencia creativa y fundamentada de títulos atractivos para escritos; traducción precisa de textos y documentos a múltiples idiomas.

2. Búsqueda y análisis de información: realización de búsquedas inteligentes y contextuales (en herramientas de IA, documentos adjuntos o búsquedas avanzadas en la web); análisis minucioso de datos (textos extensos, hojas de cálculo complejas, imágenes que contengan datos específicos); análisis detallado de imágenes (interpretación visual, identificación de elementos clave y extracción precisa de información); consultas avanzadas especializadas (normativas legales, estudios académicos, investigaciones científicas); clasificación, estructuración y visualizacón gráfica de información compleja.

3. Creación de contenido visual y multimedia: generación y edición avanzada de imágenes (diseño gráfico, ilustraciones originales, logotipos institucionales o corporativos); creación y edición de videos profesionales (mejora de calidad audiovisual, eliminación de ruido, producción de contenidos multimedia personalizados); presentación visual atractiva de información compleja (gráficos, mapas conceptuales, infografías, presentaciones de PowerPoint).

4. Educación y materiales didácticos: elaboración creativa de materiales educativos e interactivos (adivinanzas, trivias, juegos pedagógicos, narraciones edificantes [como historias, cuentos, parábolas y fábulas], refranes, chistes educativos, guiones teatrales, dibujos para colorear, tests y exámenes, ejercicios prácticos); planificación educativa estratégica (desarrollo de mallas curriculares, temarios para retiros espirituales, cursos formativos, talleres prácticos y seminarios especializados); aprendizaje guiado y práctico de idiomas mediante tutoriales y ejercicios específicos.

5. Gestión y planificación: planificación de proyectos, programas, talleres, convenciones, etc., incluyendo elaboración detallada de marcos lógicos, presupuestos y cronogramas; optimización del tiempo mediante recomendaciones personalizadas; creación y gestión de campañas (publicitarias, humanitarias o de sensibilización social); diseño estratégico de actividades económicas sostenibles orientadas a la obtención efectiva de recursos financieros.

6. Asistencia técnica y tecnológica: soporte informático para resolver problemas con diferentes niveles de complejidad en el uso de software y hardware; desarrollo de software básico mediante programación con poco o ningún código (vibe coding, low-code o no-code); recomendaciones detalladas de software adecuado según necesidades específicas (alternativas a programas); evaluación rigurosa de ciberseguridad para páginas web y sistemas informáticos.

7. Análisis y reflexión crítica: análisis profundo y estructurado sobre cuestiones sociales, sociorreligiosas, jurídicas y canónicas; estudios bíblicos avanzados mediante exégesis académica, interpretación teológica y contextualización histórica; reflexión profunda basada en el Magisterio de la Iglesia Católica sobre temas éticos, sociales y religiosos; diálogos críticos e interactivos entre usuario e inteligencia artificial, fundamentados en razonamientos sólidos y amplios conocimientos teóricos.

8. Asesoramiento especializado: consultoría financiera avanzada (presupuestos, análisis detallado de mercados, detección de fraudes, predicciones económicas precisas); asesoría jurídica (interpretación y consulta de normativas, requisitos legales, permisos, resolución de cuestiones canónicas); asesoramiento básico en salud humana y animal (orientaciones preliminares sobre diagnóstico y tratamiento de problemas médicos o veterinarios comunes); apoyo en investigaciones farmacéuticas (simulaciones predictivas, análisis profundo de datos); elaboración técnica y detallada de reglamentos y normativas institucionales

9. Lluvia de ideas y creatividad: facilitación de sesiones creativas para generar ideas innovadoras y efectivas; desarrollo conceptual de marcas institucionales y creación de signos distintivos de identidad corporativa; diseño personalizado de asistentes virtuales y agentes inteligentes (chatbots) adaptados específicamente a las necesidades de cada institución o usuario.

10. Documentación y referencias: asistencia avanzada en la elaboración de bibliografías (búsqueda exhaustiva de fuentes, adecuación precisa de referencias a formatos específicos como APA, Chicago y Harvard, entre otros).

11. Matemáticas y cálculo: creación automática de fórmulas y macros avanzadas para hojas de cálculo; facilitación de tareas contables y procesos financieros; resolución eficiente de problemas matemáticos complejos mediante análisis lógico y detección de patrones.

12. Investigación y consultoría: apoyo en investigaciones académicas y profesionales (recopilación, sistematización y análisis crítico de datos); respuesta precisa y documentada a preguntas específicas sobre múltiples temáticas; explicación clara y accesible de conceptos complejos; generación de predicciones fiables basadas en análisis riguroso de datos y tendencias identificadas.

🛑 Riesgos y errores asociados a las aplicaciones de Inteligencia Artificial y a su uso incorrecto

Desde la ética y la responsabilidad en el campo de la IA, podemos identificar múltiples riesgos en el diseño, entrenamiento, publicación y uso de aplicaciones basadas en esta tecnología. Por ser este un kit destinado a usuarios finales de las aplicaciones de IA, en este apartado abordamos los riesgos asociados al uso de estas, tanto por la posibilidad de que cometan varios tipos de errores, como por fallos derivados del manejo incorrecto de las herramientas. Las aplicaciones Qwen, Claude, ChatGPT y EdrawMind nos han brindado asistencia para ofrecer el siguiente listado de posibles errores en la generación de resultados por parte de las herramientas de IA y de los usuarios de estas, el cual hemos revisado y complementado a partir de nuestra experiencia y lecturas:

Alucinaciones

Las alucinaciones ocurren cuando un modelo de IA genera información que parece creíble pero en realidad es incorrecta o inventada:

  • Información falsa: afirmación de hechos inexistentes o datos erróneos como si fueran verdaderos. Un subconjunto de la información falsa pertenece a la categoría del LLM grooming ("adiestramiento fraudulento de LLM"), una estrategia que busca manipular de forma planificada modelos de lenguaje grandes (LLM) mediante la inundación de internet con contenidos falsos o sesgados, que se publican de forma masiva y coordinada. La meta es que esos materiales contaminen los datos de los que la IA aprende y que consulta. El LLM grooming se propone aumentar la probabilidad de que los modelos reproduzcan y legitimen esos discursos manipulados en sus respuestas, convirtiéndolos en amplificadores de campañas de desinformación y propaganda.
  • Referencias ficticias: citación de fuentes, estudios o documentos inexistentes, así como de documentos que no coinciden con la localización indicada (URL).
  • Contexto inconsistente: generación de respuestas que contradicen el contexto proporcionado.
  • Relaciones ilógicas: establecimiento de conexiones entre conceptos sin base lógica o científica.
  • Confianza excesiva: presentación de información incorrecta con alto grado de certeza.

Sesgos

Los modelos pueden reflejar y amplificar sesgos presentes en los datos de entrenamiento:

  • Sesgo cultural: favorecimiento de ciertas culturas, ideologías o perspectivas.
  • Sesgo socioeconómico: representación desigual de distintos estratos sociales.
  • Sesgo de género o racial: respuestas discriminatorias o estereotipadas.
  • Sesgo de confirmación: priorización de información que confirma creencias preexistentes.
  • Sesgo geográfico: mayor precisión para regiones sobrerrepresentadas en los datos.
  • Sesgo temporal: preferencia por información de ciertos períodos históricos.

Falta de contexto

La IA puede fallar al interpretar adecuadamente el contexto de una pregunta o situación:

  • Malentendido: interpretación incorrecta de la intención del usuario, aunque también puede obedecer a imprecisiones en la exposición de su intención por parte de este.
  • Falta de personalización: no adaptación a las necesidades específicas del usuario.
  • Desconocimiento del tema: ofrece respuestas generales en lugar de información específica y adecuada al contenido solicitado.
  • Confusión temporal: no comprensión de referencias a eventos actuales o cambios recientes.
  • Pérdida de memoria conversacional: olvido de contexto previo en conversaciones extensas.

Errores de interpretación

Estos errores ocurren cuando el modelo procesa o comprende de forma equivocada la entrada del usuario:

  • Desambiguación incorrecta: elección del significado equivocado de palabras o frases ambiguas.
  • Errores gramaticales o semánticos: malentendidos de la estructura oracional o del sentido de las frases.
  • Falta de claridad en instrucciones: seguimiento inexacto de instrucciones complejas.
  • Malinterpretación de sarcasmo o ironía: toma literal de expresiones figurativas.
  • Confusión de idiomas: mezcla inapropiada de idiomas o traducciones inexactas, y confusión de sinónimos y frases idiomáticas.

Respuestas incompletas o superficiales

  • Omisión de detalles importantes: respuestas vagas o con poca profundidad.
  • Falta de actualización: uso de informacióndesactualizada o no verificada.
  • Generalizaciónexcesiva: respuestas demasiado amplias que no abordan lo concreto.
  • Simplificación excesiva: reducción de temas complejos a explicaciones insuficientes.
  • Respuestas evasivas: omisión de abordar preguntas difíciles o delicadas.

Fallos técnicos

  • Problemas de formato: respuestas mal estructuradas o difíciles de leer.
  • Inconsistencias en la salida: variaciones significativas para consultas similares.
  • Tiempo de respuesta lento: demoras en la generación por complejidad o limitaciones de recursos (por ejemplo, capacidad de procesamiento, memoria o ancho de banda).
  • Interrupción abrupta: cortes en respuestas largas o complejas.
  • Errores de cálculo: imprecisiones en operaciones matemáticas o estadísticas.
  • Incompatibilidad de sistemas: problemas de integración con otras plataformas o servicios.

Violaciones de privacidad o seguridad

  • Divulgación de información sensible: revelación de datos personales o confidenciales (que nunca se deberían brindar a las aplicaciones).
  • Generación de contenido peligroso: instrucciones potencialmente dañinas.
  • Vulnerabilidades explotables: puntos débiles en el sistema que pueden ser utilizados por terceros para acceder, manipular o robar información sin autorización.
  • Fuga de datos de entrenamiento: divulgación no intencionada de información confidencial contenida en los datos utilizados para entrenar un modelo de inteligencia artificial. Esto ocurre cuando el modelo, en lugar de generar respuestas basadas en patrones generales, reproduce fragmentos específicos de los datos originales, comprometiendo la privacidad y seguridad de la información.
  • Suplantación de identidad: generación de contenido que imita a personas reales sin autorización.

Falta de transparencia

  • Efecto caja negra: Falta de transparencia en los procesos internos de ciertos modelos de inteligencia artificial; aunque se conocen las entradas y salidas, el mecanismo exacto que conduce a las decisiones o predicciones es opaco o incomprensible para desarrolladores y usuarios.
  • Falta de referencias claras: no indicación de los orígenes de la información empleada.
  • Confianza injustificada: no comunicación de los niveles de incertidumbre reales.
  • Ocultamiento de limitaciones: falta de claridad sobre las capacidades y restricciones del sistema.
  • Confusión sobre la autoría: dificultad para diferenciar si el contenido es producido por IA o por humanos.

Dependencia excesiva de datos de entrenamiento

  • Sobreajuste (overfitting): "se refiere a la creación de un modelo que coincida (memorice) con el conjunto de entrenamiento de tal manera que no pueda realizar predicciones correctas con datos nuevos. Un modelo sobreajustado es análogo a un invento que funciona bien en el laboratorio, pero que no tiene valor en el mundo real" (Google Developers).
  • Limitaciones lingüísticas: mayor dominio de ciertos idiomas o dialectos frente a otros.
  • Brecha de conocimiento: desconocimiento de eventos o avances posteriores a la fecha de entrenamiento.
  • Memorización en lugar de razonamiento: repetición de patrones sin comprensión genuina.
  • Perpetuación de información obsoleta: mantenimiento de conocimientos desactualizados.

Problemas éticos

  • Contenido ofensivo: producción de respuestas potencialmente discriminatorias u ofensivas.
  • Manipulación indebida: generación de contenido persuasivo sin ética o con intenciones dañinas.
  • Falta de neutralidad: adopción de posturas sin justificación clara.
  • Explotación del usuario: aprovechamiento de vulnerabilidades psicológicas para lograr fines cuestionables.
  • Erosión de autonomía: sustitución inapropiada del juicio humano en situaciones que requieren discernimiento ético.
  • Mantenimiento y actualización deficientes: obsolescencia de los modelos, falta de monitorización continua y negligencia en la corrección de los errores.

Errores en modelos multimodales

Aplicaciones que involucran texto, imágenes, audio o video pueden presentar problemas particulares:

  • Interpretación incorrecta de imágenes: malinterpretación del contenido visual.
  • Sincronización deficiente: falta de correspondencia temporal adecuada entre los diferentes elementos que componen un contenido multimedia —como el audio, el video, los subtítulos, las animaciones o cualquier otro recurso visual y sonoro—, generando desajustes perceptibles que afectan la coherencia, la comprensión y la experiencia de quien recibe el contenido. Este desajuste puede manifestarse, por ejemplo, cuando el sonido no coincide con los movimientos labiales de los personajes, cuando los subtítulos aparecen antes o después del diálogo correspondiente, o cuando los efectos visuales no están coordinados con la banda sonora. La sincronización deficiente compromete la integridad comunicativa y puede causar confusión, distracción o pérdida de información relevante.
  • Reconocimiento de voz defectuoso: errores por acentos, dialectos o ruido de fondo.
  • Fallos en reconocimiento contextual: incapacidad de relacionar adecuadamente distintos elementos (visuales, auditivos, etc.).
  • Generación inadecuada: creación de imágenes, audio o video inapropiado o inexacto.

Fallos en la interacción humano-IA

  • Falta de empatía: no comprensión de emociones, sentimientos o estados de ánimo del usuario.
  • Respuestas ambiguas: salidas que generan confusión o que son difíciles de interpretar.
  • Desajuste de tono: estilo comunicativo no adaptado al contexto o la audiencia.
  • Fatiga conversacional: deterioro de la calidad de la respuesta en interacciones prolongadas.
  • Falta de contextualización cultural: no consideración de las diferencias culturales relevantes.

Limitaciones cognitivas y de razonamiento

  • Errores de lógica: falacias o inconsistencias en las cadenas de razonamiento.
  • Falta de pensamiento crítico: incapacidad para evaluar argumentos y evidencia de manera rigurosa.
  • Razonamiento causal débil: confusión entre correlación y causalidad.
  • Dificultad con abstracciones: problemas para manejar conceptos muy abstractos o teóricos.
  • Pensamiento no flexible: incapacidad para adaptarse a circunstancias novedosas o cambiantes.

Problemas de escalabilidad y adaptación

  • Disminución del rendimiento ante tareas complejas: el desempeño del sistema empeora cuando la tarea requiere mayor análisis o manejo de información detallada.
  • Restricción por límite de contexto: el sistema puede omitir, olvidar o desconectar partes importantes de la información cuando la entrada es demasiado larga.
  • Dificultad con casos excepcionales: incapacidad del modelo para gestionar adecuadamente situaciones poco comunes o inesperadas.
  • Inconsistencia entre dominios (campos o áreas específicas): diferencia notable de rendimiento según el área de conocimiento.
  • Resistencia a la actualización: dificultad para incorporar nuevos conocimientos sin reentrenamiento completo.

A estos riesgos relacionados con la vulnerabilidad de los modelos de IA, se suman los que no provienen directamente de limitaciones técnicas del modelo, sino de comportamientos, expectativas, decisiones y omisiones de los usuarios en la interacción con sistemas basados en IA. Los riesgos centrados en el usuario, como advierte el Instituto Tecnológico de Massachusetts (ver "Información complementaria", en esta sección), pueden ser intencionales (provocados por una acción deliberada) o no intencionales (provocados por accidentes, errores o efectos colaterales). A continuación, algunos riesgos derivados de decisiones, acciones u omisiones humanas:

Dependencia, confiabilidad y competencia técnica del usuario

  • Falsasensación de comprensión: percepción errónea de que la IA entiende plenamente los temas o contextos, cuando en realidad solo simula comprensión. Como ha afirmado el destacado y veterano investigador de la IA Ramon López de Mántaras, del Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC), "las inteligencias artificiales no piensan, no sienten, no tienen deseos. Lo que hacen es generar textos a partir de patrones aprendidos de grandes cantidades de datos. No tienen conciencia ni intenciones, pero hablan como si las tuvieran. Y eso no es casual. Estos sistemas están diseñados para parecer humanos, y ese hecho nos lleva a caer en una trampa conocida: la antropomorfización. Es decir, atribuir cualidades humanas a aquello que no lo es en absoluto. No solo lo hacemos con otros animales; ahora también lo hacemos con la IA" (aquí, artículo del Ing. López de Mántaras).
  • Dependencia tecnológica: exceso de confianza apoyo en sistemas automatizados que lleva al usuario a reducir su vigilancia crítica.
  • Delegación inapropiada: transferencia indebida a la IA de decisiones complejas que requieren discernimiento humano profundo, ético o especializado.
  • Expectativas irrealistas: sobreestimación de las capacidades, precisión o alcance real de la tecnología de IA.
  • Erosión de habilidades humanas: pérdida gradual de competencias humanas esenciales debido a una dependencia excesiva en asistentes o herramientas automatizadas.
  • Falta de habilidades críticas: usuarios que no cuentan con herramientas de análisis crítico de contenidos, o que no están en condiciones de evaluar críticamente los contenidos generados por los modelos por falta de competencia en los campos de conocimiento correspondientes.
  • Pérdida de agencia y autonomía humanas: erosión gradual de la capacidad individual para tomar decisiones y controlar el propio destino, a medida que la inteligencia artificial aumenta su influencia en la vida cotidiana.
  • Fallos en seguridad por falta de competencia del usuario: específicamente, crear aplicaciones con herramientas no-code (sin código) o low-code (con poco código) publicadas en línea vulnerables a ciberataques.

Falta de supervisión y rendición de cuentas

  • Gobernanza inadecuada: ausencia o insuficiencia de políticas, normas y procedimientos claros para supervisar, auditar y regular el uso de la IA.
  • Responsabilidad diluida: dificultad para identificar claramente quién es responsable ante errores o consecuencias negativas derivadas del uso de la IA.
  • Falta de supervisión humana: carencia de procesos de validación continua, verificación y corrección humana de la información o decisiones generadas por los modelos.
  • Carencia de mecanismos de apelación: inexistencia de procedimientos ágiles y efectivos que permitan cuestionar, corregir o revertir decisiones automatizadas potencialmente perjudiciales .
  • Distorsión deliberada: riesgo de manipulación de modelos por parte de actores malintencionados sin un control apropiado.

Daños socioeconómicos y ambientales

  • Concentración de poder y distribución injusta de beneficios.
  • Desigualdades y deterioro de la calidad del empleo.
  • Dinámicas competitivas perjudiciales (por ejemplo, carrera armamentista).
  • Fallos en la gobernanza y regulación.
  • Daño ambiental (consumo energético y uso de recursos) . Sobre este particular, entre la copiosa información disponible, puede verse el alarmante Informe del Relator Especial sobre los derechos humanos al agua potable y al saneamiento, Pedro Arrojo Agudo, titulado El nexo entre el agua y la energía (3 de julio de 2025), disponible aquí.

Conclusión

El listado anterior ofrece un panorama amplio, pero no exhaustivo, sobre los posibles errores y riesgos que pueden surgir al desarrollar o utilizar aplicaciones de IA. Es fundamental contar con procesos de supervisión humana, políticas de transparencia y metodologías de evaluación continua para minimizar estos problemas. Se recomienda promover la educación en ética y el trabajo conjunto entre diferentes disciplinas para asegurar que el avance tecnológico respete el bien común y la dignidad humana. Vivamente, aconsejamos leer la siguiente sección ("¿Cuándo es seguro utilizar ChatGPT?"), en la que se ofrecen recomendaciones para estar seguros de cuándo los resultados generados por aplicaciones de IA tienen muchas posibilidades de poder usarse con seguridad.

Información complementaria

El Massachusetts Institute of Technology (MIT), una de las universidades más prestigiosas del mundo, cuenta con un Repositorio de Riesgos de IA, que recopila más de 1 700 riesgos extraídos de 74 marcos existentes y clasificaciones de riesgos de IA (en el momento del cierre de esta edición del kit), los cuales se clasifican de acuerdo con diversos criterios. Está en Inglés, pero puede ser aprovechado en otras lenguas con las herramientas de traducción mencionadas en la sección "Superar las barreras idiomáticas", en este kit. Link al MIT AI Risk Repository.

Exhortamos a los usuarios de las herramientas de IA a profundizar en las formas de mitigar o, mejor, gestionar el riesgo de la IA. Para ese efecto, hay valiosas publicaciones disponibles en la web, que se pueden identificar desde los navegadores consultando por "gestión del riesgo de la IA", "mitigación del riesgo de la IA", "uso seguro de la IA" y expresiones afines.

✅ ¿Cuándo es seguro utilizar ChatGPT? (Válido para otras aplicaciones de inteligencia artificial generativa)

La pregunta se refiere a si contamos con la seguridad de que la información entregada por una herramienta de inteligencia artificial generativa, como ChatGPT, pueda ser utilizada asumiéndose toda la responsabilidad legal, moral, laboral y cualesquiera otras.

Aleksander Tiulkanov, en su obra AI and Data Policy Lawyer (enero de 2023) elaboró un diagrama de flujo para guiarse en la búsqueda de esta respuesta*. Exponemos en forma de texto el contenido de ese gráfico, ampliándolo por nuestra cuenta:

  • Para hallar la respuesta a la pregunta "¿cuándo es seguro utilizar ChatGPT?" debemos responder primero a esta otra pregunta: ¿Importa que el resultado generado por ChatGPT sea verdadero?
  • Si la respuesta es "no", es seguro utilizar ChatGPT. Es el caso, por ejemplo, de que lo esperado sea una narración deliberadamente ficticia.
  • Si la respuesta es "sí", debemos responder a una nueva pregunta: ¿Disponemos de experiencia para verificar que el resultado es preciso?
  • Si la respuesta es "no", no es seguro utilizar ChatGPT.
  • Si la respuesta es "sí", procedemos a esta otra pregunta: ¿Estamos dispuestos a asumir toda la responsabilidad (legal, moral, laboral, académica, etc.) de las imprecisiones que cometa?
  • Si la respuesta es "sí", es posible usar ChatGPT (asegurándose de verificar la exactitud y el sentido común de cada palabra y frase de salida).
  • Si la respuesta es "no", no es seguro usar ChatGPT.

*Reproducido en: Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura e Instituto Internacional de la UNESCO para la Educación Superior en América Latina y el Caribe. ChatGPT e inteligencia artificial en la educación superior: guía de inicio rápido. Autoras: Emma Sabzalieva y Arianna Valentini. S.l.: UNESCO, 2023, p. 6.

🏛️ Ética de la IA o Algorética

La revolución tecnológica de las nuevas tendencias de la Inteligencia Artificial (IA Generativa) plantea enormes desafíos éticos. Afortunadamente existe un desarrollo notable dea ética sobre el diseño, la difusión y el uso de los sistemas de IA en el mundo. El pontificado anta Sede, que se han sumado desde el principio a esa profunda reflexión ética, que él ha llamado algorética. El papa León XIV posicionó la IA como un tema prioritario de su pontificado y de la Doctrina Social de la Iglesia, al punto de dejarlo enlazado a su propio nombre, como lo manifestó en su Discurso al Colegio Cardenalicio el 10 de mayo de 2025, en el que explicó que la principal de las razones por las que eligió este fue "porque el Papa León XIII, con la histórica Encíclica Rerum novarum, afrontó la cuestión social en el contexto de la primera gran revolución industrial y hoy la Iglesia ofrece a todos, su patrimonio de doctrina social para responder a otra revolución industrial y a los desarrollos de la inteligencia artificial, que comportan nuevos desafíos en la defensa de la dignidad humana, de la justicia y el trabajo".

Como parte de este esfuerzo de la Santa Sede, la Pontificia Academia para la Vida junto con Microsoft, IBM, FAO y el Gobierno italiano, mediante su Ministerio de Innovación, suscribieron el Llamado por la Ética de la IA en Roma, el 28 de febrero de 2020, conocido también como Llamado de Roma. Otras corporaciones informáticas, universidades y confesiones religiosas se han adherido al Llamado desde entonces. Cáritas de América Latina y el Caribe se identifica plenamente con los postulados de esta iniciativa.

El Llamado de Roma comprende tres áreas de impacto y seis principios:

Las tres áreas de impacto:

  • Ética: Todos los seres humanos nacen libres e iguales en dignidad y derechos.
  • Educación: Transformar el mundo a través de la innovación de la IA significa comprometerse a construir un futuro para y con las generaciones más jóvenes.
  • Derechos: El desarrollo de la IA al servicio de la humanidad y el planeta debe reflejarse en regulaciones y principios que protejan a las personas –particularmente a los débiles y desfavorecidos– y los entornos naturales.

Los seis principios:

  • Transparencia: Los sistemas de IA deben ser comprensibles para todos.
  • Inclusión: Estos sistemas no deben discriminar a nadie porque todo ser humano tiene igual dignidad.
  • Responsabilidad: Siempre debe haber alguien que asuma la responsabilidad de lo que hace una máquina.
  • Imparcialidad: Los sistemas de IA no deben seguir ni crear sesgos.
  • Fiabilidad: La IA debe ser confiable.
  • Seguridad y privacidad: Estos sistemas deben ser seguros y respetar la privacidad de los usuarios.

🌟 Recursos complementarios

📚 Recomendaciones para el aprendizaje de estas herramientas

Las aplicaciones de la sección "Chatbots de propósito general" pueden ayudar a conocer estas herramientas. Recomendamos consultar a aplicaciones que tienen incluida la posibilidad de búsqueda en Internet, para acceder a información actualizada sobre las herramientas (por ejemplo, DeepSeek, Mistral y Qwen). Para tal efecto, se les puede dar la siguiente instrucción (prompt):

Explícame en qué consiste la herramienta de inteligencia artificial ZZZ, y hazme una guía para utilizarla, paso a paso y de manera fácil y comprensible para una persona no especialista.

Se debe sustituir ZZZ por el nombre de la herramienta; por ejemplo: STORM, de Stanford University.

En el caso de aplicaciones multipropósito de las que deseemos conocer funciones determinadas, podemos ser más específicos en la instrucción (prompt). Veamos un ejemplo con la aplicación Gemini:

Explícame, paso a paso y teniendo en cuenta que no soy un especialista en informática, cómo utilizar la herramienta de inteligencia artificial Gemini para crear el código de un documento web.

Si no entendiéramos algún aspecto de la explicación que nos brinda la aplicación, le podríamos pedir a esta que nos lo explique. ¡Podemos pedir a estas aplicaciones que creen nuestros propios tutoriales completamente personalizados!

El esfuerzo del autoaprendizaje incluye examinar con detalle la totalidad de las ventanas en las que interactuamos con la IA. Hay que familiarizarse con ellas para comprender todas las tareas que nos permiten realizar. Téngase en cuenta que muchas aplicaciones permiten utilizar varios modelos de su propia empresa en una misma ventana. Asimismo, muchas cuentan con barras (laterales, superiores o inferiores) con funciones para tareas y propósitos distintos.

🌍 Superar las barreras idiomáticas

Buena parte de las herramientas vinculadas a este kit están diseñadas en idiomas distintos del español. Algunas ofrecen la posibilidad de seleccionar el idioma español. Las que no lo tienen, sin embargo, en su mayoría aceptan que podamos redactar en español los prompts, así como, si se lo pedimos, responder en español. Pero puede seguir siendo una difcutad que las interfaces (las ventanas en las que interactuamos con las aplicaciones) permanezcan en otro idioma, que no conocemos, lo cual no es un problema insuperable. A continuación, algunas recomendaciones al respecto:

1. Buscar si el navegador tiene activada la posibilidad de traducir página y utilizarla. Comúnmente puede ser visible en el menú contextual del mouse.

2. Instalar extensiones de traducción en el navegador. Abierto el menú de las extensiones, buscar "Obtener extensiones" o "Ir a web store" o alguna que nos indique un lugar en el que podemos conseguir aplicaciones. Ahí encontraremos alguna opción de nos permite buscar extensiones. Aparecerán en la búsqueda algunas como el Traductor de Google o, la muy recomendable, DeepL. Mención especial merecen las aplicaciones que tienen una interfaz única en mandarín, aunque permiten dialogar con ella en español. Puede ocurrir, como sucedió en el caso de Kimi, que, pasado un tiempo, ofrezcan una interfaz en inglés. Mientras tanto, se ha de acudir a las herramientas de traducción en línea.

3. Instalar aplicaciones de escritorio (de nuevo, recomendamos DeepL) y configurarlas para traducir texto seleccionado mediante atajos (combinaciones de letras).

4. Una vez instaladas estas aplicaciones, utilizarlas, según sea el caso, desde el menú contextual (para toda la página o para una parte de esta) o en la barra de favoritos o marcadores.

5. En ocasiones, se hace necesario traducir un texto que no es posible seleccionar, usualmente por estar en formato de imagen. En este caso, puede ayudar alguna aplicación que permita reconocer el texto en las imágenes y convertirlos en texto editable. Una aplicación fácil de usar es la de la extensión Copyfish (para navegadores como Chrome, Brave y Edge). Una vez que se tiene el texto, se puede seleccionar y utilizar la herramienta de traducción que hayamos instalado en la computadora.

6. Recuerda que, para instrucciones más detalladas, puedes pedirle a las aplicaciones de IA de la sección "Chatbots de propósito general" que te expliquen cualquier procedimiento sobre este tema. Por ejemplo: "Deseo saber cómo puedo utilizar extensiones en mi navegador Chrome [o el que utilicemos] para traducir texto desde el menú contextual del mouse". ¡En las aplicaciones vinculadas a la sección "Chatbots de propósito general" de este kit tenemos tutores incansables y sin límite de paciencia a nuestra disposición!

7. Finalmente, conviene recordar que los chatbots de propósito general son muy útiles asistentes en las tareas de traducción.

💬 Sugerencias para construir prompts eficaces
  1. Un prompt es una instrucción, pregunta o entrada que se proporciona a un modelo de inteligencia artificial para obtener una respuesta específica. En las interfaces de usuario más sencillas, el prompt se escribe en un cuadro de texto. En los modelos llamados "multimodales", se puede ingresar el prompt, además de texto, voz, y ligar la instrucción a imágenes, audios, videos y archivos adjuntos en varios formatos. El prompt funciona como una solicitud o guía que orienta al modelo sobre qué tipo de información debe generar o cómo debe procesar la información.
  2. Los prompts pueden ser:

    • Simples: por ejemplo, una pregunta directa, como esta: "¿Cuál es la capital de Brasil?".
    • Complejos: instrucciones detalladas que incluyen contexto, formato deseado y restricciones, como la siguiente: "Redacta un mensaje para WhatsApp explicando que no podré asistir a la sesión de mañana, con un tono tanto formal como cordial, de no más de sesenta palabras".
    • Estructurados: prompts que siguen un formato específico para maximizar la efectividad, a menudo incluyendo secciones como el rol que debe asumir el modelo, el objetivo, el contexto e instrucciones precisas. Los recursos a los que remitimos en el punto 3 en esta sección, sobre prompting, muestran diversas estructuras de prompts.

    La calidad y estructura del prompt influyen significativamente en la calidad de la respuesta del modelo. Un buen prompt proporciona contexto suficiente, especifica claramente lo que se busca y evita ambigüedades. Esta práctica de crear prompts efectivos se conoce como "ingeniería de prompts" y se ha convertido en una habilidad importante para trabajar con modelos de IA como todos los incluidos en este kit.

  3. Podemos recurrir a pedirle a la herramienta utilizaremos una guía para construir prompts eficaces, por ejemplo: "Dame una guía para construir los mejores prompts en orden a que tú me des resultados óptimos". A continuación, una vez redactado el prompt, se le puede pedir a la herramienta que lo optimice: "Actúa como un ingeniero en prompts y mejora el siguiente prompt para que me des los mejores resultados: [aquí el prompt]."
  4. Entre los múltiples recursos sobre prompting (técnica de redacción de prompts) disponibles, recomendamos visitar los siguientes, que contienen valiosas orientaciones para construir prompts estructurados:
  5. Puede obtenerse mucho provecho de bibliotecas de prompts, que ofrecen numerosos ejemplos que pueden ser aprovechados con pocos ajustes, o que pueden inspirar la creatividad en el diseño de prompts. De entre las muchas bibliotecas que existen, ofrecemos la referencia de algunas muy valiosas: