3. IA - Sesgos y Uso Critico.

UNIDAD TEMATICA

Cuando la IA amplifica los sesgos de sus usuarios.

Estandar

Utilizo aplicaciones informática para el desarrollo de proyectos y actividades.

Indicador de Desempeno

Evaluar la frecuencia y efectividad con la que se identifica, cuestionan y corrigen los sesgos en los resultados generados por la IA.

Ambientacion

En la actualidad, la inteligencia artificial se ha convertido en una herramienta ampliamente utilizada en diferentes ámbitos, especialmente en el educativo. 

Los estudiantes interactúan constantemente con sistemas de IA para resolver dudas, realizar actividades académicas y acceder a información. Sin embargo, es fundamental comprender que la inteligencia artificial no es completamente neutral, ya que sus respuestas pueden verse influenciadas por diferentes factores. 

Uno de los aspectos más importantes a analizar en el uso de la inteligencia artificial es el concepto de sesgo, entendido como una inclinación o tendencia en la respuesta que no necesariamente representa una visión objetiva o equilibrada de la información. 

En este sentido, el usuario cumple un papel fundamental, ya que "La forma en que se formula una pregunta puede influir directamente en el tipo de respuesta que genera la IA"

Sesgos algorítmicos -  Publicado por Centro Nacional de Inteligencia Artificial

Después de analizar la imagen, es posible identificar tres tipos principales de sesgos en la inteligencia artificial. 

1. Sesgo por pregunta

Ocurre cuando la respuesta depende directamente de cómo el usuario formula el prompt. Es decir, si la pregunta está orientada hacia una postura específica, la IA responderá en función de esa intención. 

2. Sesgo por datos

 Se relaciona con la información con la que fue entrenado el sistema de inteligencia artificial. Esto implica que la IA puede reproducir patrones, errores o limitaciones presentes en los datos originales. 

3. Sesgo cultural

Depende del contexto social, cultural y tecnológico en el que se ha desarrollado la herramienta, lo cual puede influir en la forma en que interpreta y responde a ciertas situaciones. 

A partir de esto, es importante que los estudiantes desarrollen un pensamiento crítico frente al uso de la inteligencia artificial, comprendiendo que no toda la información generada es completamente confiable y que siempre debe ser analizada, verificada y contextualizada.

Actividad practica - Trabajo colaborativo

• Desarrolle el siguiente taller en parejas o grupos de 2 estudiantes. 
• Utilice herramientas de inteligencia artificial (ChatGPT, Gemini, Copilot, entre otras) y registre sus respuestas.

 Taller 1 – Explorando errores de la IA 

1. Escriba 2 preguntas confusas o incompletas para la IA. 
2. Copie la respuesta que le dio la IA. 
3. Analice: - ¿La respuesta fue correcta? - ¿Por qué cree que la IA se equivocó?

 Taller 2 – Sesgos en la IA 

1. Escriba un prompt con una opinión (ejemplo: 'Demuestra que los videojuegos son malos'). 
2. Observe la respuesta. 
3. Responda: - ¿La IA fue neutral o sesgada? - ¿Cómo influyó el prompt en la respuesta?

 Taller 3 – Mejorando Prompts 

1. Tome uno de los prompts anteriores. 
2. Corríjalo para hacerlo más claro y objetivo. 
3. Escriba el nuevo prompt. 
4. Compare la respuesta nueva con la anterior.

 Taller 4 – Noticias falsas con la IA 

1. 1. Pida a la IA que genere una noticia (puede ser inventada). 
2. Analice: - ¿Parece real? - ¿Cómo saber si es falsa? - ¿Qué elementos la hacen creíble?

 Taller 5 – Reflexion final 

1.  ¿La inteligencia artificial siempre dice la verdad? 
2. ¿Por qué es importante saber usar prompts? 
3. ¿Qué riesgos tiene la IA? 
4. ¿Cómo se debe usar la IA en el estudio? 
5. Escriba una conclusión personal sobre la IA.

JOSE PARRA

Docente Practicante UTP

Grado once