Programa de Ética de la Inteligencia Artificial para

estudiantes de 1° y 2° medio
Blakeley H. Payne, [email protected]
MIT Media Lab

Personal Robots Group dirigido por Cynthia Breazeal

Marzo 20211

Una estudiante muestra su prototipo en papel para su rediseño de YouTube

Por favor, considere enviarnos su opinión a:

https://mit.co1.qualtrics.com/jfe/form/SV_6X5UWiD7p58BnNz

1
Fecha de publicación original: Agosto 2019
ÍNDICE

Introducción 4
Acerca de 4
Uso 5
Cómo acceder a los materiales 5
Materiales traducidos 6
Retroalimentación 6
Objetivos del programa 8
Descripción general 10
Bingo de IA 13
Descripción 13
Diapositivas 13
Instrucciones 13
Introducción a los Algoritmos como opiniones 15
Descripción 15
Diapositivas 15
Guía para el profesor o profesora 16
Pan con palta - Hoja de actividad 19
Matriz ética 20
Descripción 20
Diapositivas 21
Guía para el profesor o profesora 21
Matriz ética - Hoja de actividad 24
Introducción al aprendizaje automatizado supervisado y al sesgo algorítmico 27
Descripción 27
Diapositivas 27
Guía para el profesor o profesora 28
Introducción a la actividad sobre aprendizaje automatizado supervisado
34
Conjuntos de datos de imágenes 36
Conjunto inicial de datos de entrenamiento 38
Perros 38
2
 Gatos 42
Conjunto de datos de prueba 50
Conjunto de datos redefinido 54
Perros 54
Gatos 58
Introducción al sesgo algorítmico - Hoja de actividad 61
Aprendizaje automatizado supervisado - Cuestionario 67
Ficción especulativa 70
Descripción 70
Diapositivas 70
Instrucciones 71
Modificación sin conexión 72
Futuros especulativos – Actividad, versión 1 73
Futuros especulativos – Actividad, versión 2 75
Futuros especulativos – Actividad, versión 3 77
Futuros especulativos – Actividad, versión 4 79
Búsqueda del tesoro en YouTube 81
Descripción 81
Guía para el profesor o profesora 83
Búsqueda del tesoro en YouTube - Hoja de actividad 87
Rediseño de YouTube 88
Descripción 88
Diapositivas 88
Rediseño de YouTube - Hoja de actividad 89
Seminario socrático de YouTube 92
Descripción 92
Instrucciones 92
Lectura 92
Preguntas del Seminario socrático 93
Agradecimientos 94

3
Introducción

Dos estudiantes trabajan en su prototipo en papel de YouTube luego de completar una

matriz ética.

Acerca de
Este documento incluye un conjunto de actividades, guías para docentes,
evaluaciones, materiales y otras herramientas para apoyar la enseñanza de la
ética de la inteligencia artificial. Estas actividades se desarrollaron en el MIT
Media Lab para satisfacer la necesidad de que niños y niñas comprendan la
inteligencia artificial (IA), su impacto en la sociedad y cómo podrían impactar
en el futuro de la IA.

Este programa fue diseñado y probado para estudiantes de educación básica

(aproximadamente entre 5° y 8° grado) y adaptado curricularmente a 1° y 2°
medio por Educarchile y el Centro de Innovación del Ministerio de
Educación de Chile. La mayoría de las actividades no requieren conexión y sólo
necesitan los materiales incluidos en este documento, aunque se sugieren

4
modificaciones sin conexión para las actividades que requieren acceso a un
computador.

Uso

Licencia: CC-BY-NC de Creative Commons

Estos materiales tienen licencia CC-BY-NC de Creative Commons. Esta licencia

permite al usuario mezclar, ajustar y usar estos materiales como base de otras
creaciones, de forma no comercial y siempre que se incluya el reconocimiento a
los creadores. Los trabajos resultantes deben incluir el reconocimiento, pero no
es necesario que tengan una licencia CC-BY-NC.

Para reconocer a los creadores, por favor incluya el siguiente texto “An Ethics of
Artificial Intelligence Curriculum for Middle School Students fue creado por
Blakeley H. Payne con el apoyo del Personal Robots Group del MIT Media Lab,
dirigido por Cynthia Breazeal”.

Para más información sobre la licencia visite:

https://creativecommons.org/licenses/by-nc/4.0/

Los interesados en utilizar este trabajo con fines de lucro deben comunicarse
con Cynthia Breazeal, [email protected], para obtener información
sobre cómo proceder.

Cómo acceder a los materiales

Para usar y editar los materiales de este documento, haga una copia de la
siguiente manera:

1. Iniciar sesión en su cuenta de Google.

2. Vaya a Archivo (File) > Crear una copia (Make a copy).
3. Nombre y guarde los materiales en su computador.

5
Todas las diapositivas se encuentran en:
https://drive.google.com/drive/folders/1rgJfanRQaV52slaTNcztqkMkRQLI7S-
W?usp=sharing

Cada presentación de diapositivas está vinculada a su correspondiente

actividad. Para acceder a las diapositivas, asegúrese de seguir los pasos
descritos más arriba para agregarlas a su Google Drive.

Materiales traducidos

Afortunadamente, estos materiales han sido traducidos por muchas personas

alrededor del mundo. Es posible acceder a ellos a continuación:

Alemán: https://thingminds.ch/de/kikids/
Traducido por Eugen Rodel de thingminds.

Portugués (traducción parcial y materiales combinados):

https://drive.google.com/drive/folders/1NhCTVNm-qg5BaMAdiTjvG1Ulebh6O
JqE
Traducido por Miguel Angelo Abreu Sousa del Instituto Federal de São Paulo,
Brasil.

Coreano:
https://keris.or.kr/main/ad/pblcte/selectPblcteETCInfo.do?mi=1142&pblcteSe
q=13255
Traducido por el Dr. Han-Sung Kim del Korea Education and Research
Information Service.

Retroalimentación
¡Gracias por consultar nuestro programa de Ética de la IA! Tenemos
programado evaluar e iterar continuamente sobre este trabajo, así que le

6
pedimos por favor completar la siguiente encuesta para darnos su opinión (le
tomará sólo 5 minutos):

https://mit.co1.qualtrics.com/jfe/form/SV_6X5UWiD7p58BnNz

Envíe sus comentarios adicionales al correo [email protected]. ¡Nos

encantaría saber qué recursos utiliza, con qué grupos etarios y cualquier
comentario para futuras iteraciones de este programa!

7
Objetivos del programa
1. Comprender la mecánica básica de los sistemas de inteligencia artificial.
a) Reconocer algoritmos en el mundo y dar ejemplos de algoritmos
informáticos y de algoritmos en contextos cotidianos (por ejemplo, hacer
una torta).
b) Reconocer las tres partes de un algoritmo: entrada (input), proceso para
cambiar la entrada y salida (output).
c) Comprender que la inteligencia artificial es un tipo específico de algoritmo
y que tiene tres partes características: conjunto de datos (dataset),
algoritmo de aprendizaje (learning algorithm) y predicción (prediction).
i. Entender el problema de la clasificación en el contexto del aprendizaje
automatizado supervisado (supervised machine learning).
ii. Comprender cómo la cantidad de datos de entrenamiento (training data)
afecta la precisión y solidez de un modelo de aprendizaje automatizado
supervisado.
d) Reconocer los sistemas de inteligencia artificial en la vida cotidiana y
reflexionar sobre la predicción que realiza un sistema de IA y los
potenciales conjuntos de datos que utiliza la IA.

2. Comprender que todos los sistemas técnicos son sistemas sociotécnicos.

Comprender que los sistemas sociotécnicos no son fuentes neutrales de
información y que están al servicio de agendas políticas.
a) Comprender el término “optimización” y reconocer que los humanos
definen los objetivos de los sistemas sociotécnicos que ellos mismos crean.
b) Reflexionar sobre los objetivos de los sistemas sociotécnicos en la vida
cotidiana y distinguir los objetivos enunciados de los objetivos reales (por
ejemplo, el algoritmo de recomendación de YouTube tiene como objetivo
conseguir ganancias para la empresa, mientras que se anuncia como una
forma de entretener a los usuarios).
i. Conectar las características de sistemas sociotécnicos reales con los
objetivos identificados.
8
 c) Entender el término “sesgo algorítmico” en el contexto de la clasificación.
i. Comprender el efecto que los datos de entrenamiento tienen sobre la
precisión de un sistema de aprendizaje automatizado.
ii. Reconocer que los seres humanos tienen autonomía para seleccionar y
organizar los conjuntos de datos de entrenamiento.
iii. Comprender cómo la composición de los datos de entrenamiento afecta
el resultado de un sistema de aprendizaje automatizado supervisado.

3. Reconocer que hay muchos actores o partes interesadas (stakeholders) en un

determinado sistema sociotécnico y que el sistema puede afectar a esas partes
interesadas de manera diferenciada.
a) Identificar los actores relevantes en un sistema sociotécnico.
b) Justificar por qué una parte individual está preocupada por el resultado de
un sistema sociotécnico.
c) Identificar los intereses de partes individuales en un sistema sociotécnico,
por ejemplo, explicar qué objetivos debería cumplir el sistema para
satisfacer las necesidades de un/a usuario/a.
d) Construir una matriz ética en torno a un sistema sociotécnico.

4. Aplicar tanto la comprensión técnica de la IA como el conocimiento de las

partes interesadas para determinar un objetivo justo para un sistema
sociotécnico.
a) Analizar una matriz ética y aprovechar el análisis para considerar nuevos
objetivos para un sistema sociotécnico.
b) Identificar el o los conjuntos de datos necesarios para entrenar un sistema
de IA para lograr dicho objetivo.
c) Diseñar características que reflejen el objetivo identificado del sistema
sociotécnico o que reflejen los intereses de las partes relacionadas.

5. Analizar el impacto de la tecnología en el mundo.

a) Reflexionar sobre los efectos secundarios y terciarios de la tecnología y las
condiciones que la tecnología crea para las diversas partes interesadas.

9
Actividades

Estudiantes trabajan en grupo para construir prototipos de YouTube en papel.

Descripción general

La siguiente tabla entrega una descripción general de las actividades incluidas

en el programa:

Nombre Descripción Estándares Currículum chileno Tiempo

Bingo de IA Los y las estudiantes reciben tarjetas 1.c, 1.d Tecnología I° Medio 30
de bingo con diversos sistemas de IA. OA 1 minutos
Buscan a un compañero o compañera II° Medio
que haya usado su mismo sistema y OA 6
juntos trabajan para identificar qué Inglés
predicción está haciendo el sistema y I° Medio
el conjunto de datos que usa. OA 5
Introducción Los y las estudiantes aprenden que los 1.b Tecnología I° Medio 45
a los algoritmos, como las recetas, son un 2.a, 2.c OA1 minutos
10
algoritmos conjunto de instrucciones que OA2
como modifican una entrada para producir OA3
opiniones una salida. Se les pide que escriban un II° Medio
algoritmo para hacer el “mejor” pan OA5
con palta. Después, exploran el Historia, II° Medio
significado de “mejor” y ven cómo se Geografía y OA24
reflejan sus opiniones en sus Ciencias
algoritmos. Sociales

Matriz ética Basándose en la clase sobre los 2.b Tecnología I° Medio 45

algoritmos como opiniones, los y las 3.a, 3.b, 3.c, OA2 minutos
estudiantes identifican a las partes 3.d OA5
involucradas en su algoritmo para el 4.a II° Medio
pan con palta y los intereses que éstas OA5
tienen en el algoritmo. Luego OA6
completan una matriz ética para ver Historia, II° Medio
dónde se superponen o entran en Geografía y OA24
conflicto esos intereses Ciencias OA25
Sociales

Introducción Introducción al concepto de 1.c Tecnología I° Medio aprox. 3

al aprendizaje clasificación. Al explorar la 2.c OA3 horas
automático herramienta Teachable Machine de II° Medio
supervisado y Google, los y las estudiantes aprenden OA5
al sesgo sobre el aprendizaje automatizado Orientación I° Medio
algorítmico * supervisado. Luego se les pide que OA1
creen un clasificador gato-perro, pero,
sin que lo sepan, se les entrega un
conjunto de datos sesgado. Cuando el
clasificador funciona mejor en gatos
que en perros, los y las estudiantes
tendrán la oportunidad de redefinir
sus clasificadores con sus propios
conjuntos de nuevos datos.
Ficción Los y las estudiantes tienen la 3.a, 3.b, 3.c Historia, I° Medio aprox. 3
especulativa oportunidad de interactuar con 5.a Geografía y OA19 hrs
** diversas tecnologías, como el software Ciencias OA20
de detección de emociones o las RGA Sociales OA22
(GAN). Más tarde, responden OA25
preguntas sobre quién podría verse Tecnología I°Medio
afectado/a por la tecnología y cómo la OA2
tecnología podría producir daños o OA4
beneficios en el futuro. Esta actividad II° Medio
requiere conexión a Internet, pero se OA5
11
 incluyen instrucciones para una OA6
versión offline en los materiales de Lengua y I° Medio
código abierto. Literatura OA21
Búsqueda del Al igual que en el Bingo de IA, se pide 1.d Tecnología I° Medio 30
tesoro en a los y las estudiantes (en parejas) que 2.b OA1 minutos
YouTube reconozcan los diversos sistemas de OA3
IA en la plataforma YouTube (por II° Medio
ejemplo, el algoritmo de OA4
individualización de la publicidad, el OA6
algoritmo de recomendación, el Matemática I° Medio
clasificador de comentarios, etc.). Para OA14
cada sistema, los y las estudiantes
identifican qué está tratando de
predecir el algoritmo y el conjunto de
datos que usa.
Rediseño de Los y las estudiantes aplican lo que 2.b Tecnología I° Medio aprox. 4
YouTube han aprendido hasta ahora, 3.a, 3.b, 3.c, OA4 horas
construyendo una matriz ética sobre 3.d OA5
el algoritmo de recomendación de 4.a, 4.b, 4.c II° Medio
YouTube. Basándose en esta matriz, OA6
determinan un objetivo (u “opinión”) Inglés I° Medio
para su algoritmo. Luego, hacen un OA5
prototipo en papel para mostrar cómo II° Medio
se vería esta nueva versión de OA8
YouTube e imaginan características
que cumplan con los intereses que
identificaron en sus partes
interesadas.
Seminario Los y las estudiantes leen el artículo 2.b Tecnología I° Medio 30
socrático de titulado “Youtube evalúa traspasar los 3.a, 3.b, 3.c OA1 minutos
YouTube vídeos infantiles a su aplicación para 4.c OA3
niños”, basado en una publicación de 5.a OA6
The Wall Street Journal, y participan II° Medio
en un seminario socrático para OA5
discutir qué partes interesadas fueron OA6
más importantes o influyentes en los Lengua y I° Medio
cambios propuestos a la aplicación Literatura OA10
YouTube Kids y si deberían existir OA22
tecnologías como la reproducción II° Medio
automática (autoplay). OA10
OA22
* Significa que la actividad requiere conexión.
** Significa que la actividad requiere conexión, pero incluye instrucciones sobre cómo
modificarla para hacerla sin conexión.
12
Bingo de IA

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Los y las estudiantes reciben tarjetas de bingo 1.c, 1.d Tecnología 30
con diversos sistemas de IA. Buscan a un I° Medio minutos
compañero o compañera que haya usado su OA 1
mismo sistema y juntos trabajan para II° Medio
identificar qué predicción está haciendo el OA 6
sistema y el conjunto de datos que usa. Inglés
I° Medio
OA 5

Diapositivas

Las diapositivas se encuentran en:

https://docs.google.com/presentation/d/18txvuGB6Ea_USTKpgmzOqBL898d9
qCn8KbJ-i559Zx8/edit?usp=sharing

Instrucciones

Después de presentar las diapositivas introductorias, reparta las tarjetas del

bingo. Los y las estudiantes deben buscar un compañero o compañera que haya
utilizado un sistema de IA que aparezca en la tarjeta y juntos deben identificar
la predicción que el sistema está tratando de hacer y el conjunto de datos que
estaría usando para hacer esa predicción. El primer alumno o alumna en
completar cinco casillas de una fila, diagonal o columna gana (o, para jugar más
tiempo, el primer o la primera en completar dos filas, diagonales o columnas).

Después de jugar, motive a las o los estudiantes a discutir sobre los cuadrados
que completaron.

Hoja de trabajo (en la página siguiente).

13
14
Introducción a los Algoritmos como opiniones

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Los y las estudiantes aprenden que los 1.b Tecnología 45
algoritmos, como las recetas, son un conjunto 2.a, 2.c I° Medio minutos
de instrucciones que modifican una entrada OA1, OA2, OA3
para producir una salida. Se les pide que II° Medio
escriban un algoritmo para hacer el “mejor” OA5
pan con palta. Después, exploran el significado Historia, Geografía
de “mejor” y ven cómo se reflejan sus opiniones y Ciencias Sociales
en sus algoritmos. II° Medio
OA24

Diapositivas

Las diapositivas se encuentran en:

https://docs.google.com/presentation/d/1N3Z6VXnHT5R4tsVFF9o1g0c-rk6PI
bjovQj7Z8bdegM/edit?usp=sharing

15
Guía para el profesor o profesora

Propósito: Comprender que los algoritmos pueden tener varios objetivos y

motivos.

Materiales necesarios

● Diapositivas
● Hoja de trabajo

Para comenzar: ¿Recuerdan cuando aprendimos qué es un algoritmo? ¿Quién

puede señalar las tres partes de un algoritmo?

[Espere a que las y los estudiantes mencionen entrada/datos, pasos

específicos para cambiar esos datos y salida].

Correcto. Un algoritmo necesita datos de entrada y sigue pasos o instrucciones

específicas para darnos la salida deseada. Los computadores usan algoritmos,
pero los seres humanos también. Los algoritmos se parecen mucho a una
receta.

Por ejemplo, si estuviera haciendo una torta, mi algoritmo incluiría los

siguientes ingredientes: harina, azúcar, sal, huevos, etc.

Mezclaría primero los ingredientes secos y luego los ingredientes húmedos,

como los huevos o la leche.

Echaría todo en un molde, calentaría el horno a 180° y pondría el molde en el

horno.

¡Mi salida sería una torta!

[Muestre diapositivas con imágenes de una torta].

16
Muy bien, ahora quiero que escriban sus propios algoritmos. Tómense los
próximos 5-10 minutos para escribir un “algoritmo” (o receta) para el MEJOR
pan con palta. Asegúrense de especificar claramente sus entradas.

[Deje pasar el tiempo para que los estudiantes trabajen].

Muy bien, ahora compartan sus algoritmos con su compañera o compañero.

Hablen sobre lo que tienen en común sus algoritmos y sus diferencias.

[Deles unos minutos para conversar].

¿Quién puede compartir con el curso lo que sus algoritmos tienen en común?

¿Qué tenían diferente?

Si tienen que darle a su algoritmo un título “Cómo hacer el _______ pan con palta”,
¿qué adjetivo usarían? No pueden usar “mejor”.

[La mayoría de los estudiantes dirán más rico/ más sabroso].

Posibles preguntas:

1. ¿Alguno/a de ustedes incluyó instrucciones para guardar los ingredientes

después de usarlos?
a. ¡Entonces estaban optimizando el orden en su algoritmo!
2. ¿Alguno/a de ustedes cortó su pan de forma divertida? ¿Le quitaron el borde?
a. ¡Entonces estaban optimizando la diversión o la estética!

Los algoritmos informáticos también se optimizan para cumplir con varios

objetivos, pero a veces esto puede ser difícil de detectar. ¿Cuál creen que es el
objetivo del algoritmo de búsqueda de Google?

[Los y las estudiantes podrían decir “mejores” resultados. Si es así,

pregúnteles con qué palabra reemplazarían mejor. Los estudiantes
también pueden decir “los mejores resultados para mí”. Pregunte a los
17
estudiantes qué quieren decir con eso o cómo Google podría confirmar lo
que ellos señalan como “los mejores resultados para mí”. Estamos
buscando respuestas como: hacer que hagamos clic en enlaces, hacer que
hagamos clic en enlaces de publicidad, aspectos que permitan a los y las
estudiantes entender que los resultados de búsqueda benefician antes
que nada a Google].

Opcional: Si es posible, abra Google en dos cuentas diferentes (o una en una

cuenta con sesión iniciada y otra en un navegador de incógnito). Busque
algunos de los siguientes elementos: pizzería, mejor película, noticias. Pregunte
a las y los estudiantes por qué creen que los resultados son diferentes.

18
Nombre: _____________________________________________ Fecha: ________________________

Pan con palta - Hoja de actividad

Escribe un “algoritmo” para hacer el MEJOR pan con palta:

a. ¿Qué datos de entrada (o ingredientes) necesitas?

b. Describe los pasos de tu algoritmo:

19
Matriz ética

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Basándose en la clase sobre los algoritmos 2.b Tecnología 45 minutos
como opiniones, los y las estudiantes 3.a, 3.b, 3.c, I° Medio
identifican a las partes involucradas en su 3.d OA2, OA5
algoritmo para el pan con palta y los 4.a II° Medio
intereses que éstas tienen en el algoritmo. OA5, OA6
Luego completan una matriz ética para ver Historia, Geografía
dónde se superponen o entran en conflicto y Ciencias Sociales
esos intereses II° Medio
OA24, OA25

Ejemplo de matrices éticas para un algoritmo de sándwich de mantequilla de maní y

mermelada (ejercicio para estudiantes de Estados Unidos). Los y las estudiantes usaron
notas adhesivas gigantes en lugar de la hoja de trabajo incluida a continuación.

20
Diapositivas

Las diapositivas se encuentran en:

https://docs.google.com/presentation/d/1dge6itxBSk9Y6A7GqPEIte7xsrjWR3
eQisJuNCXTxlc/edit?usp=sharing

Guía para el profesor o profesora

Propósito: Reconocer a las partes interesadas en un sistema y construir y

utilizar una matriz ética.

Materiales necesarios

● Papel Kraft con matrices éticas dibujadas y notas adhesivas u hoja de

trabajo con matrices relevantes impresas
● Hoja de trabajo de matriz ética
● Presentación de diapositivas

Para comenzar: Hemos demostrado que los algoritmos pueden tener objetivos
diferentes. ¿Cuáles fueron los objetivos de su algoritmo para el pan con palta?

[Pausa para que los/las estudiantes respondan con observaciones tales

como: “el más rico”, “el más saludable”, etc.].

Ahora tómense cinco minutos con un compañero o compañera para hacer una
lluvia de ideas con posibles objetivos para su algoritmo y escríbanlos en notas
adhesivas. Intenten identificar al menos diez.

[Dé tiempo a los/las estudiantes para hacer la lluvia de ideas. Las

respuestas podrían ser: rápidos, ricos, lindos, saludables, nutritivos,
baratos, fáciles de preparar].

Compartir: ¿Qué posibles objetivos identificaron?

21
Instrucción explícita: Ahora vamos a aprender cómo deberíamos definir el
objetivo de un algoritmo.

Con tu compañera o compañero, hagan una lluvia de ideas sobre 5 a 10

personas diferentes que podrían interesarse por su algoritmo del pan con palta.
¿A quién le importa lo que comes? ¿A quién le importa lo que almuerzas en el
colegio?

A estas personas que se preocupan por sus algoritmos las llamaremos actores o
partes interesadas. Para cada parte interesada, indiquen una o dos razones por
las cuales éstas podrían interesarse.

[Dé tiempo a los/las estudiantes para trabajar en grupos. Espere

respuestas como: yo, mis padres, mis hermanos/as, mis abuelos/as, mi
doctor/a o mi dentista, mi profesor, mi compañero/a de clase, mi
entrenador/a deportivo/a].

[Para ayudar a los/las estudiantes a pensar en más partes indirectas,

pídales que piensen en el origen de sus alimentos. ¿De dónde sacan su
comida? ¿Quién gana dinero con los alimentos que compran? ¿Creen que a
su almacenero/a le importe su algoritmo? (Sí, el tipo de palta, pan,
condimentos, etc., son entradas de datos en el algoritmo). Otras partes
interesadas indirectas pueden incluir: almacenes, empresas agricultoras,
transportistas, las compañías que producen las paltas, el pan, etc.].

Compartir: ¿Qué partes interesadas incluyeron? ¿Por qué les importa su

algoritmo?

Ahora quiero presentarles la matriz ética. En un lado detallarán a sus partes

interesadas y en el otro enumerarán lo que les interesa en su algoritmo.

Instrucción explícita: Completemos juntos una matriz ética para un pan.

[Demostrarlo con las diapositivas].

22
Ahora es su turno. Con su compañera o compañero, completen las matrices
éticas que recibieron. Para cada matriz, discutan cuál debería ser el objetivo del
algoritmo para esas partes interesadas.

[Dé a los/las estudiantes tiempo para completar matrices].

Compartir:

[Para cada matriz, pida a los/las estudiantes que justifiquen por qué
marcaron cada cuadro y cuál fue el objetivo que decidieron para su
algoritmo].

Preguntas opcionales para la discusión:

¿Qué tan útil es la matriz ética de 1x1?

[Si los/las estudiantes dicen que es útil, pregunte si fue útil para las partes
interesadas más que para ellos mismos; por ejemplo, si los padres o los
médicos son las únicas partes interesadas. Pregúnteles si creen que esto
es justo].

¿Decidir un objetivo para su algoritmo fue más fácil o más difícil a medida que
aumentó el número de partes interesadas? ¿Qué pasa a medida que cambia el
número de intereses?

¿Qué ayudaría a decidir el objetivo de su algoritmo?

[Idea: Podría llevar a algún actor a la sala para debatir y obtener el

testimonio de los/las interesados/as].

23
Nombre: _____________________________________________ Fecha: ____________________

Matriz ética - Hoja de actividad

Instrucciones

Completa las siguientes matrices éticas. Incluye en cada fila una parte
interesada que se preocupe por el resultado de tu algoritmo. Para cada
columna, enumera un valor o interés que la parte interesada querría ver
expresado en tu algoritmo.

Ejemplo:

Sabor Nutrientes Costo

Niño/a

Padres

Doctor/a

Matriz ética de 1x1

Objetivo: Objetivo:

24
Matriz ética de 3x3

Objetivo:

Matriz ética de 2x3

Objetivo:

25
Matriz ética de 5x5

Objetivo:

26
Introducción al aprendizaje automatizado supervisado y al sesgo
algorítmico

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Introducción al concepto de clasificación. Al 1.c Tecnología aprox. 3
explorar la herramienta Teachable Machine de 2.c I° Medio horas
Google, los y las estudiantes aprenden sobre OA3
el aprendizaje automatizado supervisado. II° Medio
Luego se les pide que creen un clasificador OA5
gato-perro, pero, sin que lo sepan, se les Orientación
entrega un conjunto de datos sesgado. I° Medio
Cuando el clasificador funciona mejor en OA1
gatos que en perros, los y las estudiantes
tendrán la oportunidad de redefinir sus
clasificadores con sus propios conjuntos de
nuevos datos.

Diapositivas

Las diapositivas sobre aprendizaje automatizado supervisado se encuentran en:

https://docs.google.com/presentation/d/1nEjWTy3uxkkTS3Ib_FZMpwVu2n7x
hQKUQCMZ391Tawc/edit?usp=sharing

Las diapositivas sobre sesgo algorítmico se encuentran en:

https://docs.google.com/presentation/d/1Sd2L52MpiiMO8Z5sqSdsBGRf1JA80
mPOyuRhQFoghMU/edit?usp=sharing

27
Guía para el profesor o profesora

Propósito: Comprender los problemas de clasificación y el papel que juegan los

datos de entrenamiento en la precisión de la clasificación.

Materiales necesarios

● Diapositivas
● Hoja de trabajo x 3
● Computadores y cargadores
● Tarjetas de perros y gatos
● Sets de instrumentos musicales

Para comenzar: ¿Recuerdan cuando discutimos la definición de IA? ¿Cuáles

fueron los tres componentes de los que hablamos?

[Espere a que los estudiantes digan: el conjunto de datos, el algoritmo de

aprendizaje y la predicción].

¡Muy bien! Hoy vamos a hablar un poco más sobre los conjuntos de datos de
entrenamiento y profundizar un poco en el aspecto del algoritmo de
“aprendizaje” de la IA. Particularmente, vamos a hablar sobre una forma muy
común de inteligencia artificial llamada aprendizaje automatizado supervisado.

En un sistema de aprendizaje automatizado supervisado, un computador

aprende a través del ejemplo. ¿Cuántos/as de ustedes han visto a un padre o a
una madre enseñarle los colores a un bebé o a un/a niño/a pequeño/a? Lo
habitual sería que se sentaran con sus hijos/as y con un libro con formas o
animales de colores, señalaran una imagen y dijeran “oso café” o “pájaro rojo”. Y
la idea es que el niño o niña aprenderá con estos ejemplos.

Ahora nos enfocaremos en los problemas de clasificación, pero los problemas

de regresión son muy similares. Con la regresión, en lugar de tratar de predecir
la categoría a la que pertenece un nuevo dato, tratamos de predecir algún valor

28
numérico para esos datos. Por ejemplo, podríamos tratar de predecir cuál será
la temperatura de mañana.

Pero hoy nos vamos a centrar en la clasificación. ¿Quién puede decirme algunos
ejemplos útiles de clasificación que use en su vida cotidiana o que haya
aprendido en el colegio?

[Espere a que los/las estudiantes respondan. Si necesitan ayuda,

pregúnteles si han aprendido sobre algún sistema de clasificación en la
clase de ciencias, como la categorización de animales. Pregúnteles cómo
buscan libros en la biblioteca (ficción/no ficción y luego por género). Los
géneros de las canciones y de las películas son otra buena respuesta.
Espere 2 ó 3 respuestas de los/las estudiantes].

Muy bien, ahora mencionaremos algunos ejemplos de la tecnología de

clasificación:

● Detección de rostro: es o no es un rostro

● Detección de spam: es o no es spam
● Detección de escritura a mano (para depositar cheques en el banco): es o
no una de las 27 letras o uno de los 10 números

Ahora construyamos nuestros propios clasificadores. Les demostraré cómo

funcionan las Teachable Machines (máquinas a las que puedes “enseñar”).

[Demostración de Teachable Machine sin el tutorial.]

* Asegúrese de destacar la diferencia entre los datos de entrenamiento y los

datos de prueba en su demostración, diciendo: “Y ahora quiero probar qué tan
bien funciona mi algoritmo con datos similares, pero ligeramente diferentes a
los que vimos antes”.

¡Ahora inténtenlo ustedes! Sigan el tutorial junto a su compañero/a. Escriban lo

que encuentren en las hojas de actividades. Iré revisando.

29
[Deles tiempo para probar la demostración, aprox. 5-8 minutos. Puede ir
pidiendo a los/las estudiantes que le cuenten sobre sus conjuntos de
datos de entrenamiento y de prueba. ¿Qué sucede cuando cambian de
posición? ¿Qué sucede cuando ambos compañeros/as están en el mismo
cuadro?]

Discusión:

¿Qué pasa si sólo entrenan una categoría (class)?

¿Qué sucede a medida que aumenta el conjunto de datos?
¿Qué sucede cuando su conjunto de datos de prueba es diferente de
su conjunto de datos de entrenamiento?

Excelente. Ahora vamos a construir un clasificador gato-perro usando la nueva

versión de Teachable Machine.

[Demostración de cómo entrenar al menos una categoría].

Con su compañero/a, construyan una máquina que clasifique a los gatos y a los
perros. Ya tienen conjuntos de datos de entrenamiento cargados en sus
computadores y pueden usar las tarjetas y la cámara web para hacer la prueba.

[Dé tiempo a los estudiantes para construir sus clasificadores y registrar

la información].

¿Cómo funcionan sus clasificadores?

Veamos:

¿Es útil este clasificador si sólo funciona bien en los gatos?

¿Por qué creen que funciona mejor en gatos que en perros?
¿Cómo podríamos mejorarlo con nuestros datos de entrenamiento? (Si
los/las estudiantes tienen problemas, pídales que destaquen las
similitudes en el conjunto de datos. Por ejemplo, los perros eran peludos
y parecidos a los gatos o no eran tan diversos).
30
Cuando los algoritmos, específicamente los sistemas de inteligencia artificial,
tienen resultados injustos de manera sistemática, llamamos a eso sesgo
algorítmico. Podríamos afirmar que nuestro clasificador gato-perro muestra un
sesgo algorítmico y que está sesgado en favor los gatos, ya que funciona muy
bien para ellos y tiene un sesgo contra los perros.

[Dé tiempo a los/las estudiantes para volver a seleccionar sus conjuntos

de datos].

¿Cómo están funcionando sus clasificadores ahora?

Veamos:

¿Qué hicieron para que funcionaran mejor?

[Si los/las estudiantes dicen que usaron menos datos de entrenamiento,

invítelos/as a pensar si es mejor tener más o menos datos].

Hemos visto de primera mano cómo puede ocurrir un sesgo algorítmico en

nuestros sistemas de aprendizaje automatizado supervisados. Ahora quiero que
nos tomemos un tiempo para ver un video sobre cómo esto puede suceder en el
mundo real.

[Reproducir el video de detección facial Gender Shades, en la PPT].

Discusión:

¿Qué problema identificó Joy en el video?

● [Espere a que los/las estudiantes digan que el sistema de reconocimiento
facial no reconoció los rostros femeninos más oscuros tan bien como los
rostros masculinos más claros].
● Si los/las estudiantes necesitan un estímulo, pregunte si la tecnología de
la que habló Joy funcionó igual para todas las personas.

31
¿Por qué es esto un problema?
● [Espere a que los/las estudiantes mencionen experiencias desiguales
entre grupos: “la tecnología no funciona, a menos que funcione para todo
el mundo”].
● Si los/las estudiantes necesitan ayuda, pregúnteles si a todos/as les
gustaría usar los filtros de Snapchat. ¿Está mal si no todos/as tuvieran
acceso a esa tecnología?

¿Cómo sugiere Joy que podemos solucionar este problema?

● [Espere a que los/las estudiantes mencionen una mejor selección del
conjunto de datos].
● Si los/las estudiantes necesitan un estímulo, pregúnteles cómo mejoraron
sus algoritmos de clasificación durante la actividad de las Teachable
Machines.

Opcional: si el tiempo lo permite y el ambiente del aula es seguro:

¿Cómo buscarían imágenes para mejorar su conjunto de datos?

● [Ayude a los/las estudiantes a pensar dónde existen más fotos: redes
sociales, cédulas de identidad, tarjetas de identificación. ¿Cuáles estaría
bien usar como fuentes de información? ¿Cuáles podrían conducir a más
sesgos? ¿Cuáles podrían violar la privacidad de las personas?].

Ahora vamos a construir un clasificador más. Voy a entregar a cada uno/a de

ustedes un set de instrumentos musicales. Quiero que construyan un
clasificador que opere cuando el instrumento esté sonando.

Ahora es su turno. Después de completar el proceso de entrenamiento, quiero

que prueben su clasificador tocando varios instrumentos y vean qué sucede.

[Dé tiempo para construir el clasificador hasta que los/las estudiantes

estén probándolo].

¿Qué pasó cuando tocaron varios instrumentos a la vez para probar? ¿El
algoritmo predijo ambos instrumentos?
32
(No, porque sólo le hemos enseñado a clasificar un instrumento a la vez).

A veces, la clasificación puede ser muy difícil porque es complicado enumerar

todas las categorías posibles. Piensen cuántas categorías necesitaríamos para
clasificar cada combinación de instrumentos musicales que tienen ustedes (al
menos 24 categorías).

Este problema también se apareció en el trabajo de Joy. ¿Recuerdan el video de

Joy? El mayor problema con los sistemas de reconocimiento facial que ella
estudió es que no funcionan tan bien en los rostros femeninos más oscuros
como lo hacen en los rostros masculinos más claros. Pero no todas las personas
se identifican como hombres o mujeres y esos sistemas de reconocimiento
facial no pueden capturar eso. Esto es algo que siempre debemos considerar
cuando estamos clasificando, para asegurarnos de que nuestras categorías no
excluyan a nadie.

33
Nombre: _____________________________________________ Fecha: _______________________

Introducción a la actividad sobre aprendizaje automatizado supervisado

Descripción

En este ejercicio, aprenderán los tres componentes de un sistema de inteligencia

artificial (IA) y cuál es el rol de los datos de entrenamiento en un sistema de IA.

Instrucciones

1. Vayan a https://teachablemachine.withgoogle.com. Asegúrense de que el sitio esté cargado en

español. Si no, seleccionen el idioma desde el pie de página.
2. Bajen hasta donde dice “¿Cómo se utiliza?” y reproduzcan el tutorial “Recopilación” hasta el
segundo 00:52 (que es el que muestra las instrucciones para trabajar con reconocimiento de
imágenes). Recuerden activar los subtítulos automáticos de YouTube, haciendo clic sobre la
rueda de configuración y seleccionando “inglés (generado automáticamente)”. Repitan el
proceso y seleccionen “traducción automática” al español. Si lo necesitan, pongan el tamaño del
subtítulo en 100%.
3. Aterrizarán en la página de entrenamiento de modelos. Hagan clic sobre “Proyecto de imagen”.

Identifiquen las tres partes de un sistema de IA en la teachable machine, tal como se

discutió en la clase:

34
Entrenen un modelo situando dos objetos diferentes frente a la cámara
(dos “clases” o “class”). Pulsen “Preparar modelo y esperen a que procese
(mientras más muestras de imágenes se entreguen al modelo, mayor será
el tiempo de espera). Experimenten un rato con los resultados. ¿Qué pasa
cuando?:

1) ¿Sólo entrenan una clase?

2) ¿Qué sucede cuando aumentan el número de imágenes en su conjunto

de datos? Asegúrense de que ambas categorías tengan al menos diez
imágenes.

3) Si han entrenado con los objetos en una sola posición, intenten variarla.
¿Qué sucede cuando su conjunto de datos de prueba es diferente a su
conjunto de datos de entrenamiento?

35
Conjuntos de datos de imágenes

Presentamos a continuación un conjunto de imágenes para que las y los

estudiantes construyan sus clasificadores gato-perro. Se incluyen tres conjuntos
de datos diferentes:

Conjunto de datos Descripción

Conjunto inicial de Estas son las imágenes que las y los estudiantes
datos de deberán usar para “enseñar” a su modelo de
entrenamiento aprendizaje automatizado qué fotos son un gato o un
perro.

Note que hay muchos más gatos y que los gatos son
más diversos en apariencia que los perros. Esto
significa que el clasificador clasificará con mayor
precisión a los gatos que a los perros.
Conjunto de datos de Estas son las imágenes que las y los estudiantes
prueba deberán usar para testear su clasificador después del
entrenamiento. Deberán mostrar estas imágenes a su
modelo y registrar si su clasificador predice si la
imagen es de un perro o de un gato.

Nota: Las y los estudiantes no deben usar estas

imágenes para entrenar a su clasificador. Si usan una
imagen para entrenar a un clasificador, la máquina ya
habrá grabado la etiqueta correspondiente para esa
imagen en particular. Mostrar esta imagen a la
máquina durante la fase de prueba no medirá qué tan
bien generaliza el modelo.
Conjunto de datos Se trata de una gran variedad de imágenes que las y
redefinido los estudiantes pueden usar para hacer que su
conjunto de datos de entrenamiento de gatos y perros
sea mayor y más diverso.

36
El conjunto de datos de prueba deberá usarse dos veces, una para testear el
clasificador inicial de las y los estudiantes y otra vez para evaluar su conjunto
de datos redefinido.

Las imágenes a continuación están organizadas para facilitar su impresión y

corte (con dos imágenes por página, organizadas por conjunto de datos).
Imprimir las imágenes permitirá a las y los estudiantes sostenerlas frente a la
cámara web para el entrenamiento.

37
Conjunto inicial de datos de entrenamiento

Perros

38
39
40
41
Gatos

42
43
44
45
46
47
48
49
Conjunto de datos de prueba

50
51
52
53
Conjunto de datos redefinido

Perros

54
55
56
57
Gatos

58
59
60
Nombre: _____________________________________________ Fecha: ___________________

Introducción al sesgo algorítmico - Hoja de actividad

Descripción

En este ejercicio aprenderán los tres componentes de un sistema de inteligencia

artificial (IA) y el rol de los datos de entrenamiento en un sistema de IA.

Instrucciones

1. Vayan a: https://teachablemachine.withgoogle.com/
2. Hagan clic en “Primeros pasos”
3. Seleccionen “Proyecto de imagen”

Pregunta 1: Identifiquen las tres partes de un sistema de IA en Teachable

Machine, según lo conversado en clases:

61
 Pasos para agregar un conjunto de datos de entrenamiento:

1. Hagan clic en “Subir”.

2. Debajo de “file”, elijan si subirán los datos desde el computador o desde una
unidad de Google Drive.
3. Localicen el conjunto de datos Gato-Perro y el conjunto de entrenamiento.

4. Hagan clic en “Abrir” o “Select” para incorporar el conjunto de imágenes.

Asegúrense de agregar todas las imágenes una vez.

5. Repitan los mismo con las imágenes de entrenamiento de gatos.

62
Pregunta 2:

a) Para el conjunto de datos de entrenamiento del perro, registren lo

siguiente:
¿Cuántas imágenes se incluyeron?
¿En qué se parecen las imágenes?
¿En qué se diferencian las imágenes?

b) Para el conjunto de datos de entrenamiento del gato, registren lo

siguiente:
¿Cuántas imágenes se incluyeron?
¿En qué se parecen las imágenes?
¿En qué se diferencian las imágenes?

Pregunta 3: Entrenen a su clasificador con los dos conjuntos de datos de

entrenamiento.

Una vez que su clasificador esté terminado, prueben su conjunto de datos

con las siguientes imágenes. Completen la tabla de la página siguiente con
su conjunto de datos de prueba:

Imagen Clasificación Puntaje de ¿Correcto?

confianza

63
Pregunta 4: ¿En qué grupo funcionó mejor su clasificador? (marquen uno)

Gatos perros

¿Por qué creen que pasó?

Pregunta 5: En grupo, usen las fotos de las tablas para redefinir su

conjunto de datos de entrenamiento. Registren lo siguiente:
64
A. Para el conjunto de datos de entrenamiento del perro, registren lo
siguiente:
a. ¿Cuántas imágenes se incluyeron?
b. ¿En qué se parecen las imágenes?
c. ¿En qué se diferencian las imágenes?

B. Para el conjunto de datos de entrenamiento del gato, registren lo

siguiente:
a. ¿Cuántas imágenes se incluyeron?
b. ¿En qué se parecen las imágenes?
c. ¿En qué se diferencian las imágenes?

Pregunta 6: Entrenen un nuevo clasificador con los dos nuevos conjuntos

de datos de entrenamiento.
Una vez que su clasificador esté terminado, prueben su conjunto de datos
con las siguientes imágenes y completen la tabla a continuación con su
conjunto de datos de prueba:

Imagen Clasificación Puntaje de ¿Correcto?

confianza

65
Pregunta 7: Su nuevo algoritmo funcionó… (marquen uno)

Mejor para perros Lo mismo para gatos y perros Mejor para gatos

Pregunta 8: Expliquen su respuesta a la pregunta 6:

66
Nombre: _____________________________________________ Fecha: ________________________

Aprendizaje automatizado supervisado - Cuestionario

1. ¿Cuáles son los tres componentes de un sistema de IA?

2. Un algoritmo de aprendizaje automatizado supervisado ha sido

entrenado con las siguientes imágenes con la etiqueta “gato”.

Imagen

Etiqueta Gato

¿Cómo clasificará la siguiente imagen? (marca una):

67
 Gato Perro

3. Un algoritmo de aprendizaje automatizado supervisado ha sido

entrenado con las siguientes imágenes:

Imagen

Etiqueta Gato Perro

3.1 ¿Esperas que la precisión del algoritmo sea (marca uno):

Mejor para gatos Lo mismo para gatos y perros Mejor para perros

3.2. ¿Qué conjunto de datos de entrenamiento entregaría la clasificación

más precisa tanto para gatos como para perros?

A.

Gato Perro

68
B.

Gato Perro

C.

Gato Perro

D.

Perro

69
Ficción especulativa

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Los y las estudiantes tienen la oportunidad de 3.a, 3.b, 3.c Historia, aprox. 3
interactuar con diversas tecnologías, como el 5.a Geografía y horas
software de detección de emociones o las RGA Ciencias
(GAN). Más tarde, responden preguntas sobre Sociales
quién podría verse afectado/a por la tecnología y I° Medio
cómo la tecnología podría producir daños o OA19, OA20,
beneficios en el futuro. Esta actividad requiere OA22, OA25
conexión a Internet, pero se incluyen Tecnología
instrucciones para una versión offline en los I°Medio
materiales de código abierto. OA2, OA4
II° Medio
OA5, OA6
Lengua y
Literatura
I° Medio
OA21

Diapositivas

Las diapositivas para la profesora o el profesor se encuentran en:

https://docs.google.com/presentation/d/1zckDVJJLQF51FmSwJo2CnJL6ySkt0
oqdO4YFN7-36DU/edit?usp=sharing

Las plantillas para las presentaciones de las y los estudiantes se encuentran en:
https://docs.google.com/presentation/d/1WkXnTHdYPFTmlipL1agx5HY9dNR
wJuaaxlgEcEN3iDo/edit?usp=sharing

70
Instrucciones

Muestre a las y los estudiantes videos de Alter Ego (incluidos en las

diapositivas). Después de reproducir el video, pídales que resuman la
tecnología (por ejemplo, “¿Alguien puede explicarme qué hace Alter Ego?”).

Luego guíe una conversación sobre las ramificaciones éticas de la tecnología.

Haga preguntas como:

● ¿Cómo podría ser útil esta tecnología? (Si los/las estudiantes necesitan
estímulos, pídales que identifiquen ejemplos de los videos).
o ¿A quién podría ayudar esta tecnología?
o ¿Qué esperanzas tienen para esta tecnología?
● ¿Cómo podría hacer daño esta tecnología?
o ¿Cómo podría ser perjudicial?
o ¿Qué dudas tienen sobre esta tecnología?
o ¿A quién podría ayudar esta tecnología?

Cuando la discusión termine, diga a los/las estudiantes que tendrán la

oportunidad de interactuar con un sistema de IA de vanguardia y que harán una
presentación a la clase sobre esa tecnología.

Muestre la presentación de Alter Ego (en la presentación de diapositivas) y diga

a los/las estudiantes que su presentación será similar. Muéstreles cómo acceder
a su propia plantilla de diapositivas.

Divida a los/las estudiantes en parejas o grupos pequeños y reparta la siguiente

hoja de trabajo. Permita que jueguen con la tecnología durante diez minutos y
luego pídales que trabajen juntos/as para completar las indicaciones.

Después de completar la hoja de trabajo, los/las estudiantes deben hacer una

copia de las diapositivas y editarlas para mostrar su tecnología. Luego, todos los
grupos presentarán sus diapositivas a la clase. Anímelos/as a hacer preguntas
especulativas a sus compañeros/as, del tipo “¿Y qué pasaría después?” o “¿Cuál
podría ser un efecto dominó de ese resultado?”
71
Modificación sin conexión

Para hacer este ejercicio sin conexión, la profesora o profesor puede elegir una
de las siguientes opciones:

● Muestre videos (como el video Alter Ego) y haga que los/las estudiantes
respondan por escrito a esos videos.
● Entregue a los/las estudiantes una descripción de las siguientes
tecnologías.
● Organice a los/las estudiantes en grupos para que imaginen una
tecnología que (según ellos/as) todo el mundo debería tener en el futuro.
Los grupos explican su tecnología a otro y luego cada grupo responde las
siguientes preguntas sobre la tecnología de los demás.

Estudiante juega con una herramienta de pintura RGA (GAN) como parte de la actividad
Ficción especulativa.

72
Nombre: _____________________________________________ Fecha: ____________________

Futuros especulativos – Actividad, versión 1

Descripción

En este ejercicio aprenderán a pensar en el tipo de mundo que creamos cuando

desarrollamos una nueva tecnología y en las consecuencias no deseadas que
pueden ocurrir.

Instrucciones

1. Vayan a: http://gandissect.res.ibm.com/ganpaint.html
2. Exploren un rato la herramienta.
3. Respondan las siguientes preguntas:

Escriban una breve descripción de su tecnología:

¿Qué partes podrían estar interesadas en esta tecnología? ¿Quién podría

verse más afectado/a por esta tecnología? En una lluvia de ideas,
nombren al menos 10 partes interesadas.

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
73
Si esta tecnología se usara para hacer daño, ¿cómo podría hacerse?

Si esta tecnología se usara para ayudar a otras personas, ¿a quién podría

ayudar?

En 50 años, esta tecnología podría hacer el mayor bien de la siguiente

manera:
1.

2.

3.

En 50 años, esta tecnología podría causar un gran daño de la siguiente

manera:
1.

2.

3.

Después de completar estas sugerencias, levanten la mano y pidan un

computador. Con su compañera o compañero, hagan una presentación sobre su
tecnología.

74
Nombre: _____________________________________________ Fecha: __________________

Futuros especulativos – Actividad, versión 2

Descripción

En este ejercicio aprenderán a pensar en el tipo de mundo que creamos cuando

desarrollamos una nueva tecnología y las consecuencias no deseadas que
pueden ocurrir.

Instrucciones

1. Vayan a: https://app.inferkit.com/demo
2. Seleccionen "custom prompt" en la casilla de la parte superior y escriban un
texto sobre cualquier tema (el servicio está optimizado para el inglés, por lo que
se recomienda usar oraciones simples en ese idioma, apoyándose en
traductores en línea). Exploren la plataforma.
3. Respondan las siguientes preguntas:

Escriban una breve descripción de su tecnología:

¿Quiénes podrían tener intereses en esta tecnología? ¿Quién podría verse

más afectado por la misma? En una lluvia de ideas, nombren al menos 10
partes interesadas.

1.
2.
3.
4.
5.
6.
7.
75
8.
9.
10.

Si esta tecnología se usara para hacer daño, ¿cómo podría hacerse?

Si esta tecnología se usara para ayudar a otras personas, ¿a quién podría

ayudar?

En 50 años, esta tecnología podría hacer el mayor bien de la siguiente

manera:
1.

2.

3.

En 50 años, esta tecnología podría causar un gran daño de la siguiente

manera:
1.

2.

3.

76
Nombre: _____________________________________________ Fecha: ____________________

Futuros especulativos – Actividad, versión 3

Descripción

En este ejercicio aprenderán a pensar en el tipo de mundo que creamos cuando

desarrollamos una nueva tecnología y las consecuencias no deseadas que
pueden ocurrir.

Instrucciones

1. Vayan a: https://demo.mr.affectiva.com/
2. Exploren un rato la herramienta. Si lo necesitan, pueden activar la traducción
automática del sitio, desde la opción situada en la parte derecha de la barra de
direcciones de Google Chrome (o bien, apoyarse en otro complemento o
traductor en línea).
3. Respondan las siguientes preguntas:

Escriban una breve descripción de su tecnología:

¿Quiénes podrían tener intereses en esta tecnología? ¿Quién podría verse

más afectado por la misma? En una lluvia de ideas, nombren al menos 10
partes interesadas.

1.
2.
3.
4.
5.
6.
7.
8.
77
9.
10.

Si esta tecnología se usara para hacer daño, ¿cómo podría hacerse?

Si esta tecnología se usara para ayudar a otras personas, ¿a quién podría

ayudar?

En 50 años, esta tecnología podría hacer el mayor bien de la siguiente

manera:
1.

2.

3.

En 50 años, esta tecnología podría causar un gran daño de la siguiente

manera:
1.

2.

3.

78
Nombre: _____________________________________________ Fecha: ____________________

Futuros especulativos – Actividad, versión 4

Descripción

En este ejercicio aprenderán a pensar en el tipo de mundo que creamos cuando

desarrollamos una nueva tecnología y las consecuencias no deseadas que
pueden ocurrir.

Instrucciones

1. Vayan a: http://deepangel.media.mit.edu/
2. Exploren un rato la herramienta. Si lo necesitan, pueden activar la traducción
automática del sitio, desde la opción situada en la parte derecha de la barra de
direcciones de Google Chrome (o bien, apoyarse en otro complemento o
traductor en línea).
3. Respondan las siguientes preguntas:

Escriban una breve descripción de su tecnología:

¿Quiénes podrían tener intereses en esta tecnología? ¿Quién podría verse

más afectado por la misma? En una lluvia de ideas, nombren al menos 10
partes interesadas.

1.
2.
3.
4.
5.
6.
7.
8.
79
9.
10.

Si esta tecnología se usara para hacer daño, ¿cómo podría hacerse?

Si esta tecnología se usara para ayudar a otras personas, ¿a quién podría

ayudar?

En 50 años, esta tecnología podría hacer el mayor bien de la siguiente

manera:
1.

2.

3.

En 50 años, esta tecnología podría causar un gran daño de la siguiente

manera:
1.

2.

3.

80
Búsqueda del tesoro en YouTube

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Al igual que en el Bingo de IA, se pide a los y 1.d Tecnología 30 minutos
las estudiantes (en parejas) que reconozcan 2.b I° Medio
los diversos sistemas de IA en la plataforma OA1, OA3
YouTube (por ejemplo, el algoritmo de II° Medio
individualización de la publicidad, el OA4, OA6
algoritmo de recomendación, el clasificador Matemática
de comentarios, etc.). Para cada sistema, los I° Medio
y las estudiantes identifican qué está OA14
tratando de predecir el algoritmo y el
conjunto de datos que usa.

Ejemplos de respuestas y discusión para la Búsqueda del tesoro en YouTube

81
Ejemplos de más respuestas y discusión para la Búsqueda del tesoro en YouTube

82
Guía para el profesor o profesora

Propósito: Entender que los algoritmos pueden tener varios objetivos y

motivos.

Materiales necesarios

● Computadores
● Hoja de trabajo

Para comenzar: su proyecto final consiste en rediseñar YouTube. Antes de

comenzar una lluvia de ideas sobre cómo serán nuestros proyectos,
investiguemos durante un rato los algoritmos que YouTube ya está utilizando.

Divídanse en grupos de 2 ó 3 estudiantes y completen la hoja de trabajo.

Descubrirán las formas en que YouTube usa la IA. Para cada característica
distinta, 1) describan los datos que se utilizan para crear el algoritmo, 2) lo que
el algoritmo está tratando de aprender y 3) la “opinión” general del algoritmo.

[Entregue las hojas de trabajo y los computadores].

Muy bien, primero, hagamos esto juntos. Abran sus computadores en YouTube y
escriban las primeras 3 letras de su raza de perro favorita. ¿Qué pasa?

[Los/las estudiantes dicen que YouTube completa el resto de su

búsqueda].

Así es, eso se llama búsqueda sugerida. ¿Qué notaron sobre las sugerencias que
les dio YouTube?

[Los/las estudiantes comparten sus observaciones].

Intenten escribir algunas letras más. ¿Qué notan?

[Los estudiantes comparten sus observaciones].

83
¿Qué creen que el algoritmo está tratando de aprender en este caso?

[Los/las estudiantes dicen que está tratando de adivinar lo que están

buscando].

Si. Está tratando de entender lo que están buscando antes de que terminen de
escribirlo. ¿Qué datos creen que está utilizando el algoritmo para hacer eso?

[Los estudiantes dicen que sus búsquedas anteriores, así como las de
otras personas].

Sí, correcto. YouTube está utilizando datos de sus búsquedas anteriores, así
como de otras personas como ustedes. ¿Para qué creen que se están
optimizando?

[Los/las estudiantes dicen que para que vean más videos y así haya más
ingresos por publicidad].

Muy bien, ahora trabajen en parejas para buscar en Google otros algoritmos que
pueda estar usando. Piensen en lo que el algoritmo está tratando de aprender,
qué conjunto de datos está utilizando para aprender eso y para qué podría estar
optimizándose. Hagan su mejor esfuerzo y levanten la mano si tienen alguna
pregunta.

[Los/las estudiantes trabajan por aproximadamente 30 minutos.]

Hablemos un rato de lo que encontramos. ¿Quién quiere compartir un ejemplo?

[Escriba ejemplos en la pizarra, buscando específicamente lo siguiente]

84
Nombre Datos ¿Qué está ¿Para qué se
tratando de está
“aprender”? optimizando?
Búsqueda sugerida Historial de Cuáles son las Más videos vistos
(autocompletar) búsqueda anterior búsquedas más
realizado por comunes, para
ustedes y otras predecir lo que
personas ustedes desean
ver
Recomendaciones Historial de Qué videos les Videos en los que
visualización del gustaría ver hizo clic (y, por lo
usuario/a, según lo que ya tanto, anuncios
historial de hayan visto vistos)
visualización de
otros/as
usuarios/al
Sección de Cantidad de me Qué Qué comentarios
comentarios gusta (likes) que comentarios son mantendrán al/la
tiene el los más usuario/a en la
comentario, relevantes plataforma por
popularidad de más tiempo
quienes
comentaron
Resultados de Búsquedas Qué videos Videos en los que
búsqueda anteriores por esperan ver se hace clic (y, por
el/la usuario/a y los/as lo tanto,
otras personas usuarios/as anuncios...)
como él/ella (en cuando realizan
qué videos se una búsqueda
hace clic en última
instancia)
Anuncios Historial de Qué productos Interacciones con
visualización y/o servicios los anuncios
del/la usuario/a

85
 pueden atraer a
un/a usuario/a
Reproducción Historial de Qué video Videos vistos;
automática visualización el/la querrá ver un mantener a
usuario/a, usuario a los/las
historial de continuación usuarios/as en el
visualización de sitio web
otros/as
usuarios/as

[Una vez que todos los algoritmos están escritos en la pizarra, pregunte a
los/las estudiantes sobre el proceso].

¿Cómo supieron qué datos se usaron para influir en el algoritmo? ¿Cómo se

decidieron sobre la opinión?

¿Esta tarea fue fácil o difícil?

¿Hay algo que les haya sorprendido?

86
Nombre: _____________________________________________ Fecha: ____________________

Búsqueda del tesoro en YouTube - Hoja de actividad

Trabajen con una compañera o compañero para descubrir las formas en que
YouTube usa la IA. Para cada característica, 1) describan los datos que se
utilizan para crear el algoritmo, 2) lo que el algoritmo está tratando de
aprender y 3) la “opinión” general del algoritmo.

Nombre Datos ¿Qué está ¿Para qué se

tratando de está
“aprender”? optimizando?

87
Rediseño de YouTube

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Los y las estudiantes aplican lo que han 2.b Tecnología aprox. 4 horas
aprendido hasta ahora, construyendo una 3.a, 3.b, 3.c, I° Medio
matriz ética sobre el algoritmo de 3.d OA4, OA5
recomendación de YouTube. Basándose 4.a, 4.b, 4.c II° Medio
en esta matriz, determinan un objetivo (u OA6
“opinión”) para su algoritmo. Luego, Inglés
hacen un prototipo en papel para I° Medio
mostrar cómo se vería esta nueva versión OA5
de YouTube e imaginan características II° Medio
que cumplan con los intereses que OA8
identificaron en sus partes interesadas.

Diapositivas

Las diapositivas se encuentran en:

https://docs.google.com/presentation/d/1zOq586NX9ehS5tg9MPl7waC8AuH
1y8ENd-wRk1mFV_o/edit?usp=sharing

88
Nombre: _____________________________________________ Fecha: ____________________

Rediseño de YouTube - Hoja de actividad

En esta actividad, la tarea de su grupo es rediseñar YouTube, de acuerdo con lo

siguiente:

Paso 1: Identificar a las partes interesadas. Deberán rediseñar YouTube

teniendo en cuenta a estos actores.

Hagan una lluvia de ideas de al menos 10 partes interesadas que se

preocupan por el algoritmo de recomendación de YouTube.

1. _________________________________________________
2. _________________________________________________
3. _________________________________________________
4. _________________________________________________
5. _________________________________________________
6. _________________________________________________
7. _________________________________________________
8. _________________________________________________
9. _________________________________________________
10. _________________________________________________

Paso 2: Identifiquen algunos intereses o valores que sus partes

interesadas podrían querer incluir en su algoritmo. Para cada una de las
partes interesadas mencionadas anteriormente, identifiquen al menos
dos formas en que se preocupan por los resultados del sistema de
recomendaciones de YouTube.

89
Parte interesada Valor #1 Valor #1

Paso 3: Completen la siguiente matriz ética a partir de sus respuestas

anteriores:

Youtube
(la empresa)

Paso 4: Identifiquen el objetivo de su algoritmo a partir de la matriz ética

anterior:

90
¿Por qué decidieron este objetivo? Explíquenlo brevemente:

Paso 5: Describan qué datos necesitan para enseñarle a su algoritmo las

acciones correctas en base al objetivo definido anteriormente:

Paso 6: ¿Qué características tendrá su plataforma de YouTube rediseñada

para lograr este objetivo?

Paso 7: Usando los materiales que tengan a mano, diseñen una maqueta
de la experiencia de usuario. Su prototipo debe mostrar una maqueta de:

● Sistema de recomendación
● Sección de comentarios
● Resultados de la búsqueda

Opcionalmente, pueden incluir maquetas de:

● Búsquedas sugeridas (autocompletar)

● Reproducción automática (autoplay)
● Configuraciones de publicidad

91
Seminario socrático de YouTube

Descripción

Descripción Objetivos del Oportunidades Tiempo

programa curriculares
Los y las estudiantes leen el artículo titulado 2.b Tecnología 30
“Youtube evalúa traspasar los vídeos 3.a, 3.b, 3.c I° Medio minutos
infantiles a su aplicación para niños”, basado 4.c OA1, OA3, OA6
en una publicación de The Wall Street Journal, 5.a II° Medio
y participan en un seminario socrático para OA5, OA6
discutir qué partes interesadas fueron más Lengua y
importantes o influyentes en los cambios Literatura
propuestos a la aplicación YouTube Kids y si I° Medio
deberían existir tecnologías como la OA10, OA22
reproducción automática (autoplay). II° Medio
OA10, OA22

Instrucciones

Forme un círculo y entregue a cada estudiante una copia del artículo y pida que
vayan turnándose para leerlo en voz alta.

Después de leer el artículo, pídales que lo resuman en sus propias palabras. A

continuación, encontrará una lista de preguntas como guía para la
conversación.

Lectura

Para esta actividad, los/las estudiantes leen el siguiente artículo, basado en una
publicación de The Wall Street Journal:

https://www.efe.com/efe/usa/sociedad/youtube-evalua-traspasar-los-videos-i
nfantiles-a-su-aplicacion-para-ninos/50000101-4004615

92
Preguntas del Seminario socrático

[Antes de realizar las preguntas, considere introducir cambios si lo considera

necesario, ya que esta actividad fue pensada originalmente para estudiantes de
7° y 8° básico, que son usuarios más probables de YouTube Kids y sujetos de
algún nivel de moderación de parte de sus padres sobre los contenidos que
consumen].

1. ¿Alguien puede resumir este artículo?

2. ¿Cuál es el objetivo de este rediseño? ¿Para qué se está optimizando esta
plataforma?
3. ¿Alguien puede nombrar las partes interesadas abordadas en este
artículo?
a. ¿Cuál es la parte interesada más importante?
b. ¿Qué parte interesada está haciendo el mayor cambio o tiene más
poder?
4. ¿Creen que YouTube Kids debería ser un producto separado? ¿Por qué?
¿Por qué no?
5. ¿Alguna vez han visto un contenido inapropiado en YouTube? ¿Qué
hicieron?
6. ¿Usarían la aplicación YouTube Kids?
7. ¿Sus padres los hacen usar controles de contenido de vez en cuando?
8. ¿Le gustaría (YouTube Kids) a sus padres?
9. ¿Le gustaría a sus hermanos menores o mayores?
10. ¿Cómo creen que se sienten los anunciantes al respecto?
11. ¿Creen que será popular?
12. ¿Creen que YouTube bajará sus ganancias? ¿Está bien si pierden
ganancias?
13. ¿Qué sucede si hay más o menos contenido inapropiado?
14. ¿Por qué existe la reproducción automática? ¿Quién se beneficia con la
reproducción automática? ¿Debería existir la reproducción automática?

93
Agradecimientos

Gracias a:

● Daniella DiPaola por desarrollar la guía del/la docente para la Búsqueda

del tesoro en YouTube.
● Ilana Pelzman-Kern por construir las tarjetas del Bingo de IA.
● Cathy O'Neil por discutir con nuestro equipo su trabajo sobre matrices
éticas, para usarlo como herramienta de enseñanza.
● Al equipo de Creative Lab de Google por compartirnos Teachable Machine.

El apoyo y los recursos para desarrollar este trabajo fueron provistos por el MIT
Media Lab Member Consortia y el Personal Robots Group, dirigido por Cynthia
Breazeal.

Las y los estudiantes que participaron en el piloto de este programa posan para una
“foto desordenada” fuera de la cúpula del MIT.

94