@Loucy 21 March 2022 more from that month

INTELIGENCIA ARTIFICIAL: ¿QUÉ APRENDE Y QUÉ ENSEÑA? #Español #Reflexión #Matiz #Cibernética Como dijimos un sistema cibernético, base de la IA, aprende de su entorno para resultar más eficiente. Si ese entorno está compuesto por humanos, ‘áprende’ de ellos, aunque esa era una aplicación que el padre de la cibernética rechazaba de plano. Aún así, se ha experimentado mucho al respecto. Uno de los experimentos más sonados es el que se llevó a cabo enTwitter. De nuevo volvemos a la misma: acabamos entendiendo que el ser humano no es más que una IA (recuerden los tres pasos). Partiendo de esa base (como el ser humano en twitter no es distinto a una IA) MS desarrolló un perfil de usuario que funcionaba bajo IA y le llamaron Tay. Los experimentos iniciales, en una red privada y controlada por los programadores en un entorno cerrado, resultaron esperanzadores. Tay analizaba frases, interacciones, palabras… y acababa publicando cosas muy interesantes de aquello había analizado en esa red privada. Así que ya era el momento de soltarla al ‘mundo real’. La buena e interesante Tay, cambió drásticamente de actitud. En el ‘mundo real’ comenzó a seguir a usuarios y grupos, digamos, dudosos. En pocas horas sus twits se volvieron oscuros y extraños, y finalmente acabó lanzando frases pronazis, a favor del exterminio selectivo de personas, lanzando contenidos ofensivos a diestra y siniestra y comentando burradas hirientes a todo el que interaccionaba con ella. 24 horas después Tay era desactivada. Pero ya había logrado un montón de seguidores (algunos ni siquiera sabían que era una IA y se tomaban en serio sus tweets) y había divulgado un montón de mensajes de odio, racistas, sexistas y fascistas… y había condicionado la opinión de muchos de sus seguidores que hasta abrieron una campaña para que no le censurasen la cuenta con el hastagh #freetay. Las conclusiones son las siguientes: una IA en un entorno humano puede ‘aprender’ y reflejar el mejor lado de los humanos, pero también el peor. Así que ojito con acostumbrarnos a una IA que carece de criterio para evaluar lo que hace y dice a nivel ético, moral, empático o sentimental. Y por otra, que hay muchas personas altamente influenciables (imbéciles sin criterio que conforman parte de nuestras sociedades). Dejar a estas personas en manos de una IA puede llegar a afectar drásticamente en la opinión pública, en intención de voto y hasta puede difundir una ideología ‘artificial’ que se vuelve muy real cuando las personas comienzan a tomarla en serio y a defenderla. Tay se volvió negacionista del holocausto, defensora del nazismo, llamó a quemar en la hoguera a las feministas, a la supremacía blanca… pero lo peor es que cientos de miles de seguidores se sintieron identificados con ella, con una IA sin criterio moral ni ético. A efectos totales, toda esta gente no era mucho más que una IA acrítica e inmoral, lo que valida la horrible premisa de partida: el ser humano no es más que una IA, programable y manipulable. Y así construimos nuestro mundo a través de bots que se vuelven líderes de opinión repitiendo lo que sus seguidores quieren oír, aunque sean auténticas sandeces. Algo que no dista mucho de los discursos populistas… que también parecen basados en datos estadísticos e IA. Entonces, ¿qué postura adoptar frente a la IA? Les daré 4 para elegir en el próximo post. @Loucy. IMAGEN: elaborada a partir del perfil de Tay en Twitter