@Loucy 29 April 2022 more from that month

LA MÁQUINA MORAL DEL MIT #Español #SmartCity #Tecnología #IA #Dilemas Los interesantes dilemas morales que nos plantea estos días @CelioLopez me han traído a la memoria una vivencia que creo que puede resultar interesante. Hace varios años, en un congreso en Barcelona sobre la ‘Ciudad Inteligente’ (Smart City) coincidí en una ponencia con un tipo del MIT (Massachusetts Institute of Technology). Como buen ingeniero del MIT era un tecnólogo excepcional, pero como suele suceder, a menudo estas personas se fascinan tanto con las posibilidades de la tecnología que no se preguntan sobre sus consecuencias (si leyeron mi post sobre las distintas posturas frente a la IA, podríamos decir que era un ‘futurista’, de modo que yo adopté una posición más ‘ludita’ para confrontarlo). En medio de un congreso, que también era exposición, en los que uno de los temas principales era la IA aplicada al trasporte (vehículos autónomos) y donde coches y autobuses sin conductor te daban paseos por el recinto a base de sensores de proximidad y de movimiento, me tocó defender lo orgánico, lo humano, lo improbable... y lo moral. Tras un largo y apasionado debate, meses después me envió un email preguntándome qué me parecía la ‘máquina moral’ que habían desarrollado junto con otras universidades. Justamente recogía varios de los dilemas que le planteaba para su propuesta de coche “ultraeficiente, autónomo y seguro”. Sin duda, muy interesante y digno de los dilemas de Celio. Les dejo el enlace por si quieren jugar un poco (está también en español): https://www.moralmachine.net/hl/es Olviden los resultados. El MIT no es que sea muy fuerte en perfilados psicológicos, aunque es de lo mejor que hay en tecnología. Así que no me interesa lo que les pueda aparecer como resultado. Eso queda para ustedes y nadie puede juzgarlo. Lo que sí me interesa es que se imaginen la situación de un coche autónomo (sin conductor) ante semejantes circunstancias. ¿Qué decisión debería tomar? ¿A quién cubriría el seguro? ¿A quién pedimos responsabilidad si se equivoca? ¿A la empresa fabricante? ¿Al director? ¿Al jefe de proyecto? ¿Al programador de la IA? A menudo, la IA lleva inoculados los sesgos de aquellos que los crearon. No con mala intención, a veces incluso sin darse cuenta y de forma involuntaria, pero la cuestión es que las decisiones ante dilemas como a los que nos enfrenta Celio, podrían ser tomadas por máquinas sin intervención humana. Entonces… ¿en base a qué valores y criterios deberíamos desarrollar esas máquinas dotadas con capacidad de decisión? De verdad, pruébenlo: https://www.moralmachine.net/hl/es Les dará que pensar. * Chascarrillo: Me encantó la ‘máquina moral’ que desarrollaron, es tremendamente interesante. Pero por llevar la contraria, mi respuesta fue: ‘Vale, esta muy bien. Pero ¿sabes? Tampoco yo sé lo que haría. De hecho, en la autoescuela nunca me formaron para abordar esas situaciones. Así que… ¿por qué exigirle a una IA algo que tampoco nos planteamos para nosotros/as? Su respuesta fue: ‘Are you kidding me?’ (¿Me tomas el pelo?) Y la mía: ‘Of course’ (Por supuesto). Hoy en día, seguimos escribiéndonos de vez en cuando, para hablar de ‘ciudad y tecnología’. XD @Loucy