Bienvenidos a este punto de encuentro en el que es posible compartir ideas sobre el mundo
de las tecnologías y su relación con la cultura y la educación.



martes, 5 de julio de 2016

Ética e inteligencia artificial




Recientemente he leído diferentes artículos que hacen referencia a los avances de la inteligencia artificial, y a su cada vez mayor capacidad para tomar decisiones de manera autónoma, lo que lleva a plantearnos cuestiones de tipo moral. Este dilema ya lo formuló Stanley Kubrick en su película ‘2001, una odisea del espacio’ (1968) donde un robot de última generación llamado Hal 9000, dotado de emociones y sentimientos, trata de asesinar a toda la tripulación de la nave Discovery en la que viajan en una misión a Júpiter, para encubrir varios errores cometidos por él y que considera humillantes. Por cierto, a este planeta acaba de llegar estos días la nave Juno, después de cinco años de viaje.

La cuestión de la ética aplicada al comportamiento de los robots y máquinas con autonomía para la toma de decisiones resulta relevante. El caso más citado en las publicaciones referidas a esta cuestión plantean el siguiente dilema: Imagine que un automóvil viaja a una velocidad considerable por una carretera, se trata de un vehículo autónomo. En su interior viaja una persona y repentinamente, tres niños se abalanzan sobre la carretera por error y el coche debe elegir entre dos opciones, seguir hacia adelante y atropellar a los tres niños o dar un giro violento y salirse del trazado con su pasajero. ¿Compraría para su familia un coche que va a matar a sus tripulantes para salvar otras vidas?

En un estudio publicado en la revista Science, se ha recogido la opinión de ciudadanos norteamericanos sobre estos dilemas. La primera conclusión es que la mayoría de los encuestados quiere que los coches autónomos tengan esta moralidad utilitarista: mejor matar a un pasajero que atropellar a 10 peatones. Sin embargo, la mayoría asegura que no compraría un coche con estas características.

Los especialistas en inteligencia artificial sugieren que en un futuro ya cercano, esos coches podrán aprender de forma autónoma su propio criterio moral, ya que la inteligencia artificial estará más desarrollada para cuando lleguen los vehículos completamente autónomos, llamados de nivel 5. Los coches saldrían de fábrica igual pero cada uno evolucionaría de forma distinta sus elecciones éticas, según comportamientos que irá aprendiendo.

El equipo del Instituto Tecnológico de Massachusetts (MIT) que ha participado en el estudio ha lanzado una web en la que se puede realizar un test para poner a prueba nuestros criterios morales en diferentes escenarios complejos. ¿Matar al pasajero o a un peatón que cruzaba cuando debía? ¿Atropellar a dos ancianos o a un niño? ¿A un médico que cruza en rojo o a un ladrón que cruza en verde? Terminado el test, podrá comparar su criterio con la media de los demás encuestados.

Esta cuestión cabe ampliarla a otros muchos ámbitos como el de las armas inteligentes (sic), la vigilancia policial, la ingeniería genética, la tecnología aplicada al mundo financiero, etc. La regulación ética, el establecimiento de límites en base a unos criterios morales parece razonable y esperable una reflexión profunda sobre estas cuestiones que influirán en nuestro futuro.

5 comentarios:

Abel dijo...

Buenas tardes, en primer lugar decir que me ha parecido muy interesante el tema de la inteligencia artificial, puesto que desde hace tiempo plantea un dilema ético y moral presente en todos los avances tecnológicos, no me había llegado a cuestionar la pregunta de un coche autónomo de respuesta a ese dilema de atropellar a los niños o matar a los pasajeros. Sin duda hace más que nunca plantearme que el componente humano va a ser siempre irremplazable, puesto que no sabemos hasta qué punto va a saber pensar por sí misma una máquina, aunque dudo que sea completamente humano, puesto que creo que es algo en nosotros como seres, y nos hace cuestionarnos todo eso no como una respuesta lógica, sino como algo que sale de ti, innato y que se supone que va a dar la mejor respuesta al "otro".
Un tema que sin duda hay que seguir reflexionando, aunque me inclino más por una posición consevadora y permitiendo a las tecnologías ciertas cosas, pero no todo.

Un saludo.

Angel Alfaro dijo...


Un tema interesante para el que hablar, más cuando, desde mi perspectiva, tras realizar el test y comprobar mis impresiones, no recuerdo haberme enfrentado a decisiones de este tipo, tanto en ámbito formal como informal. Creo que ayudan a reflexionar sobre el valor de la vida y a preguntarnos acerca de qué podríamos hacer en cuestiones como esa. A darnos cuenta de los valores internos que nos rigen y de los que a menudo no somos conscientes. A pensar sobre la tecnología y sobre dónde queremos que llegue.
En cuanto a la pregunta del post, ¿quizá lo más sensato sea que cada usuario eligiera su propio sistema inteligente, o mejor que esto vaya controlado desde fuera? ¿Moral a la carta o impuesta desde una compañía? ¿Quién debería tomar esa decisión? Más aún, cuando compramos un coche o un producto de estas características, ¿somos informados de estas cuestiones?

Desde la faceta educativa, yo me pregunto: ¿debería la escuela, la educación, influir en estas decisiones? ¿Cómo preparar a nuestros alumnos para que puedan tomar alguna decisión como esta? ¿dónde se aprende a sobrellevar este tipo de elecciones? ¿debería acaso aprenderse?
Este post me ha inducido a la reflexión sobre estos temas. Ha sido una pequeña ventana a un mar de incertidumbres que se añaden al océano que es enseñar.

Pero, ¿acaso no sería más terrible tener estas respuestas y no dudar?

Gabriela Rosenova dijo...

La inteligencia artificial es un tema de gran interés y no solo por motivos éticos. El ejemplo que el autor señala, me recuerda a una película protagonizada por Will Smith, llamada “I, Robot” (Yo, robot). El argumento de dicha película se basa en que en el futuro las personas conviven con los robots y estos a su vez realizan funciones de ayudantes y algunos incluso están programados para ser parejas de humanos. Los mismos humanos pueden utilizar cuerpos de robots en los que se transfiere su conciencia y sustituyen los suyos propios. Bien, este tema es muy complicado ya que todavía no hemos llegado hasta ese punto y no sabes las consecuencias de integrar inteligencias artificiales en nuestra vida cotidiana. Lo que tengo claro es que si dejamos que las máquinas decidan, nos arriesgaremos a ser controlados por ellas, aunque suene muy futurista.
También he oído hablar de que muchas profesiones desparecerán porque quieren sustituir a los empleados por robots. Me quedo estupefacta solo en pensar las repercusiones sociales y económicas que esto tendría, y estarían muy lejos de ser positivas.
Una de las profesiones que se ha nombrado como candidata de sustitución, es la del docente. Ahora es cuando realmente entra en juego nuestra moral. El colegio es un contexto socializador y los docentes asumen roles variados, a veces no solo los necesitamos para el proceso de enseñanza-aprendizaje, sino para que nos enseñen valores e incluso para su apoyo personal. Necesitamos a una persona de carne y hueso. La educación es un proceso de interacción social que se lleva a cabo entre seres humanos, es lo que, de hecho, nos diferencia de los animales, así que me parece una idea absurda sustituir a los docentes por máquinas.
Soy consciente de que el tema del post ni se acerca a lo que he escrito, pero me ha parecido muy interesante sugerir la reflexión sobre lo expresado anteriormente.

Genial post, y mis felicitaciones por el blog.

Saludos!!

Marina na dijo...

Un tema interesante el de la inteligencia artificial, que cada vez está más presente en la actualidad y que trae consigo tantos debates.
Por una parte, el uso de tecnología podría ser beneficioso en algunos aspectos, pero nunca podrá llegar a tener el razonamiento de un ser humano. Es por ello, que me decanto porque las maquinas supongan un complemento al conocimiento de las personas y que sirvan de ayuda en los aspectos que sean necesarios, así como para agilizar ciertas prácticas, pero no sustituiría la cualificación y conocimientos de una persona por los de un robot.
¿Qué pasaría si las máquinas comenzasen a sustituir a las personas en sus puestos de trabajo? Es cierto que la "mano de obra" sería mucho más barata, pero ¿Qué pasaría con esas personas que perderían sus puestos a nivel económico? ¿Cómo cambiaría la sociedad con la desaparición de ciertos puestos de trabajo?
En mi opinión, una entrada que hace pensar sobre aspectos muy interesantes a la vez que actuales.
¡ Un saludo !

Marina na dijo...

Un tema interesante el de la inteligencia artificial, que cada vez está más presente en la actualidad y que trae consigo tantos debates.
Por una parte, el uso de tecnología podría ser beneficioso en algunos aspectos, pero nunca podrá llegar a tener el razonamiento de un ser humano. Es por ello, que me decanto porque las maquinas supongan un complemento al conocimiento de las personas y que sirvan de ayuda en los aspectos que sean necesarios, así como para agilizar ciertas prácticas, pero no sustituiría la cualificación y conocimientos de una persona por los de un robot.
¿Qué pasaría si las máquinas comenzasen a sustituir a las personas en sus puestos de trabajo? Es cierto que la "mano de obra" sería mucho más barata, pero ¿Qué pasaría con esas personas que perderían sus puestos a nivel económico? ¿Cómo cambiaría la sociedad con la desaparición de ciertos puestos de trabajo?
En mi opinión, una entrada que hace pensar sobre aspectos muy interesantes a la vez que actuales.
¡ Un saludo !