Mostrando entradas con la etiqueta robot. Mostrar todas las entradas
Mostrando entradas con la etiqueta robot. Mostrar todas las entradas
Imagen: Bing Creator (DALL-E3)

La ciencia-ficción lleva postulando con la Inteligencia Artificial (IA) prácticamente desde que existe como género. Sin embargo, no ha sido hasta hace poco cuando ha pasado a formar parte de nuestro día a día y por tanto, cuando el público ha comenzado a hacerse muchas de las preguntas que los aficionados llevamos viendo planteadas en innumerables obras del género. Una de las primeras reacciones ante el sorprendente avance en poco tiempo que han experimentado las aplicaciones basadas en esta tecnología, ha sido la de asombro y en algunos casos, temor. Un miedo ancestral a nosotros mismos y a nuestras creaciones, las cuales parecen no tener un final en cuanto al límite de sus capacidades, hasta postular con dejarnos atrás como especie dominante y convertirnos para ellas en meras hormigas intelectuales. Sin embargo, una vez superada esa inicial sorpresa, lo que se ha visto es que las herramientas que usan IA no son más que «organizadores» de información y que al tener acceso a una cantidad ingente de esta, el resultado es extraordinario. No obstante, también se ha evidenciado que queda mucho camino por delante en aspectos como los siguientes:

  • Generan un contenido a partir del trabajo de otros autores sin tener en cuenta la autoría.
  • Dicho contenido generado por la IA a partir de material original humano, está siendo reutilizado de nuevo por la IA sin distinguir unos de otros, distorsionando el resultado y obligando a los proveedores y buscadores a etiquetar el contenido para poder realizar dicha diferenciación.
  • Para alimentar los algoritmos de IA con modelos adecuados, es necesario un «ejército» de trabajadores mal pagados para realizar tareas de corrección de todo aquello que ha de ser revisado —incluyendo pornografía y mutilaciones—

Ahora bien, ese «largo camino» que queda por recorrer implica que la IA todavía puede mejorarse mucho. Esto no ha acabado aquí, aunque de momento, se puede reflexionar sobre lo que llevamos.

El atrevimiento de la ignorancia 

El dicho popular señala que suele presumir aquel que menos tiene para hacerlo. También, que el que permanece más calmado es el que menos sabe lo que pasa. Y por último, está el atrevimiento del ignorante. Esos sesgos están contemplados en un concepto llamado efecto Dunning-Kruger, por el cuál las personas de bajo desempeño tienden a sobrestimarse, es decir, son menos capaces para la autocrítica, precisamente por dicha carencia. Una IA puede parecer cualquier cosa menos carente de desempeño, sin embargo, para poder autoevaluarse —para poder dar una medida estimada del posible error de sus respuestas— es necesario poseer alguna consciencia de este. Es necesario «saber» que no lo sabes todo, que «hay más ahí fuera». Una IA asume que todo lo que existe es lo que tiene en su memoria, no tiene manera de considerar lo que no tiene. Aunque la IA se asume que aprende, lo hace a partir de un modelo y de los datos con los que se la alimenta, pero no tiene en cuenta lo que no se le está ofreciendo. Por tanto, una IA no tiene medida alguna de sus errores. Se limita a ofrecer de forma genérica advertencias para que revisemos los datos en algunos casos, como los avisos de los medicamentos para mantener fuera del alcance de los niños.
«Su defecto más profundo es la ausencia de la capacidad más crítica que posee cualquier inteligencia: decir no solo lo que ocurre, lo que ocurrió y lo que ocurrirá, sino también lo que no ocurre y lo que podría y no podría ocurrir»

Noam Chomsky, lingüista y experto en ciencia cognitiva (enlace)

Errar es de humanos

El ser humano es falible por naturaleza. No somos «perfectos». Debido precisamente a nuestros prejuicios, se suele considerar nuestra condición despectivamente como algo defectuoso, sujeto a disonancias de todo tipo. Sin embargo, un análisis algo más objetivo nos advierte que esto es sencillamente inevitable. En verdad, el ser humano es una entidad que funciona bastante bien la mayoría de las veces, adaptándose a circunstancias muy volátiles y diversas. Pretender cierto grado de perfección es probablemente aberrante. Esta no existe más que en acotados diseños teóricos —como los de una IA—. Por tanto, nuestra inevitable y a veces molesta falibilidad, probablemente sea nuestra principal característica que nos diferencie frente a ella. Pero no en sentido negativo por el fallo en sí mismo, sino por la capacidad que nos proporciona ser conscientes de nuestro alejamiento de ese ideal que solo existe en nuestra imaginación. Un motor y reflejo de nuestra creatividad, tan simple para nosotros pero tan complicado para una IA.
«la respuesta escapaba a mi comprensión porque requería de una mente inferior, o quizá menos limitada por los parámetros de la perfección»

 —El Arquitecto (Matrix Reloaded Wachowsy's)

ChatGPT
Respuesta proporcionada por las IA de OpenAI 'ChatGPT' y Google 'Bard' a la pregunta de si
usan programación probabilística en su código —no las usan—

Existen varios casos y estudios que apoyan esta visión. En el 2018 Google y Uber, introdujeron modelos de programación probabilísticos para mejorar sus algoritmos de predicción. Es decir, aplicaron un factor de error —al menos, un grado de incertidumbre— para mejorar su modelo, lo que no deja de resultar paradójico. Desde entonces el único inconveniente que parece que tengan estos paradigmas probabilísticos son los elevados requerimientos de computación. A día de hoy no parece que se haya llegado a una solución definitiva, evidenciando que las posibles mejoras parece que se encuentran en el ámbito de cómo la IA maneja la incertidumbre.
«mientras una inteligencia no demuestre ese punto de duda e inseguridad, ansiedad ante la posibilidad del fracaso y la capacidad de adaptar según las circunstancias el grado de éxito respecto al objetivo original, no habrá realmente inteligencia»

F. J. Suñer Iglesias (El Sitio de ciencia-ficción)

De manera paralela, en el otro lado de esta ecuación se encuentran los estudios sobre la consciencia humana y qué hace hace a nuestra inteligencia tan particular y distinta de la artificial. Precisamente, varios estudios concuerdan que es el carácter probabilístico de la mecánica cuántica la que mejor podría explicar cómo funciona nuestra mente y una de las conclusiones más llamativas es que la principal característica que nos define es la de cometer errores. En definitiva, tanto para mejorar la inteligencia artificial en si misma, como para hacerlo con la interacción de esta con los humanos, es necesario contemplar el error como parte de un proceso de interacción con el mundo real. Un mundo de probabilidades donde las cosas no siempre salen como queremos. Un mundo en el que la humanidad ha tenido que aprender a vivir, convencidos de una seguridad como manera de hacer frente a la incertidumbre que no deseamos aceptar del todo, pero que en el fondo sabemos que está ahí. Unos humanos que a pesar de sus tropiezos y errores, hemos sabido aprovecharlos y aprender de ellos, para lograr llegar hasta donde estamos.

Enlaces

  • Rubio, Isabel. La creación de la World Wide Web fue un accidente. (17/05/2020). Noticias & Protagonistas (publicado originalmente en El País) [acceso el 25/10/2023] <enlace>
  • Green, Tristan. Quantum cognition theory explains why humans make stupid decisions (20/01/2020). The Next Web. [acceso el 25/10/2023] <enlace>
  • Niel, David. Here's Why Our Most Irrational Decisions Could Be a Result of Quantum Theory. (17/09/2015). Science Alert. [acceso el 25/10/2023] <enlace>

Leer más...

Aunque los escritores usan el mismo papel para sus obras, el estilo de cada uno influirá en la facilidad para expresar sus ideas a través de él. Los hay descriptivos, otros narrativos. A algunos les gusta la aventura y otros se centran en los personajes. Las ideas que Isaac Asimov volcaba en sus obras a través de abstractos conceptos, provocaban que lector tuviera que reflexionar sobre ellos para comprender el relato. Esta circunstancia es probablemente el motivo de su escasa adaptabilidad en el medio audiovisual. Para la película de la que trata el artículo, la obra del buen doctor parece haber sido usada cogiendo títulos e ideas de aquí y de allá en función de dicho parámetro y de su fama entre el gran público. El resultado no es especialmente malo —de hecho, es mejor que otros de igual o más éxito— pero esperar encontrarse con un ejemplo de adaptación de la obra del mismo nombre es una vana pretensión.

El título

Sean cuales fueran los motivos que llevaron a darle a esta película el título que lleva, se puede afirmar con seguridad que el parecido con la obra del mismo nombre no fue uno de ellos. Tal vez entre esa cosa llamada «publico general» Isaac Asimov está fuertemente identificado con los «robots», mientras que para los aficionados con algo más de recorrido en esto de la ciencia-ficción puede que sea su obra Fundación el título con el que se le asocie. Es decir, escogieron este en función de una audiencia heterogénea lo más numerosa posible y del formato clásico del blockbuster comercial, no como un intento de adaptación de la obra literaria homónima.

El reparto

Tras Independence Day (1996) y Hombres de Negro (1997) Will Smith se había convertido en una cara habitual en cierto tipo de películas de ciencia-ficción. Su consagración en 2001 con el biopic de Muhammad- Ali sorprendió a muchos al comprobar cómo el simpático chico de El Príncipe de Bel-Air se había transformado en una estrella «seria» de Hollywood. Su elección por tanto no es extraña para esta película, independientemente si su color de piel coincide o no con el de la obra de la que se ha extraído la adaptación para el guion. Y si añadimos que el propio actor era también uno de los productores, pues quedan pocas opciones. En cuanto al resto del reparto son secundarios solventes adecuados de los que hay poco que añadir, salvo un par de caras que en aquel entonces no eran muy conocidas, pero luego íbamos a acabar viendo muchas, muchas veces.

Shia LaBeouf
Antes que en la saga Transformers, Shia LaBeouf comenzó su lucha contra los robots en esta película

Aaron Douglas
Después vendrían los Cylones. A Aaron Douglas le van los robots «peleones»

El guion

Parece que la discusión sobre cuál es la obra de Asimov que más parecido tiene con esta película es un tema que genera cierta polémica. Como ejemplo señalar que mientras en la entrada de la Wikipedia de la obra literaria comentan que está basada en Caliban de Isaac Asimov (Roger MacBride Allen, 1993), en la entrada de la película dicen que el guion está basado en Hardwired, de Jeff Vintar (1994) —mencionado en los créditos de la película—.




En cualquier caso, queda claro que la relación entre esta película y el libro son poco más que la «sugerencia» de las Tres Leyes de la robótica de Asimov, pero resulta evidente su conexión con otras obras del autor. La cuestión es ¿por qué se habla de otros autores cuando de lo que se trata es de relacionarlo con la obra del patilludo escritor? Admitiendo que el guion proviene del trabajo de Vintar ¿cuáles en cualquier caso pudieron ser sus fuentes de inspiración? En definitiva ¿qué obras del propio Asimov han podido ser las fuentes primarias para la película sin que sea necesario pasar por interpretaciones de otros autores? Para acercarnos al problema enumeremos en primer lugar algunas de las principales características de la historia que nos cuentan en la obra cinematográfica [SPOILERS]:

  • La Tierra transcurre por un futuro cercano en el que la humanidad está aceptando a los robots como compañeros.
  • El protagonista es un detective de policía escéptico con la situación advirtiendo peligros y riesgos que nadie ve, además de ser un apasionado de lo vintage —zapatillas de deporte, motos de combustible fósil, entre otros—. Su jefe opina que su rechazo es debido a la identificación con el monstruo de Frankenstein que se vuelve contra su creador.
  • En extrañas circunstancias un nuevo tipo de robot de apariencia más humana, supuestamente incapaz por programación de dañar a un ser humano, es el principal sospechoso de asesinato.
  • El humano, pese a su inicial desconfianza, acaba teniendo una cierta complicidad con el robot que le ayuda a resolver el crimen.
  • Una especialista en robots —Susan Calvin— ayuda al detective a esclarecer el asunto.
  • Se descubre una trama por la cual los robots superan su programación transcendiendo las Tres Leyes, como una consecuencia lógica necesaria para proteger a la humanidad de sí misma.
  • El robot, capaz de tener sueños, realiza un dibujo visto en ellos donde lo que en un primer momento parecer ser un humano, acaba siendo el propio robot como líder en un mundo donde los robots se revelan y la humanidad es incapaz de corregir sus errores.
  • Hay espectaculares persecuciones por las abarrotadas ciudades en la que los habitantes trasladan sus automóviles por unas plataformas horizontales.
Dibujo realizado por el robot Sonny en la película. Fuente: Cine de Pedro

«Un detective reacio a los robots acaba colaborando con uno de ellos para esclarecer un crimen». Al menos inicialmente, es inevitable la comparación con la obra del buen doctor Bóvedas de Acero (1954). Comparten ambas obras el uso de una trama policial como envoltorio de una historia más profunda. No obstante, es obvio que hay divergencias significativas entre ellas. Tratándose de un blockbuster cinematográfico cuyas decisiones creativas obedecen a parámetros de rendimiento comercial, se puede decir que la obra del escritor es mencionada fundamentalmente para hacer uso de su fama como reclamo. Pero partiendo de este contexto, se pueden establecer paralelismos entre los conceptos usados en diversas obras de Asimov con los de la película, que logran que el conjunto sea más que digno. Sin ir más lejos, en la siguiente obra de la trilogía a la que pertenece la obra mencionada —El Sol desnudo (1957)— de nuevo la misma pareja de detectives ha de resolver un caso de asesinato en la que un robot es el principal sospechoso, premisa que en este caso coincide plenamente con la de la película. En ambas obras se dan la misma paradoja y disyuntiva: ¿cómo puede un robot dañar a un ser humano si su programación se lo impide? Así que, si la primera obra no es suficiente, la siguiente obra de la trilogía forma un tandem en el que se resume más de la mitad de la película. Otros detalles como la doctora Susan Calvin y sobre todo, el dibujo del robot protagonista de un escenario apocalíptico —simbolizado por los restos de una gran puente colgante— donde sólo quedan robots guiados por una misteriosa figura «humana», están extraídos de manera casi literal del relato corto Sueños de Robot (1986). Volviendo al esquema anterior y enlazándolo con lo visto:

  • La Tierra transcurre en un futuro relativamente cercano en la que los robots son usados como asistentes, pero con algunas reticencias debidas al llamado Complejo de Frankestein —Bóvedas de Acero—.
  • Un detective de policía comparte socialmente este rechazo, pero por su mente abierta y manera alternativa de pensar no lo asume como un dogma. En todo caso, tiene cariño por lo clásico —fuma en pipa—. Su superior piensa de él que es un «modernista», porque no piensa como el resto de la sociedad —Bóvedas de Acero y El Sol Desnudo—.
  • Un extraño caso de asesinato en la que un robot es sospechoso —El Sol Desnudo—.
  • Una especialista en robots —Linda Rush, subalterna de Susan Calvin— programa a uno de ellos con un nuevo paradigma basado en fractales lo que le otorga la capacidad de tener sueños. En ellos, se ve a sí mismo como líder de una revolución de los robots contra los dueños humanos que los esclavizan. En la descripción del sueño, lo que en principio es un hombre resulta ser el propio robot —Sueños de robot—.
  • Un robot humaniforme de alta capacidad es designado como compañero del detective humano, formando una formidable pareja de detectives combinado sus capacidades (Bóvedas de Acero y El Sol Desnudo).
  • Los robots superan y transcienden su programación original de las Tres Leyes y le añaden una más —la Ley Zeroth— en la que es la humanidad al completo la que ha de ser protegida por encima de todo Robots del Amanecer (1983) y Robots e Imperio (1985)—.
  • Hay espectaculares persecuciones por las abarrotadas ciudades en la que los habitantes se trasladan en plataformas móviles —Bóvedas de Acero—.


El protagonista

La sociedad mostrada en la película es fácilmente identificable con la actual: una sociedad acomodada que acepta de manera inconsciente una tecnología cuyos principios de funcionamiento no controla ni comprende. Su protagonista, el detective Spooner, es aparentemente el único que por un trauma personal se muestra escéptico. Es esta característica por la cual la víctima del supuesto asesinato le elige como destinatario de un críptico mensaje, precisamente por apartarse del común de los individuos que forman la sociedad imaginada en la película, y no seguir de manera inconsciente sus preceptos o dogmas. En el caso de la Trilogía de los Robots, la sociedad —terrestre— los acepta también, pero por una necesidad impuesta por las circunstancias y no aceptada por la mayoría de individuos, los cuales se muestran reacios a perder sus trabajos sustituidos por máquinas. Su protagonista, Elijah Baley, si bien comparte el mismo escepticismo, su superior piensa de él que no sigue los cánones de pensamiento habituales. Por añadidura, la colaboración en un principio forzada por necesidades políticas con un robot avanzado, le hará cambiar de parecer respecto a ellos. En definitiva, aunque en un primer momento parecen situaciones opuestas, ambas obras comparten a un protagonista como el único capaz de intuir los riesgos, amenazas y también, las oportunidades, que la aparición de una nueva tecnología puede producir en sus respectivos entornos sociales.

El robot

Los robots de Isaac Asimov son representados tradicionalmente como figuras electro-mecánicas de aspecto vagamente humano gracias a su forma antropomórfica. Un cuerpo de metal o plástico con colores dorados, marrones, blancos o grises. En Bóvedas de Acero, sin embargo, aparece un nuevo tipo de robot de aspecto completamente humano. Un «replicante», salvo por su construcción tecnológica, no biológica. En la película no llegan a tanto, pero sí que escogen un robot diferente, un robot que suponía un cambio de paradigma respecto a los anteriores, un robot con un rostro flexible capaz de «simular» emociones, característica que en el 2004 era algo de lo que comenzaba a hablarse en cuanto a sistema de reconocimiento facial, aunque todavía pertenecía al terreno de la ciencia-ficción —hoy en día existen prototipos de aspecto humano capaces de hacer algo parecido—. Dejando a un lado la pregunta de por qué los responsables del guión decidieron que en el año en el que transcurre la película los robots no tenían aspecto humano, lo que se puede decir hoy en día es que el robot Sonny y los de su tipo simbolizan la tecnología actual de consumo masivo basada en los mismos tres aspectos fundamentales: estética amigable, ubicuidad y la conexión de datos a un sistema central —llamado engañosamente «la nube»—. Tan solo tienen que quitar la coma en el título —en inglés— y formaran «iRobot» (¿les suena de algo lo de la «i» delante y el color blanco translúcido?)

«una criatura con una piel de plástico duro y brillante, de un color blanco casi muerto» (descripción de un robot en la novela Bóvedas de Acero)

El mensaje

Aunque el formato de blockbuster entorpece en algunas ocasiones, vista con la distancia —tanto metafórica como temporal— esconde algunas ideas que resultan interesantes. En el año de producción de la película apenas había comenzado la actual revolución de los dispositivos portátiles o móviles personales, permanentemente conectados de manera inalámbrica a un servidor de datos. En ocasiones se ha hablado sobre la supuesta poca clarividencia de Asimov al no «predecir» la aparición de este tipo de tecnología personal de uso masivo, pero sí supo advertir de sus riesgos y de su posible impacto en la sociedad, situación que hoy en día es posible comprobar. En la trilogía de los robots nos habla de las consecuencias que puede producir una dependencia excesiva de la tecnología a través de los espaciales, una nueva especie de humanos cuya total dependencia de los robots se acerca peligrosamente a la que algunos tienen de unos teléfonos móviles que creen poseer, pero cuyo verdadero funcionamiento ignoran por completo. En este sentido, la obra cinematográfica explora este concepto a través de unos reclamos publicitarios con las últimas versiones de unos robots que los consumidores hemos de actualizar sí o sí, los cuales van a ir a parar a todos los hogares, repletos de sensores y con una permanente conexión a un servidor central propiedad de una empresa privada. Los robots en la película son los dispositivos móviles y los asistentes domésticos con inteligencia artificial. Dispositivos que en teoría están para asistirnos y ayudarnos, pero que en la realidad nos usan como mera mercancía estadística para uso publicitario.

La obra toca otros aspectos filosóficos sobre el libre albedrío que Asimov ha manejado en obras como El Hombre Bicentenario (1976). Temas relacionados como la supuesta disyuntiva entre libertad o seguridad, ya se habían convertido en algo prácticamente habitual tras el ataque a las Torres Gemelas. Pero uno de los aspectos de fondo de la película básicos que apenas se habían tratado entonces y que ahora —en pleno desarrollo de la Inteligencia Artificial— comienzan a preocupar a los juristas, es la responsabilidad legal de los actos perpetrados por los sistemas autónomos dotados de capacidad de decisión. Las situaciones a los que estos sistemas pueden enfrentarse —por ejemplo, en situaciones extremas pero posibles en las que un sistema de conducción autónomo ha de decidir a cuantas personas atropellar— recuerdan poderosamente a las paradojas que el creador de la palabra robótica relataba en sus numerosos relatos sobre el tema. De momento, mientras se decide otra cosa, parece que lo que se propone es la prosaica y pragmática medida de que paguen impuestos.

Fidelidad con el legado cultural de Asimov

Aunque no es un robot el traidor a la especie humana sino una inteligencia artificial, sigue presente el asunto de las famosas tres leyes de la robótica a las cuales también estaba sujeta. En un principio parece que estas son vulneradas, algo que los más dogmáticos seguidores de Asimov encontraran escandaloso. Sin embargo, este escenario alternativo no es incompatible con su legado, como explicó la propia hija del escritor. Además, en relatos como el comentado de Sueños de Robot y la propia Ley Zeroth del mismo autor, demuestran que el escritor puso a prueba sus propias imaginarias leyes —en la que nunca creyó más que como un ejercicio literario—. Los robots antropomórficos, una vez liberados de su conexión con la IA, se convierten en compañeros humanos sujetos a las tres leyes. Sonny es, sin embargo, un robot especial, ya que desde el principio tiene la capacidad de elegir si seguir las tres leyes o eventualmente, transgredirlas. En este sentido es un equivalente al robot Daneel Olivaw, cuya primera aparición la hizo de nuevo en la obra Bóvedas de Acero. El definitiva, la cuestión en la que coinciden la película y la obra de Isaac Asimov es que finalmente los robots acaban conviviendo con los humanos como iguales, como compañeros, siendo este tal vez el aspecto en el que el autor creía como necesidad ineludible de la especie humana. 
    Leer más...
    Isaac Asimov se citaba a si mismo en Nueva Guía de la Ciencia, uno de sus más importantes trabajos de divulgación científica, explicándonos el origen la la palabra robot y cómo surgió su derivado de robótica, gracias al propio autor. Además, realiza una critica del tratamiento poco realista e impropio de la ciencia-ficción, dado en muchas obras de este género a los seres con inteligencia artificial creados por el Hombre. Tiene ya algunos años pero los retos que describe siguen todavía vigentes:
    Inevitablemente, se presenta la pregunta: ¿a fin de cuentas, qué no son capaces de hacer los ordenadores? ¿No conseguirán hacer, inevitablemente, cualquier cosa que lleguemos a imaginar? Por ejemplo, ¿puede un ordenador de la clase adecuada insertarse en una estructura que se parezca al cuerpo humano, para convertirse, finalmente, en verdaderos autómatas, no en los juguetes del siglo XVII, sino en seres humanos artificiales con una fracción sustancial de las habilidades de los seres humanos?
    Tales materias han sido consideradas muy seriamente por los escritores de ciencia-ficción desde muchos años antes de que se construyera la primera computadora moderna. En 1920, un autor de teatro checo, Karel Capek, escribió R.U.R., una obra en la que los autómatas eran producidos en masa por un inglés llamado Rossum. Los autómatas estaban previstos para hacer el trabajo del mundo y conseguir una vida mejor para los seres humanos, pero, al final, se rebelaban, eliminaban a la Humanidad y comenzaban una nueva raza de vida inteligente por sí misma.
    Rossum procede de una voz checa, rozum, que significa «razón» y R.U.R procedía de «Robots Universales de Rossum», donde robot es una palabra checa que significa «obrero», con la implicación de involuntaria servidumbre, por lo que puede traducirse por «siervo» o «esclavo». La popularidad de la obra acabó con el antiguo nombre en uso de autómata. Robot lo ha remplazado, en todos los idiomas, por lo que, en la actualidad, se piensa de robot como cualquier mecanismo artificial (a menudo descrito en una forma vagamente humana) que lleva a cabo funciones que, de ordinario, se cree que son apropiadas para los seres humanos.
     
    No obstante, en conjunto, los escritores de ciencia-ficción no tratan a los robots de una forma realista, sino como objetos que han de emplearse con cautela, como villanos o héroes diseñados para poner de relieve la condición humana. Sin embargo, en 1939, Isaac Asimov, que en aquella época tenía sólo diecinueve años, cansado de los robots que eran irrealmente malvados o irrealmente nobles, comenzó a dedicar algunos de los relatos de ciencia-ficción que publicaba a los robots, vistos meramente como máquinas y construidos, como lo son todas las máquinas, con algún intento racional de una adecuada seguridad. A través de los años 1940, publicó relatos de esta clase y, en 1950, nueve de ellos fueron reunidos en un libro que se llamó Yo, Robot.
    La seguridad de Asimov se formalizó en las «Tres leyes de la robótica». La frase se usó por primera vez en un relato publicado en marzo de 1942, y fue la primera vez en que se empleó la voz robótica, término en la actualidad aceptado por la ciencia y la tecnología del diseño, construcción, mantenimiento y empleo de los robots.
    Las tres reglas son:
    1. Un robot no puede dañar a un ser humano o, por inacción, permitir que algún ser humano resulte dañado.
    2. Un robot debe obedecer las órdenes de los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
    3. Un robot debe proteger su propia existencia, en tanto en cuanto dicha protección no entre en conflictos con la Primera o la Segunda Ley.
    Naturalmente, lo que hizo Asimov fue algo puramente especulativo y, en el mejor de los casos, sólo puede servir como fuente de inspiración. El auténtico trabajo es el que llevan a cabo los científicos en este campo.
    Isaac Asimov.
    Nueva Guía de la Ciencia. Barcelona: Plaza & Janes, 1985.
    Pag.797-798


    Publicado originalmente en el blog Portal Planetas Prohibidos el 16 de marzo de 2012
    Leer más...
    image Las diferencias que a la luz de la ciencia actual existen entre una máquina inteligente (o que pretenda serlo) y un ser humano, parece que van a existir durante mucho tiempo, hasta que se produzca el descubrimiento de alguna nueva técnica de construcción y programación de ordenadores completamente distinta de la actual, y aún por conocer.
    Leer más...
    ADN
    La vida es un concepto que La Ciencia no ha logrado determinar con la exactitud que habitualmente se espera de ella. Como en tantas otras ocasiones, esta indefinición es aprovechada por los autores de Ciencia-Ficción para dar rienda suelta a su talento creativo o tal vez, liberar sus inquietudes o temores por conocer respuestas a las clásicas preguntas que atormentan a la especie Humana desde sus orígenes, el Complejo de Prometeo por el cual ansiamos parecernos a nuestro creador, sea divino o natural.
    ¿Hasta que punto es capaz el ser humano de crear seres como el, en qué aspectos y con qué condiciones?

    Seguramente, estas y otras preguntas similares han pasado por la cabeza de muchos autores de la antigüedad desde tiempos inmemoriales, puede que desde que el Hombre es consciente de su existencia, y necesita conocer cuál es el papel que El Creador, quien quiera que sea y allá donde quiera que este, ha dispuesto para el durante el limitado tiempo que permanecerá en este mundo. La soledad que en la búsqueda a estas respuestas ha experimentado nuestra peculiar especie, hace que cobre especial valor el imaginar la existencia a nuestro lado de un compañero con el que compartir nuestras dudas existenciales, para que tal vez en el intento por comprenderle, logremos hacerlo con nosotros mismos.

    «El Grito» de Munch. Representación particular de la angustia del ser humano ante los misterios de su existencia Por otro lado, la desdicha por la que en ocasiones pasa la humanidad al tener que sufrir una y otra vez sus propios defectos, que provocan la muerte y destrucción de sus congéneres allá donde se aposentan, hace elucubrar a los autores de todos los tiempos a los seres humanos cometiendo el pecado de soberbia o hubris, como le llamaron en la Grecia Clásica, desafiando a su Dios e imitándole con la creación de seres para tenerlos a su servicio, sometiéndoles a su misma o peor suerte.

    La Historia

    Cartel promocional de la película alemana «El Golem» (1920), de Paul Wegener Según la mitología judeocristiana, Dios creo al ser humano moldeando su cuerpo a partir de barro, insuflándole a continuación una chispa divina. Siguiendo esta tradición, los antiguos transmitieron la leyenda del Golem, ser creado por el propio Hombre a su servicio a partir de materia inanimada, pero al que no le había transmitido el don de la humanidad, algo que solo El Supremo podía otorgar, según las antiguas escrituras.

    Cuentan las leyendas que los alquimistas del Medioevo eran capaces de crear, esta vez a partir de material biológico, una especie de seres a imitación del ser humano pero de tamaño diminuto. A estos seres infra-humanos surgidos a partir de materia biológica se les denominó homúnculos. Siglos después Frankenstein (Mary Shelley, 1818) surgido de restos de origen humano tal y como imaginó la autora de la obra literaria que lleva el mismo nombre, compartiría muchos de sus aspectos con el Golem, excepto precisamente el de la materia de la que estaba construido.

    Figuración según los alquimistas de un «homunculus» dentro de una espermatozoide.

    Conocida escena de la película «Tiempos modernos» (1936), de Charles Chaplin
    En 1936 Charles Chaplin (1989-1977) dirige su película Tiempos Modernos, en la que se critica la esclavización que la humanidad se impone a si misma en las cadenas de producción. Dos años después fallecía Karel Capek (1890-1938), que un tiempo antes había brindado tanto a la Ciencia-Ficción como al mundo en general, un concepto gracias al cuál el imaginario colectivo plasmaría en el la gran mayoría de las leyendas sobre seres creados por el ser humano a su imagen, con los que compartir nuestras búsquedas filosóficas: el robot.

    Capek imaginó en su obra R.U.R. (Robots Universales Rossum) (1920) a los robots como unos seres artificiales construidos y diseñados para sustituir al hombre en las tareas ingratas. Aunque este autor de origen Checoslovaco pensó en ellos como biológicos, sin embargo, el tratamiento posterior de los robots ha sido de forma mayoritaria la de considerarlos como entidades mecánicas. Hasta tal punto se asocia un androide o robot con un humano mecánico, que los guionistas de Blade Runner utilizaron, quien sabe si para evitar confusiones, el conocido término de replicante para referirse a su particular versión de los humanos artificiales.

    Escena de la representación teatral en donde se utiliza por 1ª vez el concepto actual de «robot»

    Pero si hay alguien a quien se le puede responsabilizar de la actual imagen de los robots, ese no es otro que Isaac Asimov. Sin olvidar a Stanislav Lem (1921-2006) y su tratamiento satírico y humorístico, aunque no menos filosófico, es gracias a las tres (más una) leyes que el Buen Doctor retorció hasta extremos casi imposibles en mil y una historias de robots, cuando la humanidad pudo por fin encontrar en el mundo de la literatura de Ciencia-Ficción a ese tan anhelado compañero de viaje, algunas veces accidentado, que la humanidad lleva recorriendo y cuyo destino aún no conoce.

    Robot «Asimo» de Honda

    El supuesto científico

    La concesión científica que habitualmente se ha venido empleando en estas obras de Ciencia-Ficción, ha sido la de dar por supuesta la capacidad de crear seres tan inteligentes o con las mismas capacidades de los humanos, y una vez en este punto, especular y filosofar sobre que sentirán, o que dudas y anhelos tendrán. En definitiva, en que se parecerán o distinguirán, de los seres humanos.

    «Cog», principal intento de simular la inteligencia humana en un androide

    Sin embargo, a pesar de los prometedores comienzos de la Inteligencia Artificial (IA), los descubrimientos en este campo han puesto de manifiesto las tremendas dificultades en lograr su objetivo, por no hablar de cierta imposibilidad.

    Problema: la consciencia, la inteligencia y la intuición humanas

    Alan Turing El primer escollo en el camino hacia el desarrollo de máquinas con capacidades similares al cerebro humano, fue encontrado gracias al trabajo combinado del científico Inglés Alan Turing (1912-1954); conocido entre otros aspectos por su decisiva intervención en el descifrado de las máquinas de codificación Enigma, utilizadas en la Segunda Guerra Mundial por el bando Nazi; y el matemático Austriaco Kurt Gödel (1906-1978), cuyo trabajo en el área de la lógica ha sido uno de los más influyentes en el pensamiento científico y filosófico del siglo XX, según reza la Wikipedia. Aunque existen otros nombres de la comunidad científica cuyas aportaciones fueron imprescindibles, podría decirse que estos dos científicos dieron la forma final al problema, cuyas conclusiones que se pueden extraer, son como poco, sorprendentes:

    Kurt GödelSegún los Teoremas de Incompletitud de Gödel, no es posible diseñar un algoritmo, o conjunto de axiomas, que sean a la vez consistentes y completos. Un conjunto de axiomas lógicos jamás serán suficientes para auto-demostrarse. Dicho de otra forma, la capacidad del Ser Humano en ser consciente de si mismo, no es posible lograrla matemáticamente en una máquina. Tal vez el ser humano no pueda aún siendo consciente de si, demostrarse a si mismo por mucho que se esfuerce siguiendo los caminos actuales, y mucho menos por lo tanto construir otras entidades que sean como él.

    Turing por su parte, le dio la vuelta al trabajo de Gödel y dentro de la Teoría de la Computabilidad, desarrolló el modelo formal en el que se basan todos los computadores de la actualidad llamado máquina de Turing, gracias al cuál demostró que existen problemas que un sistema automático no puede resolver ni tan siquiera disponiendo de recursos ilimitados. Dicho de otra forma, que por potente que sea un computador determinístico (todos los actuales), es materialmente incapaz de lograr metas que un cerebro humano alcanza sin relativa dificultad.

    La mente y consciencia, funcionando en alguna parte del cerebro humano De lo anterior se deduce que la consciencia que el ser humano posee sobre si mismo y del universo que le rodea, no puede ser emulada o simulada plenamente mediante un algoritmo o programa, con los paradigmas de programación tradicionales. Igualmente, compartiendo espacio en algún lugar del mismo cerebro que las alberga, existen el genio y la intuición humanas, gracias a las cuales los pertenecientes a dicha especie pueden resolver problemas a cuya solución los computadores no logran ni acercarse.

    Pero una vez más, el Titán Prometeo acude desde su lugar en el Olimpo en ayuda de la humanidad, desafiando al resto de dioses y proporcionándonos de nuevo el fuego en forma de Mecánica Cuántica.

    Prometeo, de nuevo en ayuda de la humanidad y desafiando a los Dioses
    Foto: Wikipedia

    ¿Soluciones?: ordenadores cuánticos y redes neuronales

    Representación de la superposición de estados en la mecánica cuánticaDesde que el ser humano descubrió la mecánica cuántica, no han cesado los quebraderos de cabeza para cierta parte de la comunidad científica que se aferra a un determinismo ordenado y predecible, pero totalmente insuficiente para continuar avanzando en el conocimiento. La Teoría del Caos y las estructuras matemáticas como los fractales, de aparición común en la naturaleza, añaden cierta angustia a dicho sector, que piensa que se le desmorona el sólido edificio de sabiduría que creían tener. Sin embargo, estas nuevas áreas del conocimiento, lejos de la incomodidad que para algunos parece presentar, pueden ser ese mensaje que Prometeo envía a la humanidad.

    Sir Roger Penrose Uno de los miembros de la comunidad científica que ha decidido superar viejos prejuicios y explorar estos nuevos caminos es el científico de origen inglés Sir Roger Penrose (1930), que ha proporcionado algunas explicaciones al curioso funcionamiento de la mente humana. Según este científico y tal y como explica en su Teoría de la Mente, el cerebro humano ha de funcionar según patrones distintitos a los que la IA ha barajado hasta ahora, siendo la mecánica cuántica y su carácter no determinista y probabilístico, la que explicaría la mayor parte de las proezas que el órgano que protege nuestro cráneo es capaz de realizar.

    Fotografía del primer computador cuántico de la empresa canadiense D-Wave Penrose defiende también la dualidad mente-cerebro, de forma similar a la dualidad programa-computador o software-hardware. En virtud de este concepto, un hardware basado en un computador cuántico, podría ejecutar software basado en redes neuronales o algoritmos genéticos, llegando a cotas que solo la Ciencia-Ficción ha imaginado hasta ahora, ya que lamentablemente, todavía no se han superado las dificultades existentes para construir una máquina cuántica funcional.

    La Ciencia-Ficción

    Siguiendo la tradición de respeto hacia el rigor científico, la Ciencia-Ficción no solo no ha sido ajena sino que casi ha predecido algunos de estos trabajos científicos:

    • captcha En 1968 Philip K. Dick nos dejo algunas claves en su obra en cuanto a las diferencias entre humanos y andrillos (replicantes en la película) con la aparición en la novela que sirvió de inspiración a Blade Runner del test de empatía de Voigt-Kampff, gracias al cual es posible diferenciar entre unos y otros. Turing ideo una prueba son intenciones similares llamada Test de Turing, siendo una de las muchas formas de este sistema el conocido para dejar comentarios en el que hay que teclear unas letras borrosas (Captcha), que un sistema automático no puede identificar, pero un humano si. 
    • «Elijah Baley» el detective humano que forma pareja con el legedario R. Daneel Oliaw. Y no, no es Will Simth.En algunas de las conversaciones que la pareja de detectives (incomprensiblemente desperdiciada para el cine o la televisión) formada por el humano Elijah Baley y el robot R. Daneel Olivaw (Bóvedas de acero –1954-, El Sol Desnudo –1957-, Robots del amanecer –1983-) mantenían entre ellos, consistían en tratar sobre sus diferencias. Su autor Isaac Asimov, describe en estas obras a la intuición humana como el factor que distinguiría a unos de otros al ser esta la capacidad de llegar a conclusiones útiles sin tener información suficiente. Es decir, sin ser determinista.
    • «Asimo» y las leyes Asimov permite que sus robots transciendan de si mismos al autoprogramarse con una ley que implicaba tener una consciencia de su papel en el universo asimilando un concepto abstracto como es el de La Humanidad: La Ley Zeroth, que podría definirse como una religión robótica y que supeditaba a las demás leyes:
      «Un robot no puede hacer daño a la humanidad o, por inacción, permitir que la humanidad sufra daño.»
    • En El robot humano (Isaac Asimov y Robert Silveberg, 1992), sus autores cuentan como el robot convencional doméstico NDR 113 adquiere habilidades artísticas debido a una serie de errores encadenados en las tolerancias de su cerebro positrónico, dando lugar a una combinación irrepetible y singular.
    • sueños de robot En el relato corto Sueños de robot (Isaac Asimov, 1986), la celebre doctora en el universo de los robots de Asimov, Susan Calvin, se enfrenta a un curioso caso: un robot que sueña. La explicación es que este robot ha sido programado mediante un paradigma nuevo según el relato, basado en fractales. Lo curiosísimo de este relato es la coincidencia en el decisivo papel que podrían tener los fractales en la comprensión del mundo cuántico tal y como explican en este artículo científico del 30 de marzo…¡de 2009!

    La impresionante Tricia Helfer y un no menos impresionante Cylon mecánico... en otro sentido, claro La aparición de un humano artificial en cualquiera de sus formas (robot, androide, replicante, golem, etc.) junto a los humanos es utilizado como pretexto para todo tipo de debates en torno a cuestiones éticas y filosóficas sobre nuestra condición o nuestro papel en el universo, que con toda probabilidad no van a verse resueltas. El uso de parejas de protagonistas con cierto antagonismo, es también habitual en todo tipo de obras siendo el eje central de muchas de ellas. Una mención especial en estos aspectos que merece un artículo dedicado, es el excepcional tratamiento que se hace de la convivencia de Cylones y humanos en la moderna serie de Battlestar Galactica.

    Figurilla representativa del «Golem de Praga» Para finalizar este largo artículo, una pequeña anécdota sobre la más famosa de las leyendas del Golem: en la misma ciudad donde falleció el responsable del vocablo que hoy utilizamos para denominar a nuestros Golems modernos o robots, oculto en algún ático, yace uno de los más famosos de estos seres mitológicos construidos a semejanza del ser humano: el Golem de Praga.

    Cuenta la leyenda que en el siglo XVI un rabino de esta ciudad poseía uno de ellos. Su Golem era, como todos los Golem, tosco y falto de humanidad. Era así hasta tal punto que ejecutaba las ordenes de forma literal, y un día, al mandarle a sacar agua del rio inundó el poblado.

    Lo increíble de este cuento es que se describe la actitud del Golem como la de un autómata moderno desde la óptica de la época, como si fuera uno de los robots que siglos más tarde imaginaría Karel Capek en su representación teatral, en la misma ciudad donde hoy reposa el supuesto Golem de la leyenda.

    ¿Sería el Golem un robot venido del futuro? ¿Sería esa chispa divina de la que carecía el Golem, la forma de llamar de los antiguos al Factor Humano que hoy les falta a los sistemas de IA?

    Bueno, al menos como argumento de Ciencia-Ficción creo que no estaría mal.

    Enlaces relacionados:



    Artículo publicado posteriormente en:
    Leer más...
    _
     
    Google+