El reciente debate entre Elon Musk y Mark Zuckerberg sobre los peligros de la inteligencia artificial para la humanidad, me hizo pensar inevitablemente en Isaac Asimov y sus tres leyes fundamentales de la robótica, las cuales fueron ideadas por los ingenieros que habitan sus cuentos y novelas, para proteger a la humanidad de su más compleja invención, los robots.
Isaac Asimov Fuente
Los robots entran y salen de escena de la obra de Asimov como seres dotados de un instinto de protección hacia el hombre incrustado en los niveles más bajos de su programación. Este protocolo de seguridad, análogo a un código moral, se resume en tres cortos enunciados:
- Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño.
- Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
La pregunta obligatoria es: ¿Son estas leyes una solución factible a los peligros de la inteligencia artificial para la humanidad?
Creo que para respondernos esto primero tendríamos que analizar cómo son los autómatas que imaginó Asimov y si existe un punto de comparación con la realidad, de esta manera podremos tener una idea de si las mismas normas son aplicables. Cabe destacar que no soy ningún experto en inteligencia artificial ni pretendo serlo, sólo soy un entusiasta de la obra de Asimov con un mínimo entendimiento de la tecnología que encuentra este tema muy interesante.
¿Son los robots de Asimov como los que tenemos hoy en día?
La gran mayoría de los robots asimovianos son androides, esto significa que no solamente son antropomórficos, sino que están diseñados para imitar el aspecto y el comportamiento de los seres humanos, aunque es cierto que no todos son como Daneel Olivaw, el robot más importante de la obra de Asimov, que es confundido con un ser humano en prácticamente todas sus intervenciones. Además de esto se llega a entender que varios de ellos poseen una increíble fuerza y agilidad que les permiten realizar tareas que serían demasiado exigentes para un hombre normal, estos atributos por si solos convierten a estas máquinas en potenciales riesgos para los seres humanos si llegasen a salirse de control.
Bien, ningún robot actual reúne todas las caracteristicas de estos impresionantes personajes (al menos ninguno de los que se desarrollan públicamente). Los mecanismos que imitan la apariencia humana no pasan de ser simples juguetes animatrónicos y las maquinarias antropomórficas con aplicaciones prácticas son espantapájaros de metal que no engañarían ni al más afectado miope.
Sin embargo, basta ver a Atlas, el robot más “humano” de la empresa Boston Dynamics, dando volteretas hacia atrás y cayendo de pie, mientras hace recorridos autónomos y mantiene el equilibro cuando es golpeado, para darse cuenta que los esfuerzos de los ingenieros están orientados a convertir en realidad lo que hasta ahora es solamente ficción. Atlas representa un avance importantísimo, pues ha logrado superar los problemas de estabilidad de sus antecesores antropomórficos hasta el punto de convertirse en un acróbata de metal. Boston Dynamics puede ser considerada una versión primitiva de la ficticia U.S. Robots and Mechanical Men, a la cual atribuye Asimov los primeros avances importantes en robótica dentro de su obra.
ATLAS Fuente
¿Piensan los robots?
Este es el tema central de la discusión, el punto en el que el que las normas de seguridad deben reconsiderarse y ya no basta con no meter los dedos o mantenerse detrás de la línea. La inteligencia artificial es lo que nos hace tener pesadillas apocalípticas en las que Morfeo nos hace elegir entre pastillas azules y rojas.
Los robots de Asimov no solo pueden pensar, sino que llegan hasta a soñar, y esto lo logran gracias sus sofisticados cerebros positrónicos, un finísimo e interminable entramado de platino e iridio, a través del cual circulan corrientes de antipartículas cargadas de información, de la misma manera que los impulsos eléctricos viajan por nuestro carnoso cerebro humano. Es en estos complicados circuitos donde están escritas las leyes de la robótica, en un nivel tan profundo de su firmware, que tratar de violarlas o modificarlas, dañaría gravemente o destruiría todo el circuito permanentemente.
Obviamente que no tenemos cerebros positrónicos en la realidad, sobre todo porque no podemos mezclar la materia ordinaria con las antipartículas sin que se destruyan. Sin embargo, sí tenemos las redes neuronales artificiales, modelos matemáticos de cómputo que sustituyen a los algoritmos tradicionales cuando es necesario que las computadoras no sólo realicen determinadas tareas, sino que determinen por su cuenta como realizarlas y de esta manera, aprendan. Las redes neuronales han llegado a tener importantes avances recientemente y controlan cosas que ni llegamos a imaginar, como el contenido que nos muestran las redes sociales, pero aún siguen en un estado primitivo que ni se acerca al complejo cerebro humano y están limitadas por la potencia de procesamiento de las cpus actuales.
¿Son entonces necesarias y factibles la Leyes de Asimov?
Es indiscutible que no estamos ni cerca de vivir en el universo fantástico de Asimov, ni siquiera en sus primeras etapas, pero también es bastante obvio que nos dirigimos por caminos paralelos hacia una realidad muy parecida y es que no por nada Isaac Asimov es considerado uno de los profetas de la ciencia ficción. También debemos tener en cuenta que si bien estamos lejos, la tecnología avanza a velocidades exponenciales y demasiado pronto puede estar muy cerca de demasiado tarde.
Sí, podríamos incorporar a los modelos matemáticos de la inteligencia artifical las tres leyes de la robótica, posiblemente aún en esta etapa primitiva, eso no sería problema, lo que realmente importa es que probablemente no serían muy eficientes, porque si bien no pudiesen modificarse, podrían engañarse, para esto sólo habría que manipular la información que le llega a la máquina, es decir, la manera como percibe la realidad.
Ya en la actualidad hacer que una máquina diferencie entre un humano y otra máquina es una cuestión compleja ¿Se imaginan tener que resolver un captcha para evitar que un robot con orden de matarte te aplaste la cabeza? Ese asunto quizás llegue a depender más de sofisticados sensores biométricos, pero estos se alimentan de señales eléctricas que facilmente podrían falsificarse. Es ahí, desde mi punto de vista, donde fallan las leyes de Asimov, no en cómo procesan la información sino en cómo la información pueda llegar a los procesadores.
De cualquier manera el avance de la inteligencia artificial es inevitable, así como el surgimiento de protocolos de seguridad cada vez más sofisticados, pero probablemente, jamás infalibles.
Bueno, si llegaste hasta aquí te doy las gracias, estoy de acuerdo en que probablemente me extendí demasiado, espero que te haya parecido tan interesante como a mí este tema y te invito a comentar cuál es tu opinión al respecto.
Asimov científico conocedor de la historia intenta ganarle la partida a Jehova anteponiendo la Ley a la criatura, que no se revele como el hombre a la primera prohibición y luego no sirva de gran cosa ni la ley de talión, ni el decálogo, ni todos los códigos habidos ni por haber.
Azaroso pinta el futuro en este asunto de la ética robotica, si el padre es la ciencia y la madre las corporaciones mercantiles y militares.
Excelente post, @flamendialis. Hay un relato de Asimov donde los robots encuentran una forma de violar la ley sin violarla formalmente. No recuerdo cuál es el título, pero seguramente lo conoces. Pasaré a leer tu cuento y luego te comento. Saludos.
Gracias @rjguerra. Sí, hay varios, es un tema recurrente en su obra, aunque siempre que las transgreden de una u otra manera resultan dañados, en los relatos de Yo, robot se abordan esos conflictos. Estaré muy pendiente de tus comentarios en el cuento, apreciaré mucho cualquier recomendación tuya.
Muy buen post. La Ciencia Ficción sin Asimov es como beber agua sin sed.
Gracias @vverde. Definitivamente, es el más duro del género.
Estimado @flamendialis, magnífico post. Una alegría descubrir a otro amante de la ciencia ficción por aquí. ¿Has visto los concursos de @trenz?
Gracias @adncabrera, me alegro mucho que te haya gustado. Sí, empecé a escribir un relato para participar, pero no pude resumirlo en 256 palabras. Acabo de publicarlo.
Te formulas varias preguntas tan difíciles como interesantes y las vas respondiendo a lo largo de tu excelente post. Felicito la idea qie has tenido de abordar este tema que ha angustiado a no pocas personas a lo largo de la historia de la humanidad. Ya en 1920, el escritor checo Karel Capek publicó una maravillosa obra titulada R. U. R. en la cual pareciera que este temor se hace realidad. Felicitaciones. Me encantó la forma en que presentaste el tema.
Muchas gracias @eudisdiaz, me alegro que te haya gustado, realmente es un tema muy interesante y que tiene mucha tela que cortar. A esa obra que mencionas se le atribuye la aparición del termino robot, más tarde el mismo Asimov introduce el termino robótica.
Excelente post . La robótica es fascinante. Da un poco de miedo la idea de convivir con máquinas que actuén igual que tú , pero es una realidad que en un futuro no muy lejano se concretará en algunos paises economicamente poderosos . Muy bien explicado el trabajo de Asimov sobre la robótica. En mi campo , que es la traducción se ha avanzado bastante con la creación de programas informáticos para traducir " Machine -Translation ". Podemos decir, que hoy en día muchas de estas traducciones son de calidad, pero aún esa máquina se ve limitada en el procesamiento de información , si se le compara a lo que puede hacer la mente humana. Gracias por tu publicación .
Así es @francisaponte25, la inteligencia artificial ha logrado imitar muy bien a la mente humana, pero no reproducirla, sobre todo en ese complicado aspecto que es el lenguaje y que personalmente considero, es donde está la clave para lograrlo. Una de mis novelas favoritas es Empotrados de Ian Watson, la cual trata sobre la mente humana y el lenguaje, te la recomiendo, es excelente.
Gracias por la recomendación .
Desconozco el tema. Gracias por compartir.
Gracias a ti por tomarte el tiempo de leer y comentar. Espero que te haya parecido interesante.