Las 4 leyes de la Homótica
Estaba viendo el capítulo 11 de COSMOS, uno de esos documentales que muestran cómo los humanos estámos destruyendo toda la Tierra y el Medio Ambiente y estamos acabando con los recursos; y cómo nuestra civilización está basada en una mentalidad cortoplacista, sobre todo por culpa del capitalismo y la obsesión por las ganancias (profit). El día anterior había visto un documental sobre «cuántos recursos tiene, en total, la Tierra». Mostraba estimaciones de cuánto hierro, oro, diamantes, comida, bosques, madera, piedras, peces, cultivos, agua dulce, etc nos queda, y a qué ritmo lo consumimos actualmente y cómo lo vamos a hacer desaparecer todo en un puñado de décadas.
Esos documentales suelen luego de mostrarte la inminente catástrofe que se nos viene, y lo malos malosos que somos los humanos, plantear un futuro en el que los robots hagan todo por nosotros, y seamos todos felices. Claro, los robots y sus Tres Leyes de ciencia ficción.
Por si no las recuerdan:
- Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ra Ley.
- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1da o la 2ra Ley.
y una 4ta ley, o Ley Cero:
Un robot no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.
Esta ley, según la ficción, es más importante y va antes que las otras.
Bueno, el asunto es que me puse a pensar que estas leyes «para robots» en realidad, son tranquilamente también leyes «para humanos». Basta con formularlas de esta manera:
- Un humano no puede hacer daño a otro ser humano o, por inacción, permitir que otro ser humano sufra daño.
- Un humano debe ayudar a otros seres humanos que lo necesiten, excepto si esta cooperación entrase en conflicto con la 1ra Ley.
- Un humano debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1da o la 2ra Ley.
y la Ley Cero:
Un humano no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.
Si se fijan, estas leyes son básicamente la Ley de Oro de la ética, en su forma pasiva y su forma activa. Pero la novedad, es la Ley Cero.
Y eso es lo que me hizo pensar tanto documental catastrofista. ¿Cómo sería el mundo si los humanos siguiéramos moralmente estos principios? No pondríamos nuestra ganancia económica a corto plazo por encima del perjuicio que le haríamos al planeta, o a la gente en él. No sólo habría un principio pasivo de No Agresión al prójimo y un principio de activo de Ayuda al prójimo, que queden POR DELANTE de la tercera ley, de defender el interés propio. Además, habría un nuevo principio global, que nos motive a proteger a la humanidad en su conjunto, a proteger a todo el planeta, a toda una nación, un territorio, a toda una ciudad que vive al lado de un río que queremos contaminar.
Y es que «la Humanidad» es un ente que nunca en la historia, recién ahora, podemos comenzar a entender como un sujeto moral, o un receptor de nuestros actos morales.
Entonces un acto «bueno» es aquel que no perjudica a la Humanidad, a un conjunto de humanos o a un humano en particular. Y un acto «muy bueno» es aquel que beneficia a la Humanidad, un grupo de humanos o a un humano en particular. Y finalmente un acto que beneficie al propio humano que realiza dichos actos. Son leyes que tranquilamente pueden ser seguidas por los homo-sapiens. Quién necesita 10 mandamientos cuando puede seguir 4 leyes simples. De hecho creo que muy en el fondo de nuestros cerebros leptónicos, tenemos grabadas estas leyes. La evolución debió programárnosla necesariamente, como unidades autónomas pero sociales que somos. Necesariamente, porque hacer lo contrario es estúpido y contraproducente, aunque lo hayamos olvidado.
Y bueno, pensaba en estos temas y me imaginaba a mí mismo, dentro de algún cuento de Asimov, charlándolo con algún otro humano, diciendo «hey, ¿te diste cuenta? Las leyes de la robótica tranquilamente podríamos aplicarlas los humanos«. Me pregunto si tal vez él habrá pensado en eso y estoy diciendo una obviedad. En todo caso, me queda claro que los humanos necesitamos una Ley Cero de ahora en más.
Ezequiel Del Bianco
Las leyes de la robótica están pensadas para robots, que fueron diseñados para ser esclavos de los humanos. Tu ley 2 de la homótica dice que «debemos ayudar» siempre y cuando no dañemos a terceros. Eso nos convertiría en esclavos de terceros, nos obligaría a hacer cosas en contra de nuestra voluntad. ¿Hasta dónde llegaría ese deber? Incluso nuestra autoprotección está puesta después de «ayudar a terceros», por lo que técnicamente sería válido bajar a las vías del tren a buscar una cartera de una vieja, con el tren viniendo, y morir en el intento.
En mi orden de prioridades está mi vida antes que «ayudar a los demás», salvo que me encontrase en alguna situación del estilo «Bruce Willis en el transbordador Freedom, a punto de destruir un gran asteroide.»
David Temper
Coincido con Ezequiel, lamentablemente la idea de codificar leyes morales universales suena muy prometedor pero resulta el camino más rápido a un estado autoritario.
Es el problema del socialismo, va concentrando el poder y centralizando las decisiones hasta que la toma de decisiones colectivas termina paralizada y/o desconectada de los datos reales pertinentes.
Por lo tanto, no bastan leyes sencillas universales sino que se requiere un enfoque holístico basado en retroalimentación rápida: Revisa algo como la cibernética organizacional que es un enfoque holístico, humanista y asistido por computadora https://sites.google.com/site/cyberneticajp/la-cibernetica-mundo-futuro/cibernetica-organizacional-co
N3RI
gracias por comentar.
Marito
Tal cual, no lo podrías haber explicado mejor 🙂
N3RI
Isaac Asimov’s essay «Laws of Humanics» was included as a kind of
complementary illustrative epilogue in his novel «Isaac Asimov’s Robot
City, Book I – Odyssey», after Chapter 21.
The «Three Laws of Humanics» Asimov developed in that essay are:
1. A human being may not injure another human being, or, through
inaction, allow a human being to come to harm.
2. A human being must give orders to a robot that preserve robotic
existence, unless such orders cause harm or discomfort to human
beings.
3. A human being must not harm a robot, or, through inaction, allow a
robot to come to harm, unless such harm is needed to keep a human
being from harm or to allow a vital order to be carried out.
http://answers.google.com/answers/threadview/id/388105.html
Iván
No sólo se planteó Asimov la cuestión: el descubrimiento de las leyes de la homótica -la psicohistoria, en su mitología- es el tema central de toda la saga de la fundación.
Héctor
Diez mandamientos son mucha carga para el hombre y en realidad no hacen falta 4 sino 2. Jesús nos dijo: Amarás al Señor tu Dios con todo tu corazón, y con toda tu alma, y con toda tu mente. Este es el primer y gran mandamiento. Y el segundo es semejante: Amarás a tu prójimo como a ti mismo. En estos dos mandamientos se funda toda la Ley y lo que Dios nos dice.
Juan
Hum…. Los ateos estamos en el horno…