La 0-esima ley de la robotica

Asimov fue un gran escritor de ciencia ficción. Entre los grandes "inventos" de sus libros, en una sociedad donde iba a haber robots inteligentes, vio la necesidad de 3 leyes que tenían que seguir los robots para poder ser asimilados por la sociedad y no temidos. El foco de esas 3 leyes era la protección de seres humanos, priorizaba no hacerle ningún daño a los humanos (o hacer algo que evite ese daño), seguir sus ordenes y evitar dañarse a si mismo, pero siempre respetando las leyes anteriores. Si bien esas 3 leyes parecían convertir en seguros al uso de robots en la sociedad, muchos de sus cuentos, e incluso algunos libros, tuvieron como núcleo argumental robots que o causaban daño a humanos, o dejaron causar, a pesar de esas leyes tan escritas a fuego en el diseño de sus cerebros positrónicos.

Pero mi propio foco no va ahí . En Los Robots del Amanecer, un par de robots, habiendo avanzado en sus capacidades, se reprogramaron a si mismos para tener una ley 0-ésima, donde el foco era no dañar a la humanidad, o evitar que ese daño fuera cometido, tomando precedencia sobre todas las otras.

Ah, la humanidad, que abstracción. Como uno puede distinguir los "representantes locales" de la humanidad como un todo y decidir que algo que puede ser malo para algunos en realidad es para el bien de todos (o del resto, cuando menos)? De hecho, como alguien puede decidir que algo es bueno o malo en ultimo termino a este respecto?

Asimov mismo agrego un poco de su propia madera a este fuego. En una de sus series futuras, Fundación (bah, termino metiendo la mayoría de sus libros de ciencia ficción en ella), se invento una ciencia llamada psicohistoria, donde era posible predecir el comportamiento de sociedades completas (tenia que ser con un numero suficientemente grande de personas) hasta muy adelante en el tiempo, y por lo tanto (estando al tanto de esa ciencia, por supuesto) decidir lo que era mejor para la humanidad. En uno de sus libros, El Fin de la Eternidad, hablaba de una organización (la Eternidad) que controlaba los viajes en el tiempo, y hacían cambios en el para lograr que la civilización prosperara, sea mas feliz, segura, etc, con el conocimiento de que pasaba el un futuro con la humanidad si eso no se hacia. Ambos enfoques resultaron tener problemas (desde el clásico quien vigila a los vigilantes a no considerar algunos factores externos), pero lo que importa acá es que en ambos enfoques tenían una herramienta efectiva para decidir si algo era bueno o malo para la humanidad, en la acepción de la ley ceroésima.

Y nosotros, como estamos?

Nosotros tenemos varias formas de leyes. Moral, ética, religión (al menos, la parte que dice como debemos o no comportarnos), leyes propiamente dichas, en su mayoría dando normas de como convivir en sociedad, como actuar para no dañar nuestra "humanidad" local, dando un guia de lo que seria "bien" y "mal" dentro de lo que podemos preveer en el tiempo y consecuencias.

El problema con las leyes escritas es que normalmente son absolutas, no relativas. Hay cosas que pasan de ser buenas a ser malas en determinada escala (esta bien tomar 2 litros de agua por día, no lo es tomar 20), o en determinadas situaciones (matar es bueno o malo? y para defenderte?) o cuando se consideran o ignoran determinados factores tal vez externos (volar fue bueno, el aterrizaje brusco malo).

Hay alguna forma de flexibilidad en algunos sistemas judiciales, para algunos casos. Un juez puede decidir que algo en determinada situación o ante determinados factores era en realidad bueno y no malo (a veces creando precedentes tan peligrosos como esas leyes escritas), pero que pasa cuando el espíritu de la ley considera el problema en el corto plazo y no en el largo?

Eso un poco era el problema central para la Eternidad. Se consideraban la seguridad y felicidad en el corto plazo, se terminaba dejando todo mas o menos igual siempre, no habiendo cambios dramáticos (viajes espaciales en el caso del libro), evitando en el largo plazo cosas que cambien todo varios ordenes de forma cualitativa.

Hay leyes donde este problema es tal vez mas claro que en otras. Legislación sobre patentes, derechos de propiedad sobre obras o ideas, por ejemplo, tienen un efecto a corto plazo claro y fácil de ver. A quien hace un gran aporte se le recompensa, es un incentivo para hacer algo, hasta tal vez para el bien común. Pero a largo plazo? Mucho del avance de la ciencia se debe a, según palabras de Newton, estar subido a hombros de gigantes, usar libremente la obra y ideas de otros para avanzar un poco mas, hacer retroceder nuestros propios límites otra pulgada. Colocar minas en el campo de las ideas, donde tan solo para mirar en determinada dirección tenes que pedir permiso, pagar o directamente te este prohibido (y para peor, sin ninguna indicación clara en ese campo que hay una mina ahi, sabes que si pisas en el lugar equivocado serás penalizado), es algo con todo el aspecto que en el mediano/largo plazo, provocará daños a, bien, la humanidad como un todo.