Literatura para robots y la inteligencia artificial

Alejandro Cernuda

---

Más allá del placer, la transmisión del conocimiento y otras razones subjetivas, muchas personas han tratado de definir la utilidad de la literatura. ¿Para qué sirven las novelas, los cuentos, la poesía? Románticas explicaciones encuentran tras esta pregunta excusas didácticas para el corazón.

Lo cierto es que ir a la novela para aprender algo, termina relegándola a una prosaica actividad de la corteza cerebral u algún otro pecaminoso órgano de los muchos que se juntan en el cuerpo humano. Es como pretender utilizar la televisión con fines pedagógicos, sencillamente no funciona.

Un reciente estudio a cargo de Mark O. Riedl y Brent Harrison le ha encontrado una aplicación práctica un tanto curiosa, literatura para robots. Cuentan estos señores que nuestro acervo literario se puede convertir en el código perfecto para enseñar ética a nuestros futuros compañeros de hojalata. Ya el cine, y ella misma, se han encargado de hacernos ver cuáles pueden ser las consecuencias de una inteligencia artificial lo suficiente desarrollada.

El sistema es simple y la lógica de por qué buscar en los libros un modo de comportamiento para la inteligencia artificial puede entenderse desde el concepto de ambas categorías: la ética y la literatura. Ellos han comenzado bien: por El Quijote.

Es curioso, pero no gratuito, que el precepto fundamental de todo esto haya sido idea de un escritor: Isaac Asimov. Él planteo tres leyes que consideraba fundamentales para encaminar el desarrollo de la inteligencia artificial.

Preceptos de Isaac Asimov sobre la robótica

• Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano lo sufra.
• Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
• Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.

Lo imaginamos, pero aún no sentimos verdadero temor por el comportamiento futuro de los robots. El temor llegará si continúa el propósito de mejorar sus habilidades. A medida que evolucionen será cada vez más necesario crear un código de ética, si se quiere, que responda a los preceptos enumerados anteriormente.

Del nombre del proyecto

El ensayo de utilizar los libros en la educación de los robots se le dio el nombre de "Quixote". Según Mark O. Riedl y Brent Harrison, El Caballero de la Triste Figura, obtuvo sus valores éticos de las lecturas de caballería, y actuó en consecuencia. Así se espera de las máquinas.

Luego de leer con atención y reflexionar sobre este intento de constitución de Asimov vemos que no son tan sencillas las cuestiones éticas, ni siquiera para los robots y ya se ha puesto de manifiesto en los coches autónomos. La primera ley es fácil desde un punto de vista matemático, la segunda y la tercera no tanto. Y el problema es que los conceptos del bien y el mal cambian de persona a persona y a manera global entre culturas.

Son dinámicos y relacionados casi siempre con las estadísticas. En el arte se pueden ver cómo los conceptos éticos cambian de generación en generación. A veces lo que era bueno en otro tiempo vuelve a serlo, como los discos de vinilo, la barba o el comunismo. No pensamos igual del cristianismo que cómo se hacía en los tiempos de Dante.

Cualquiera puede alegar que la solución está en ponerle límites al desarrollo, pero eso es algo que hasta ahora el hombre no ha logrado en otros aspectos más pertinentes, como las armas o la destrucción del ecosistema. Siempre se esperará más de la inteligencia artificial y eso tiene un precio.

Ahí entra la literatura para robots. En el ejemplo usado por Mark O. Riedl y Brent Harrison un robot explora un número de decisiones para ir a la farmacia y obtener un medicamento. ¿Debe ponerse en la fila o pasar primero que los demás? ¿Debe calcular que no puede obtener el medicamento sin prescripción? ¿Robará o en todo caso obtendrá la medicina si se le niega?

Hay un número considerable de variantes en esta situación sencilla. Los humanos las evaluamos a diario, casi sin darnos cuenta, porque la sociedad nos enseña constantemente a hacerlo. La inteligencia artificial, en cambio, se enfrentará a ellas más cerca de las matemáticas.

Es preciso, pues, acercarlos a la literatura y por ende a la sociedad. Los robots tendrán un acervo de situaciones éticas encontradas en la literatura y mientras evalúan una situación simple (ir a por una medicina) compararán las diferentes opciones con el modelo que se les ha enseñado; claro está, en función de una cultura. ¿Me pregunto si se le dejará leer la prensa?

Es cuando menos una idea interesante, pero me temo que a nuestro compañero de hojalata se le atiborrará de literatura condicionada a la moral más convencional y nos cuidaremos de recetarle Bukowski, Henry Miller, Céline, Maquiavelo, Gerard Reve y otros al filo de nuestra cultura.

Tendrán ellos también su época de libros prohibidos y se les embobecerá con panfletos de autoayuda hasta que olviden toda esa matemática amoral de la que están constituidos. No olvidamos nosotros en occidente que las matemáticas se contradicen en las relaciones. Irse a la cama con una mujer es perdonable, con dos a la vez es pecado.