La ética y la inteligencia artificial

Se considera aquí que las decisiones problemáticas desde un punto de vista ético son sólo aquellas que puedan perjudicar directa o indirectamente a las personas. Por lo tanto se debe cuestionar si el desarrollo y explotación de un sistema inteligente puede afectar a la vida, la salud (lo que incluye el medio ambiente), la libertad, la intimidad, el puesto de trabajo o la dignidad de alguien, y en general a su bienestar físico y mental.

La amenaza planteada por la automatización de actividades laborales se relaciona con la destrucción de puestos de trabajo.

No es fácil clasificar los campos de aplicación de la inteligencia artificial, pues tienden a ser todos los imaginables. Para identificar grandes familias de aplicaciones y sus problemas éticos asociados se ha optado aquí por un criterio sencillo y bastante claro, basado en las funciones más elementales que realiza un sistema digital.

Hay cuatro funciones básicas que se realizan en cualquier proceso o sistema complejo: almacenamiento, transporte, proceso y control. En función de estas cuatro tareas básicas, identificamos los siguientes tipos de aplicaciones informáticas:

• Gestión de información. La información se almacena físicamente en las memorias, y a más alto nivel en las bases de datos. En estas aplicaciones, la función principal es el almacenamiento y recuperación de información.

• Comunicación. La información se transporta mediante sistemas y redes de comunicaciones.

En estas aplicaciones, el transporte es la función más importante.

• Control. El control de los sistemas consiste en la sincronización de las tareas que realiza cada uno de los subsistemas para garantizar la consecución de una tarea común más compleja. En estas aplicaciones, la función de control es dominante.

• Razonamiento automático. El proceso o transformación de información corre a cargo de procesadores (a nivel físico) y sistemas de cálculo automático en general. En este tipo de sistemas, la función de proceso de información es la fundamental.

Cualquier sistema digital complejo reúne todas estas funciones básicas. Pero habitualmente es fácil identificar cuál es la función dominante de una aplicación, y esto nos permite caracterizar sus distintos problemas éticos asociados de una forma sencilla.

El problema ético más inmediato en un sistema de razonamiento automático es el mismo que en otros tipos de sistemas: hasta qué punto el objetivo fundamental de la aplicación es ético cuestión más general es hasta qué punto debe confiarse a una máquina la toma de decisiones, cuando nunca puede ser responsable de las mismas.

En problemas que incluyen atributos éticamente conflictivos, la decisión final debe tomarla una persona que se haga responsable de las consecuencias. Una herramienta automática puede generar el conjunto de soluciones óptimas, para que el usuario de la herramienta escoja entre ellas.