Se llama “Norman”, como Norman Bates, el protagonista de la película Psicosis (1960), y es una inteligencia artificial con una visión muy sombría del mundo.
El algoritmo fue desarrollado por investigadores de el Instituto de Tecnología de Massachusetts, en Estados Unidos, para ver los rincones más sórdidos del internet.
Donde otros algoritmos ven personas sentadas, Norman nota a un hombre saltando desde una ventana.
El objetivo de los científicos es ver qué pasa si se entrena a una inteligencia a ver los “rincones más oscuros de la red”.
Primero, se le mostraron a Norman imágenes, tomadas de la página de internet Reddit, de personas que murieron en circunstancias horribles.
Luego, le enseñaron imágenes abstractas hechas con tinta, como las que utilizan en tests psicológicos, y se le preguntaba su interpretación.
La visión de la inteligencia artificial resultó desoladora: según Norman, las manchas correspondían a imágenes de cuerpos muertos, sangre y destrucción.
Lee también:
Facebook suspende programa de inteligencia artificial; dos robots inventaron su idioma
Por otro lado, a otra inteligencia artificial se le mostraron imágenes más optimistas y, en contraste, sus interpretaciones de las imágenes de tinta fueron más alegres.
Lo que Norman nos enseñó sobre la inteligencia artificial
El experimento con Norman arrojó un resultado interesante para los investigadores: “Los datos importan más que el algoritmo”, dice Iyad Rahwan, uno de los científicos que forman parte del equipo del MIT que desarrolló el algoritmo.
Eso resalta la idea de que los datos que usamos para entrenar a la inteligencia artificial son reflejados de la manera en que ésta percibe el mundo y en cómo se comporta”, señaló Rahwan.
Es decir, que si la inteligencia artificial es entrenada con datos siniestros, ella misma puede volverse siniestra.
La inteligencia artificial racista
Así como Norman tiende a ver muerte y la destrucción porque eso lo único que conoce, otras inteligencias artificiales pueden ser influenciadas si se les entrena con datos defectuosos.
Por ejemplo, se reportó que existe un algoritmo que tenía un sesgo contra prisioneros negros. De acuerdo con el programa, los hombres de raza negra tenían el doble de probabilidad de reincidir que los blancos.
Lee también:
La mejor Inteligencia Artificial dominará el mundo: Putin
El hallazgo logrado con Norman devela una nueva problemática para los programadores.
Los ingenieros tienen que encontrar una forma de equilibrar los datos de alguna manera. Se tiende a creer que el comportamiento de las máquinas se puede estudiar de la misma forma que el humano”, señaló Rahwan
De modo que quizá se tenga que desarrollar algo así como una “psicología” de la inteligencia artificial.
Vía BBC
