Aunque ha sido un tema muy usado por la ciencia ficción, en la actualidad existen muchos los interrogantes en cuánto a la capacidad que tiene el hombre para mantener un control absoluto sobre la máquina o si quizás algún día, llegara a ser posible la tan expuesta rebelión de las computadoras y los robots contra los seres humanos. Pues bien, este terreno ha sido explorado durante varios años por la compañía Google, quien se decidió a patentar una tecnología que busca proteger a la raza humana en caso de que se pierda control sobre la máquina.
Esta tecnología consiste en un “botón rojo de emergencia” con la capacidad de apagar toda IA, aunque ya expertos han afirmado que existe una posibilidad de que no todos los “robots” puedan desactivarse tan fácilmente con este tipo de tecnología.
Ficción o Realidad?
Es una realidad que existe un potencial peligro de las máquinas inteligentes para los seres humanos y por lo tanto, se ha convertido en una preocupación creciente de científicos y especialistas en robótica. Sin embargo, la inteligencia artificial ya forma parte de nuestra vida diaria, cada vez en mayor medida, y muchas veces su “inteligencia” puede llegar a superar a la del ser humano.
Los responsables del proyecto son Laurent Orseau, científico de la compañía de inteligencia artificial de Google, Deep Mind, y Stuart Amstrong, de la Universidad de Oxford en Reino Unido y quienes aseguran que este “botón rojo” será capaz de desconectar la inteligencia artificial instantáneamente, en caso de tornarse peligrosa para los humanos.
Un buen ejemplo para apoyar la necesidad de este tipo de tecnología sería, el robot que creó el especialista en robótica Alexander Reben de la Universidad de Berkeley, el cual era capaz de decidir si infligir o no dolor a las personas, clavando una aguja en el dedo cuando así lo determinara. El objetivo de Reben era causar una profunda reflexión de los posibles peligros de la inteligencia artificial para los seres humanos, ” Yo estoy demostrando que (los robos dañinos) ya son una realidad. Tenemos que confrontarla”, explica Reben, quien considera que el “interruptor de apagado” que está desarrollando Google será de utilidad para el mundo tarde o temprano.
Ahora, la pregunta que nos haríamos sería la siguiente ¿un robot no sería capaz de apagar el botón rojo antes de que este lo desactivara si es tan inteligente? Pues según Reben, existe una gran posibilidad de el que “robot tome una decisión que su creador no pueda predecir, dicho en otras palabras, no sé si llegara o no a hacerme daño“, explicó el especialista.
¿Existe una Inteligencia Artificial segura?
De acuerdo con lo afirmado por especialistas en este campo, siempre existirá una probabilidad de que este control se pierda en alguna medida entre tanto se le de cada vez más funcionalidad y autonomía a la máquina. Según Orseau y Amstrong, el objetivo del “gran botón rojo” de apagado sería “evitar que la máquina siga una secuencia dañina de acciones para el ser humano o para el medio ambiente”
Sin embargo, según el científico, “ningún sistema es infalible; es una cuestión de hacerlo tan bueno como sea posible. Y éste es uno de los primeros pasos”, afirmación que coincide con el análisis del profesor de inteligencia artificial de la Universidad de Sheffield, en Reino Unido Noel Sharkey quien afirma que “Tomar conciencia de la seguridad es esencial para (el desarrollo de) casi todos los sistemas informáticos, algoritmos y robots“.
Según Sharkey, es igualmente importante “la capacidad de desconectar el sistema en un instante, ya que siempre es posible para un sistema de aprendizaje por refuerzo encontrar atajos para eliminar el operador”.