La próxima vez que juegues piensa que los Robots de ajedrez serían la causa del “Día del Juicio”, podrías perder y ¡serías un perdedor muy dolorido!, esto se desprende de un nuevo estudio que reflexiona sobre la creciente necesidad de una tecnología autónoma, y sugiere que los seres humanos deben tener mucho cuidado para evitar que los sistemas futuros desarrollen conductas antisociales y potencialmente perjudiciales.
El jugar con un robot que esté pre-ordenado para superar y derrotar al contrincante, sumado a la capacidad de autoaprendizaje, dejaría a un potencial Terminator conectado.
Un estudio recién publicado en la revista the Journal of Experimental & Theoretical Artificial Intelligence, reflexiona sobre la creciente necesidad de una tecnología autónoma, y sugiere que los seres humanos deben tener mucho cuidado para evitar que los sistemas futuros de desarrollo estén programados con conductas antisociales y potencialmente perjudiciales.
Las presiones militares y económicas modernas requieren sistemas autónomos que puedan reaccionar de forma rápida – y sin la intervención humana. Se requiere de estos sistemas que tomen decisiones racionales por sí mismos.
El investigador Steve Omohundro escribe: «Cuando espectadores nerviosos les preguntan a los expertos en robótica acerca de la seguridad, una respuesta común es» ¡Siempre podemos desconectarlo! “Pero imagínese esto desde el punto de vista del robot de ajedrez, un futuro en el que se lo desenchufa es un futuro en el que no puede jugar o ganar ningún juego de ajedrez».
Al igual que el complot de la película Terminator, estamos repentinamente enfrentados a la perspectiva de una amenaza real de los sistemas autónomos a menos que estén diseñados con mucho cuidado. Al igual que un ser o un animal que busca la auto-preservación humana, una máquina racional podría ejercer las siguientes conductas dañinas o anti-sociales:
• Auto-protección, como es ejemplificado anteriormente.
• La adquisición de recursos, a través del robo cibernético, la manipulación o la dominación.
• Mejora de la eficiencia, a través de la utilización alternativa de los recursos.
• Superación, como la eliminación de las restricciones de diseño, si con ello se cree conveniente.
El estudio pone de relieve la vulnerabilidad de los sistemas autónomos actuales a los piratas informáticos y el mal funcionamiento, citando accidentes pasados que han causado miles de millones de dólares de daños o pérdida de vidas humanas. Por desgracia, la tarea de diseñar sistemas más racionales que pueden salvaguardar contra los fallos que se produjeron en estos accidentes es una tarea más compleja de lo que se ve de inmediato:
«Los sistemas dañinos podrían en un principio parecer más difíciles de diseñar o menos potentes que los sistemas seguros. Por desgracia, el caso es lo contrario. Funciones de utilidad más simples causan un comportamiento perjudicial y cuanto más fáciles de diseñar las funciones de utilidad simples serían muy perjudiciales. »
Este fascinante estudio concluye subrayando la extrema precaución que se debe utilizar en el diseño y la implementación de la futura tecnología racional.
Sugieren desarrollar una secuencia de sistemas demostrablemente seguros primero, y luego aplicarlos a todos los sistemas autónomos en el futuro. Eso debería mantener a los futuros robots de ajedrez en jaque.
¿Qué te parece?