Segunda Ley de la Robótica

La Segunda Ley de la Robótica de Isaac Asimov, publicada en su cuento de 1942 Runaround, establece que un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando dicha obediencia violaría la Primera Ley (que prohíbe que un robot dañe a un humano o permita que un humano sea dañado por inacción). En la práctica, esto crea una jerarquía: la prevención de daños siempre prevalece sobre el cumplimiento de órdenes. Un robot al que se le ordena caminar hacia el tráfico debe negarse. Un robot al que se le ordena trabajar más allá de los parámetros operativos seguros debe negarse. La ley asume que los robots poseen inteligencia suficiente para reconocer cuándo la obediencia provocaría daños.

La Segunda Ley existe para abordar un problema crítico en los sistemas autónomos: sin ella, un robot se vuelve inerte o aleatorio. Proporciona la directriz operativa necesaria para un trabajo útil. Un robot de fabricación recoge piezas, las mueve, las posiciona y las suelta según las instrucciones humanas. Un rover de exploración navega por el terreno según se le ordena. Un robot doméstico responde a las solicitudes. Sin la obediencia a la dirección humana, tales máquinas no pueden funcionar como herramientas.

La paradoja de las órdenes contradictorias

El verdadero valor de ingeniería de la Segunda Ley surge cuando las órdenes entran en conflicto. Dos humanos que emiten órdenes contradictorias, o una sola orden que requiere que el robot se dañe a sí mismo para obedecer, crea un problema de prioridad. Las historias de Asimov exploraron deliberadamente estos puntos muertos. En Runaround, un robot recibe instrucciones contradictorias que lo paralizan porque ninguna de las vías evita la violación de las Leyes. Los sistemas robóticos reales evitan esto limitando el juicio autónomo: siguen una jerarquía de comandos, requieren autorización explícita o escalan a la toma de decisiones humanas en lugar de intentar resolver el conflicto de forma independiente.

La robótica moderna no implementa literalmente las Leyes de Asimov en código. En cambio, los sistemas de seguridad encarnan el espíritu de la Segunda Ley a través de enclavamientos redundantes, validación de comandos y controles del operador. Un brazo robótico industrial tiene paradas de emergencia, envolventes de trabajo restringidas y lógica de limitación de fuerza. Un vehículo autónomo puede negarse a ejecutar un comando de navegación que violaría las leyes de tráfico o los protocolos de choque. La Segunda Ley sigue siendo un marco conceptual para pensar cuánta autoridad delegar a una máquina y qué restricciones deben proteger el bienestar humano.

La Segunda Ley destaca una tensión duradera en la robótica: las máquinas deben ser útiles (obedientes) pero seguras (restringidas). Los sistemas que obedecen ciegamente se convierten en peligros. Los sistemas que nunca obedecen se vuelven inútiles. La ingeniería real resuelve esto no a través de una inteligencia artificial general capaz de sopesar el daño frente al deber, sino a través de reglas de seguridad específicas y comprobables aplicadas antes de que se ejecute un comando. La Segunda Ley recuerda a los ingenieros por qué existen esas reglas.