Especialistas adelantan la posibilidad de que la inteligencia artificial pueda reemplazar por completo y hasta matar humanos, mientras piden regulaciones urgentes para esta tecnología. Un empleado de Anthropic admitió que habría más del 10% de probabilidades de que la IA pudiera “matar a todos los humanos” en la próxima década y advirtió que la empresa no tenía un plan para asegurar que la IA permanezca alineada con los valores humanos.
El martes, un empleado de alto rango de Anthropic admitió que cree que habría más del 10% de probabilidades de que la tecnología pudiera “matar a todos los humanos” en la próxima década y advirtió que la empresa de IA no tenía un plan para asegurar que la superinteligencia artificial no causaría ningún daño, que permanezca segura y alineada con los valores humanos.
Evan Hubinger, el que emitió esta advertencia, es responsible de uno de los equipos de seguridad de IA de la compañía. Sostuvo además que la evolución hacia sistemas capaces de perfeccionarse por sí mismos está ocurriendo más rápido de lo previsto.
Este escenario de automejora de la inteligencia artificial plantea la posibilidad de que un sistema incremente sus capacidades sucesivamente hasta alcanzar un nivel difícil de controlar para las humanos. En los últimos años, distintos investigadores abandonaron compañías de inteligencia artificial alegando preocupaciones de seguridad, mientras las empresas aceleran el desarrollo de modelos cada vez más sofisticados.
Bernie Sanders, senador independiente por Vermont, le pidió al Congreso estadounidense que regule la tecnología y señaló encuestas que sugerían que el 81% de los estadounidenses creía que sus políticos deberían actuar. “No podemos permitir que un puñado de personas codiciosas jueguen a ser Dios y determinen el futuro de la humanidad –nuestra economía, medio ambiente, democracia, privacidad y más– sin la participación pública”, expresó.
Al otro lado del Atlántico, en el Reino Unido, y desligándose de los pedidos abolicionistas, el diputado laborista Darren Jones les escribió al primer ministro, Andy Burnham, y a los responsables de la ONU y de la OCDE pidiendo un “tratado multinacional para el desarrollo regulado y seguro de la superinteligencia”, con un enfoque centrado en la seguridad.
Des Browne, exsecretario de Defensa del Reino Unido y actual asesor de ControlAI, expresó que, aunque cuando era secretario de Defensa creía que la perspectiva de una guerra nuclear era la amenaza más peligrosa para la humanidad, “ahora resulta cada vez más evidente que el desarrollo de una IA superinteligente constituye una amenaza de magnitud similar”.
ControlAI es una organización sin fines de lucro que trabaja para prevenir el riesgo de extinción que supone la superinteligencia y asegurar “un gran futuro para la humanidad”. Con base en el Reino Unido y activa en Estados Unidos, Canadá y Alemania, está financiada por el multimillonario fundador de Skype, Jaan Tallinn. El mismo se considera “antiextincionista” y ha dedicado parte de su fortuna a hacer campaña por la seguridad frente a la IA.
Tallinn dijo en una entrevista este año: “Un investigador de IA bastante conocido me dijo: ‘Jaan, no te preocupes por esto. Los humanos somos una especie desechable’. Por lo que tengo entendido que no le importaba extinguirse”.
Tallin estima que entre el 10 y el 15% de los empleados de IA creen que la tecnología será un digno sucesor de la humanidad.