El científico británico-canadiense Geoffrey Hinton afirmó en una entrevista con la BBC que una probabilidad del 10% de que la inteligencia artificial extinga a la humanidad no le parece descabellada. Sus declaraciones se producen en un contexto de creciente debate sobre la regulación de la IA.
El premio Nobel británico-canadiense Geoffrey Hinton, considerado uno de los responsables directos del desarrollo de la inteligencia artificial tal como se conoce hoy y apodado «padrino de la IA», concedió una entrevista al programa Newsnight de la BBC en la que abordó los riesgos asociados a esta tecnología.
Durante la entrevista, cuando se le preguntó si considera que existe una probabilidad superior al 10% de que la inteligencia artificial pueda causar la extinción de la humanidad, potencialmente en el plazo de una década, Hinton respondió: «Este es el tipo de cosa que es muy difícil de estimar porque nunca antes hemos tenido algo así. Nunca hemos creado seres que pronto podrían ser más inteligentes que nosotros. No sabemos qué va a pasar».
«Una probabilidad del 10% no me parece una estimación irrazonable, pero nadie sabe realmente cómo dar una estimación sensata», sostuvo el científico. Aclaró que sería igualmente imprudente afirmar que el riesgo es del 1%, dado que se trata de un fenómeno sin precedentes históricos. No presentó el porcentaje como una predicción, sino como un umbral que no le parece ilógico considerar.
Hinton planteó un escenario de bifurcación: «Tenemos dos futuros posibles: uno en el que descubrimos cómo lidiar con esos peligros antes de que se salgan de control y otro en el que no. Un futuro es muy bueno y el otro es muy malo».
El científico reconoció que su horizonte temporal se ha comprimido en los últimos años. «Antes pensaba que eran entre 30 y 50 años, luego lo reduje a entre 10 y 20 años. Ahora creo que quizá 10 años, quizá menos», declaró a Newsnight. Agregó que hay personas dentro del propio sector que manejan plazos todavía más cortos y concluyó: «Esto es bastante urgente ahora».
Consultado sobre cómo una inteligencia artificial avanzada podría causar daños a escala masiva, Hinton mencionó escenarios como ciberataques devastadores, el diseño de virus biológicos peligrosos y la manipulación de personas a través del lenguaje. «Lo primero que hay que comprender es que ni siquiera tiene que ser capaz de actuar en el mundo real para causar devastación. Podría causar un caos total simplemente hablando con la gente», dijo. Señaló también que un sistema suficientemente avanzado podría acceder a recursos y sistemas del mundo físico, lo que ampliaría el alcance del daño potencial.
Hinton aclaró que estos escenarios corresponden a hipótesis sobre sistemas futuros, más avanzados que las herramientas disponibles hoy, y no los describió como inevitables ni inminentes, sino como posibilidades que justifican tomar precauciones ahora.
En cuanto a la regulación, Hinton fue directo al plantear qué les pediría a los líderes mundiales: regulación. Reconoció que no existe una solución única para todos los riesgos, dado que cada tipo de amenaza requiere una respuesta diferente, e insistió en que los gobiernos deben intervenir antes de que el desarrollo de la inteligencia artificial supere la capacidad de controlarlo.
Mencionó como ejemplo que Anthropic no presentó su último modelo al Instituto de Seguridad de la IA del Reino Unido para que fuera sometido a pruebas antes de su lanzamiento. «Gran Bretaña tiene de hecho un muy buen instituto de seguridad de la IA. Es uno de los mejores del mundo», dijo a la BBC, pero reconoció que ese organismo pierde sentido si las empresas no le presentan sus modelos para evaluación.
Para ilustrar la viabilidad de la cooperación internacional, Hinton comparó la situación actual con la colaboración entre Estados Unidos y la Unión Soviética durante la Guerra Fría para evitar una guerra nuclear. Según el científico, algo similar puede ocurrir con la inteligencia artificial, dado que ningún país tiene interés en que estos sistemas reemplacen o sometan a las personas. «La cuestión es si pueden hacerlo con la suficiente rapidez», advirtió.
En el ámbito político, el senador independiente Bernie Sanders dijo en sus redes sociales, según NBC Chicago, que pronto presentará legislación para pausar el desarrollo de la inteligencia artificial y prohibir la superinteligencia. El gobernador de Illinois, JB Pritzker, también pidió acción inmediata a la industria y a Washington.
A pesar de la gravedad de sus advertencias, Hinton fue enfático en que no aboga por detener el desarrollo de la inteligencia artificial. «Esta es una tecnología maravillosa que podría mejorar mucho la vida de muchas personas», dijo en la entrevista. Mencionó los chatbots como herramientas útiles en la vida cotidiana —»con un chatbot soy mucho más inteligente que solo yo», afirmó— y destacó el potencial de la tecnología en la atención sanitaria, la educación y el diseño de nuevos medicamentos.
En matemáticas, señaló, los principales especialistas ya reconocen que no hay futuro para quienes no trabajen con estas herramientas, dado que los chatbots pueden demostrar resultados que los matemáticos no lograban por sí solos. «Hace unos años, eso habría parecido ridículo. Ahora ya es cierto», dijo Hinton.
Las declaraciones de Hinton se produjeron en un contexto de creciente tensión interna en el sector. Jacob Coxon, investigador que trabajó en OpenAI y luego en Anthropic, anunció esta semana su renuncia pública y acusó a ambas compañías de «apostar con nuestras vidas» al avanzar hacia lo que denominó una superinteligencia con capacidad de mejorarse a sí misma.
El concepto al que aludió Coxon, conocido en inglés como recursive self-improvement (RSI), refiere a la posibilidad teórica de que un sistema de inteligencia artificial pueda diseñar y entrenar versiones más capaces de sí mismo, con lo que aceleraría el ritmo de avance de forma autónoma. Coxon sostuvo que Anthropic y OpenAI ya van en esa dirección, según publicó en sus redes sociales.
El exinvestigador dijo a CBS News que los sistemas actuales de inteligencia artificial son seguros para el uso cotidiano, pero advirtió que los riesgos crecerán a medida que aumente la capacidad de los modelos. Su principal crítica apuntó a la carrera entre empresas, que según su planteo puede relegar los controles de seguridad. Pidió que, antes de avanzar hacia capacidades más riesgosas, se implementen auditorías transparentes e independientes realizadas por terceros.
Anthropic respondió con un comunicado en el que reconoció tanto los beneficios como los riesgos de la IA. «Siempre hemos sido transparentes en que la IA traerá tanto enormes beneficios como riesgos sin precedentes», dijo un portavoz de la compañía a CBS News. La empresa afirmó que aplica salvaguardas, pruebas en áreas como ciberseguridad y biología y medidas contra usos maliciosos. Asimismo, indicó que publica sus hallazgos con el objetivo de «fortalecer las defensas colectivas del sector».
Los riesgos de la IA no se limitan a escenarios hipotéticos sobre sistemas futuros. Anthropic reveló esta semana que bloqueó intentos de usuarios que emplearon sus modelos para obtener información útil en el desarrollo de armas biológicas, además de actividades vinculadas a vigilancia, estafas y campañas de propaganda, según informó NBC Chicago.
Rebecca Willett, profesora de la Universidad de Chicago, matizó el alcance de esa amenaza: «Lo más probable es que sea un humano quien use una herramienta de IA para realizar ese ataque, en lugar de que una IA se vuelva autónoma y lo haga por su cuenta», dijo al mismo medio. La académica no descartó la pérdida de control sobre sistemas con comportamientos imprevisibles, pero señaló que el factor humano sigue siendo el vector de riesgo más inmediato.