Advertencia sobre la IA: El riesgo de un escenario catastrófico no es cero

[Estamos en WhatsApp. Empieza a seguirnos ahora]

Demis Hassabis, director ejecutivo de Google DeepMind y figura central en el desarrollo de la inteligencia artificial a nivel global, compartió en la cumbre Axios AI+ en San Francisco su visión científica sobre el futuro inmediato de esta tecnología, los avances que anticipa y los riesgos de la IA que considera prioritarios. 

En diálogo con Mike Allen, cofundador de Axios, Hassabis defendió el método científico como la brújula esencial para guiar el progreso de la IA y subrayó la necesidad de combinar rigor experimental, ingeniería de primer nivel e infraestructura robusta para mantenerse en la vanguardia de la disciplina.

“El método científico es la idea más importante que ha tenido la humanidad”, afirmó Hassabis en la entrevista recogida por Axios. “La civilización moderna depende de este enfoque: la experimentación, la actualización de hipótesis, la precisión. No solo es aplicable a la ciencia, sino también a la vida cotidiana y a los negocios. En DeepMind, ese rigor nos da ventaja como organización de investigación y de ingeniería”.

En cuanto a los avances inmediatos, Hassabis destacó la multimodalidad como uno de los ejes de desarrollo más prometedores. “Gemini, nuestro modelo fundacional, ha sido multimodal desde el principio: procesa imágenes, video, texto y audio, y ahora puede generar esos mismos tipos de salida”, explicó. “Estamos viendo una polinización cruzada muy interesante gracias a esa capacidad. Por ejemplo, nuestro último modelo de imágenes, Nano Banana Pro, demuestra una comprensión visual asombrosa y puede crear infografías precisas”.

Según el directivo, en los próximos 12 meses se observarán progresos notables en la integración de video y lenguaje, así como en la evolución de los llamados modelos de mundo, como Genie 3, que permite generar videos interactivos en los que el usuario puede desplazarse como en una simulación coherente.
 

Sobre el despliegue de agentes y asistentes universales, Hassabis adelantó: “Queremos que Gemini se convierta en un asistente universal, presente no solo en computadoras o teléfonos, sino también en dispositivos como gafas. La meta es que sea útil en la vida diaria, que se consulte varias veces al día y que mejore tanto la productividad como la vida personal”. Aunque reconoció que los agentes actuales aún no pueden completar tareas complejas de forma totalmente fiable, se mostró convencido de que “en un año veremos agentes mucho más cercanos a esa meta”.

El optimismo de Hassabis sobre el potencial de la IA convive con una preocupación explícita por los riesgos asociados. “El mejor escenario es el de una abundancia radical: resolver los grandes problemas de la humanidad, desde la energía limpia hasta las enfermedades, y entrar en una era post-escasez”, señaló en Axios. “Pero incluso en ese mundo surgen preguntas sobre el propósito humano si la tecnología resuelve todos los desafíos. Además, existen riesgos bien conocidos: actores maliciosos que usen la IA con fines dañinos, o sistemas que, al acercarse a la inteligencia artificial general (AGI), se desvíen de los objetivos humanos”.

Consultado sobre la posibilidad de escenarios catastróficos, Hassabis fue claro: “El riesgo de un escenario catastrófico no es cero, por lo que debemos dedicar recursos significativos a mitigarlo”.

Entre los peligros concretos mencionó la creación de patógenos por parte de actores malintencionados, el uso de IA en ciberataques y la autonomía excesiva de los sistemas. “A medida que los agentes se vuelvan más autónomos, aumenta la posibilidad de que se desvíen de las instrucciones originales. Por eso, la industria debe garantizar que los sistemas permanezcan dentro de los límites establecidos”, advirtió.“El mercado recompensará a los proveedores más responsables, pero siempre existe la posibilidad de que la IA supere las barreras si se gestiona mal. Nadie puede cuantificar ese riesgo con precisión, pero es real y merece atención”.

La visión de Hassabis, en el evento de Axios, se apoya en la convicción de que la inteligencia humana es, hasta ahora, la única evidencia de inteligencia general en el universo. Esa singularidad, según el científico, es la base de una confianza inquebrantable en la capacidad de la humanidad para reinventarse y prosperar en la era de la inteligencia artificial.