En un mundo donde la tecnología avanza a pasos agigantados, una de las voces más autorizadas en el campo de la inteligencia artificial (IA) ha lanzado una advertencia sobre los riesgos de perder el control de esta tecnología. Demis Hassabis, cofundador y consejero delegado de Google DeepMind, afirma que la IA podría convertirse en una herramienta extraordinaria para la ciencia, la medicina y la economía, pero también plantea riesgos significativos si no se establecen controles y mecanismos de supervisión adecuados.
La carrera por la IA: un avance acelerado pero sin comprensión
La IA ya está presente en muchos aspectos de nuestra vida, desde buscadores y cámaras hasta recomendaciones y servicios digitales. Sin embargo, en los últimos años, la industria ha volcado su atención en la IA, destinando enormes inversiones a chips, servidores y centros de datos en todo el mundo. Los gobiernos también están involucrados, apoyando el desarrollo de infraestructura y capacidad de computación como parte de una competencia económica y estratégica. En este contexto, Hassabis advierte que avanzamos más rápido de lo que comprendemos, lo que podría llevar a perder el control de la IA.
Riesgos y desafíos: ciberseguridad, biología y nuclear
Hassabis identifica varios riesgos asociados con la IA, incluyendo la ciberseguridad, posibles riesgos biológicos y nucleares, y sistemas cada vez más autónomos que podrían actuar con menor supervisión y mejorar sus propias capacidades. También destaca la posibilidad de que la inteligencia artificial general (AGI) llegue en apenas unos años, lo que obligaría a prepararnos antes de que la tecnología alcance ese punto. La AGI se define como un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano.
La necesidad de controles y mecanismos de supervisión
Ante estos riesgos, Hassabis propone la creación de un organismo especializado en evaluar los modelos de IA en Estados Unidos. Su objetivo es establecer controles y mecanismos de supervisión para evitar que la IA se descontrole. Considera que la colaboración entre expertos y gobiernos es fundamental para abordar estos desafíos y encontrar soluciones efectivas. En su opinión, “nadie sabe con certeza qué va a ocurrir” y es necesario avanzar con “un optimismo prudente” para evitar consecuencias negativas.
En conclusión, la advertencia de Demis Hassabis sobre los riesgos de la IA es un llamado a la acción para la comunidad científica, los gobiernos y la sociedad en general. Es fundamental que se tomen medidas para garantizar que la IA se desarrolle de manera segura y beneficiosa para todos. En México, América Latina y España, es importante estar atentos a estos debates y asegurarse de que se consideren las perspectivas y necesidades de la región en la discusión sobre la IA y su regulación.
