Pionero de la IA Yoav Shoham advierte sobre riesgos y fiabilidad

El profesor Yoav Shoham, cofundador de la destacada compañía israelí de inteligencia artificial AI21 y uno de los pioneros mundiales en el campo, expresó su escepticismo sobre el actual “boom” de la IA, advirtiendo sobre la falta de fiabilidad de los sistemas actuales y la necesidad de un camino más largo hacia una inteligencia artificial verdaderamente confiable. En una entrevista concedida este sábado 12 de abril, Shoham destacó el entorno de incertidumbre que rodea tanto a la tecnología como a la situación geopolítica.

La conversación con Shoham se llevó a cabo en las oficinas de AI21 en Tel Aviv, notablemente vacías debido a la actual escalada bélica en la región, a la que se refiere como la “segunda guerra de Irán”. El ambiente reflejaba una festividad de Purim inconclusa y decoraciones pascuales apenas celebradas, una imagen que el profesor comparó con “Pompeya”, evocando la sensación de un momento congelado por circunstancias externas.

A sus 70 años, Shoham, quien comenzó a investigar la IA en sus primeras etapas, se distingue de la euforia generalizada en la industria. Critica los ciclos de “hype” que a menudo exageran las capacidades actuales de la tecnología y desvían la atención de sus limitaciones y vulnerabilidades fundamentales. Su análisis se centra en la necesidad imperante de desarrollar sistemas de IA que no solo sean innovadores, sino también robustos y dignos de confianza, una meta que, según él, aún está lejos de alcanzarse.

Israel es un centro global para la innovación tecnológica, conocido como la “Startup Nation”, con un ecosistema vibrante en sectores como la ciberseguridad, el software y, cada vez más, la inteligencia artificial. Empresas como AI21, cofundada por Shoham, representan la vanguardia de este impulso, desarrollando modelos de lenguaje avanzados y otras aplicaciones de IA. Sin embargo, la mención de las oficinas vacías y las referencias a las tensiones regionales reflejan la constante tensión geopolítica que permea la vida y la economía israelí.

En las últimas horas, las Fuerzas de Defensa de Israel (FDI) han elevado su nivel de preparación militar tras el fracaso de los diálogos con Irán, en medio de informes que señalan que la República Islámica mantiene sus capacidades nucleares. Este contexto de seguridad impacta directamente en el sector privado, incluyendo las empresas tecnológicas, que deben adaptarse a las interrupciones operativas y a la movilización de personal, como lo demuestra la situación en las oficinas de AI21.

La perspectiva de Shoham es crucial en un momento en que la inteligencia artificial está en el centro del debate global sobre su potencial y sus riesgos. Su llamado a la prudencia y a la construcción de sistemas fiables, lejos de la retórica de los ciclos de “hype”, resuena especialmente en Israel. Un país que integra tecnología avanzada en su defensa y economía necesita sistemas que no fallen bajo presión. La combinación de esta crítica interna con las preocupaciones de seguridad externa subraya un desafío dual para el país: mantener su liderazgo en innovación mientras asegura la resiliencia y confiabilidad de sus herramientas tecnológicas frente a amenazas reales. La cautela de Shoham invita a una reflexión profunda sobre los fundamentos de la IA, más allá de la mera velocidad de desarrollo.

El futuro de la inteligencia artificial, según Shoham, requerirá un enfoque más metódico y menos impulsado por la expectación del mercado para garantizar que la tecnología alcance su verdadero potencial de manera segura y confiable. Las discusiones sobre la fiabilidad de la IA y su despliegue continuarán siendo temas centrales para la industria tecnológica israelí, especialmente mientras el país navega por un panorama de seguridad regional complejo y volátil.