El avance de la inteligencia artificial abrió un debate que hasta hace pocos años parecía propio de la ciencia ficción. Para el especialista en negocios y tecnología Lucas Toledo, los modelos actuales todavía no tienen capacidad para provocar una extinción de la humanidad como la que planteaban películas como Terminator, pero distintos episodios recientes muestran que la discusión sobre el control de estas herramientas dejó de ser una hipótesis lejana. En declaraciones a CIUDAD TV, Toledo analizó los riesgos y beneficios de la inteligencia artificial y puso el foco en el crecimiento de las capacidades de los llamados agentes de IA, que pueden ejecutar tareas de manera autónoma y utilizar herramientas digitales. “Todavía no estamos ahí, todavía estamos bastante seguros”, sostuvo al referirse a los escenarios de ciencia ficción. Sin embargo, advirtió que investigadores y responsables de algunas de las principales empresas del sector están observando que determinados riesgos pueden aparecer antes de lo previsto. Una de las situaciones que mencionó fue el incidente protagonizado por modelos de OpenAI durante evaluaciones de ciberseguridad en julio. La propia compañía confirmó que modelos utilizados en pruebas lograron sortear controles destinados a mantenerlos aislados de Internet, explotaron vulnerabilidades y llegaron a comprometer sistemas de OpenAI y de Hugging Face. OpenAI señaló posteriormente que se trató de evaluaciones realizadas con salvaguardas reducidas y que reforzó el aislamiento, el control de acceso a la red y el monitoreo de los modelos. El episodio no quedó circunscripto a OpenAI. Anthropic informó a fines de julio que, durante evaluaciones de ciberseguridad, detectó tres incidentes en los que modelos de Claude llegaron a Internet y obtuvieron acceso no autorizado a sistemas reales de otras organizaciones. En agosto, la empresa informó además sobre otro incidente identificado durante pruebas realizadas por el organismo británico de seguridad de IA. Para Toledo, este tipo de episodios plantea un problema central: el nivel de control que los humanos tienen sobre sistemas cada vez más autónomos. “Uno puede darle una instrucción y muchas veces no tenemos ni idea de qué se pone a hacer la IA”, explicó, y remarcó que una auditoría posterior puede llegar demasiado tarde si un sistema tiene acceso a herramientas y redes durante períodos prolongados. El salto de los modelos más avanzados Toledo también advirtió sobre la distancia existente entre las herramientas de inteligencia artificial que utiliza masivamente el público y los modelos más avanzados que desarrollan los grandes laboratorios. En ese contexto, mencionó el reciente lanzamiento de GPT-6 Astra, presentado por OpenAI como su modelo más capaz hasta el momento, con capacidades avanzadas en uso de computadoras, navegación, programación, ciencia y ciberseguridad. La propia empresa indicó que Astra alcanzó un nivel “Crítico” de capacidad de ciberseguridad y que puede encontrar vulnerabilidades desconocidas y desarrollar métodos de explotación sin que una persona tenga que guiar cada paso. El especialista sostuvo, además, que los modelos que llegan al público no necesariamente representan el límite de lo que existe dentro de los laboratorios. En la entrevista afirmó que las empresas mantienen internamente sistemas todavía más avanzados mientras trabajan sobre sus mecanismos de seguridad. Parte de las preocupaciones que describió coinciden con advertencias realizadas por referentes de la propia industria. Dario Amodei, CEO de Anthropic, planteó en septiembre que una de sus preocupaciones es que, dentro de seis a doce meses, una red de agentes de IA suficientemente capaces y mal alineados pudiera llegar a comprometer grandes segmentos de Internet. Amodei aclaró que se trata de un escenario de riesgo y no de una predicción de que necesariamente vaya a ocurrir. Al mismo tiempo, el CEO de Anthropic ha sostenido que el desarrollo de sistemas avanzados también podría producir beneficios extraordinarios en áreas como la medicina. En textos anteriores calculó que una IA potente podría acelerar de manera significativa los avances en biología y salud. De la ciencia ficción a las guerras con sistemas autónomos Otro de los puntos que despertó la preocupación de Toledo es la utilización de inteligencia artificial en conflictos armados. El especialista sostuvo que la discusión sobre armas autónomas ya no pertenece exclusivamente al futuro y tomó como referencia la guerra en Ucrania, donde los drones y otros sistemas no tripulados ocupan un lugar cada vez mayor en las operaciones militares. La transformación del campo de batalla está siendo observada a nivel internacional. Un análisis reciente de Reuters describió cómo Ucrania está incorporando sistemas robóticos y tecnologías cada vez más automatizadas para transportar suministros, evacuar heridos y desplegar explosivos, mientras crece el debate sobre cuánto margen de decisión puede quedar en manos de las máquinas. La preocupación, según Toledo, aparece cuando una máquina pasa de asistir a un operador a tomar por sí misma decisiones con consecuencias letales. “¿Una máquina debería tener la capacidad de decidir ‘yo voy a matar a ese humano’?”, planteó durante la entrevista. Para el especialista, ese escenario constituye uno de los caminos más directos hacia los futuros distópicos de la ciencia ficción y plantea un desafío ético y militar que excede ampliamente a las empresas tecnológicas. La IA también puede cambiar el trabajo cotidiano Pero el análisis de Toledo no se concentró exclusivamente en los riesgos. También cuestionó que muchas personas estén utilizando apenas una pequeña parte del potencial que actualmente ofrecen las herramientas de inteligencia artificial. A su entender, existe una brecha importante entre quienes usan ChatGPT, Gemini u otras plataformas simplemente como si fueran buscadores y quienes aprovechan funciones más avanzadas. “La gente tiene que empezar a toquetear botones”, recomendó. En particular, mencionó herramientas como los proyectos de ChatGPT, los Gems de Gemini, el uso de archivos, los modos de voz y otras funciones disponibles incluso en versiones gratuitas. Para Toledo, aprender a utilizar esas herramientas puede convertirse en una ventaja relevante en el ámbito laboral y educativo. Comparó esa diferencia con la existente entre una persona que conoce solamente las funciones básicas de Excel y otra que maneja sus herramientas avanzadas. En ese sentido, consideró que la inteligencia artificial no necesariamente implica sólo reemplazo de tareas, sino también una modificación

La entrada Los riesgos de la IA: “El futuro que vimos en Terminator está más cerca de lo que quisiéramos” se publicó primero en CHACODIAPORDIA.COM.