El Ing. Luis Benítez, secretario de la Sociedad Paraguaya de Inteligencia Artificial, sostuvo que la discusión internacional sobre frenar el avance de la IA combina riesgos tecnológicos reales con una disputa económica y geopolítica entre empresas y potencias. Advirtió sobre problemas de alineamiento ético, autonomía creciente de los sistemas y aplicaciones militares.
El secretario de la Sociedad Paraguaya de Inteligencia Artificial, ingeniero Luis Benítez, afirmó que el debate internacional sobre los riesgos de la Inteligencia Artificial (IA) no puede analizarse únicamente desde la posibilidad de una futura superinteligencia, sino también desde los intereses económicos y geopolíticos que enfrentan las empresas, y las dos superpotencias: Estados Unidos y China.
En entrevista con Central Radio 1140 AM, Benítez explicó que actualmente conviven dos modelos principales de desarrollo: los sistemas privados controlados por grandes empresas y los denominados modelos de pesos abiertos.
Modelos abiertos desafían a las grandes compañías
Benítez mencionó a Meta como uno de los actores que impulsa modelos abiertos frente a compañías como OpenAI y Anthropic, cuyos desarrollos permanecen bajo propiedad privada.
“El de Meta es un modelo que cualquier persona en el mundo puede bajar, instalar en su casa y usarlo en su casa”.
Este modelo también ha influido sobre el desarrollo tecnológico en China. Para Benítez, esta creciente calidad de los sistemas abiertos es una de las razones que explican parte de los pedidos de mayor regulación.
“Los modelos abiertos ya están llegando a la calidad y al nivel de los modelos cerrados”.
Señala intereses económicos detrás del pedido de frenar la IA
El especialista consideró que detrás de algunos reclamos de desaceleración tecnológica también existe una disputa comercial.
“China se está acercando demasiado a los modelos americanos de propiedad privada”.
En ese contexto, sostuvo que una parte del interés por una intervención estatal está relacionada con limitar el acceso de desarrollos chinos a mercados estadounidenses.
“Realmente la pelea que está detrás de esto no es porque el gran capital está preocupado por la humanidad y quiere quiere alargar o mitigar la amenaza.”
Esa disputa es una cuestión vinculada a intereses económicos y a la necesidad de conseguir inversiones para sostener desarrollos altamente costosos.
También te puede interesar: “Paraguay arriesga su soberanía tecnológica con proyecto ligado a Taiwán”, advierten
El riesgo tecnológico, sin embargo, “no es ficción”
Pese a su crítica a los intereses comerciales, eso no significa que los riesgos planteados alrededor de la IA sean inexistentes.
“La amenaza que sostienen no es ficción, es algo real”.
Personas, empresas y organizaciones han ido delegando progresivamente decisiones en sistemas digitales, una tendencia que podría profundizarse a medida que aumenten las capacidades de los modelos. Incluso señaló que ya existen aplicaciones militares de IA y mencionó conflictos como los de Irán, Gaza y Ucrania.
“Está relacionado a estas tecnologías, está relacionado a los datacenters, está relacionado al uso militar de la inteligencia artificial”.
Una IA capaz de diseñarse a sí misma
Uno de los escenarios que Benítez identificó como particularmente sensible es la posibilidad de que los propios sistemas comiencen a participar en el diseño de generaciones posteriores de IA.
“Estamos llegando al punto en que la misma inteligencia va a empezar a autodiseñarse”.
Según su análisis, ese proceso podría acelerar de manera abrupta la evolución tecnológica.
“Al empezar a autodiseñarse, lo que sucede o lo que podría suceder es justamente disparar, de una forma no exponencial sino totalmente vertical, la creación de una superinteligencia que sea capaz o más capaz que toda la humanidad en su conjunto.”
Este escenario se vincula con el concepto de singularidad o el punto de inflexión de no retorno, entendido como un eventual punto de inflexión difícil de revertir en las ciencias tecnológicas.
El problema del alineamiento ético
El experto sostuvo que uno de los principales déficits actuales está en el llamado alineamiento.
“Lo que no se tiene es el control desde el punto de vista ético o inclusive moral de las acciones y decisiones que se toman”.
Un sistema de IA puede buscar una respuesta eficiente sin evaluar necesariamente sus costos humanos o sociales. Tanto los modelos privados como los abiertos presentan desafíos en esta materia.
“Esa inversión en alineamiento es lo que hace falta para tener mayor control sobre los resultados”.
El problema adquiere mayor gravedad cuando tecnologías de este tipo quedan disponibles para personas capaces de utilizarlas con fines dañinos, incluida su eventual vinculación con armamento o terrorismo.
Estados Unidos y China todavía no acuerdan reglas
Benítez sostuvo que la discusión requiere algún tipo de entendimiento internacional, especialmente entre las dos grandes potencias tecnológicas.
“Son problemas que ya se habían anunciado hace tiempo, llevó cinco años escuchando de esto pero hasta ahora no se dio la condición para que los grandes actores geopolíticos, concretamente Estados Unidos y China, se sienten a charlar sobre cómo se va a gestionar esta tecnología”.
Mientras ese acuerdo no exista, continuará predominando la competencia por liderazgo tecnológico.
“Lastimosamente ellos siguen en la pelea de quién le domina a quién”.
EN LA SIGUIENTE NOTA: ALERTAN SOBRE “PÉRDIDA DE SOBERANÍA COGNITIVA” POR USO DE IA EN EDUCACIÓN
Escuchá la entrevista completa:
Conéctate con lo que realmente importa
Accedé a contenido exclusivo, entrevistas clave y análisis que marcan la agenda en www.1140am.com.py.
Central Radio 1140 AM: información que te acompaña, contenido que te posiciona. ¡Experimentá una nueva AM!
