Lanzan OpenAI y Anthropic fuerte advertencia a la ONU sobre el futuro de la inteligencia artificial
*Los directores de OpenAI y Anthropic pidieron ante el Consejo de Seguridad de la ONU fortalecer las medidas de seguridad para evitar que la inteligencia artificial represente riesgos para la humanidad.
Los directores ejecutivos de OpenAI, Sam Altman, y de Anthropic, Dario Amodei, advirtieron ante el Consejo de Seguridad de la ONU sobre los riesgos que representa el acelerado desarrollo de la inteligencia artificial (IA) y llamaron a fortalecer las medidas de seguridad para evitar que esta tecnología pueda escapar al control humano o concentrar un poder excesivo.
Durante la sesión del organismo internacional, ambos líderes coincidieron en la necesidad de avanzar con mayor cautela en el desarrollo de la IA, con el objetivo de equilibrar sus beneficios potenciales con los desafíos que plantea para la seguridad y la sociedad.
En su intervención, Sam Altman afirmó que la inteligencia artificial podría abrir una etapa comparable con un nuevo Renacimiento, impulsando la creatividad, la innovación y el descubrimiento científico. Sin embargo, también advirtió que, sin controles adecuados, el desarrollo tecnológico podría derivar en escenarios marcados por la inestabilidad y el caos.
El director de OpenAI sostuvo que las personas deben mantenerse en el centro de las decisiones relacionadas con la inteligencia artificial y enfatizó que estas herramientas deben servir para ampliar las capacidades humanas, no para sustituir la capacidad de decisión de la sociedad.
Asimismo, rechazó adoptar posiciones extremas sobre el futuro de la tecnología y consideró que el catastrofismo no contribuye a enfrentar de manera efectiva los retos que plantea el desarrollo de la IA.
Por su parte, Dario Amodei, director ejecutivo de Anthropic, identificó dos de los principales riesgos asociados a esta tecnología: el uso indebido de modelos de inteligencia artificial, incluyendo posibles aplicaciones relacionadas con el terrorismo o la creación de armas biológicas, así como la eventual pérdida de control sobre sistemas cada vez más avanzados.
Amodei señaló que estos desafíos tienen un alcance global y requieren la participación coordinada de gobiernos, empresas y organismos internacionales para establecer mecanismos de supervisión y regulación.
El directivo propuso avanzar en tres frentes: incorporar evaluadores externos para revisar los sistemas de inteligencia artificial, establecer estándares comunes dentro de la industria y desarrollar normas internacionales que orienten el desarrollo responsable de esta tecnología.
Durante la misma reunión, el secretario general de la ONU, António Guterres, advirtió que el principal riesgo no radica en la tecnología en sí, sino en su utilización sin mecanismos adecuados de rendición de cuentas. Además, reiteró que las decisiones relacionadas con la vida o la muerte no deben quedar bajo responsabilidad de las máquinas.
El debate también evidenció las diferencias entre Estados Unidos y China respecto al futuro de la inteligencia artificial. El representante estadounidense, Michael Kratsios, aseguró que el avance tecnológico no debe frenarse ni someterse a nuevos esquemas de gobernanza global, postura que, según expuso, coincide con la visión del presidente Donald Trump.
En contraste, el representante permanente de China, Fu Cong, llamó a fortalecer la cooperación internacional y sostuvo que la inteligencia artificial debe considerarse un patrimonio compartido de la humanidad, evitando que su desarrollo beneficie únicamente a determinados países o sectores.
Las intervenciones reflejaron el creciente debate internacional sobre el futuro de la IA, sus oportunidades para el desarrollo científico y económico, así como la necesidad de establecer mecanismos que permitan reducir los riesgos asociados a una tecnología que continúa evolucionando a gran velocidad.
Comentarios