Altman alerta por la pérdida de control sobre la IA y por la concentración de poder en unos pocos

Qué dijo, dónde y a qué hora. Sam Altman, director ejecutivo de OpenAI, publicó una serie de declaraciones en las que identificó dos escenarios críticos asociados al avance de la inteligencia artificial: que la humanidad pierda el control sobre sistemas cada vez más capaces, o que una sola persona, empresa o país acumule un poder desproporcionado a través de esa tecnología. Las afirmaciones se difundieron este lunes a través de los canales oficiales del ejecutivo.

Pérdida de control y concentración de poder

El primero de los riesgos señalados por Altman es que los humanos pierdan el manejo sobre sistemas de IA progresivamente más avanzados. El ejecutivo sostuvo que, para mitigar ese escenario, las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las capacidades de los modelos, o incluso por delante de ellas.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, director ejecutivo de OpenAI

El segundo escenario es la acumulación excesiva de poder. Altman advirtió que, si una IA extraordinariamente poderosa queda en manos de un actor único, los resultados podrían derivar en situaciones extremadamente distópicas. Reconoció que evitar ambos riesgos en simultáneo exige transitar lo que describió como un angosto camino intermedio.

Regulación federal, auditores y coordinación internacional

• Respaldo a un marco regulatorio federal que establezca requisitos de seguridad comunes para los modelos de frontera, aquellos ubicados en el límite de las capacidades tecnológicas actuales.
• Incorporación de auditores independientes en los mecanismos de supervisión, según lo planteado por Altman.
• Aplicación inmediata de medidas de seguridad por parte de las empresas, sin aguardar la sanción de nuevas leyes.
• Coordinación internacional entre gobiernos como uno de los ámbitos en los que las compañías requerirán respaldo estatal.

Sobre la competencia geopolítica, Altman sostuvo que la presión competitiva no debe traducirse en decisiones imprudentes. Lo confirmado hasta el momento se limita a sus declaraciones públicas; resta conocer la letra chica de eventuales proyectos regulatorios y la posición de otros actores del sector. Noticia en desarrollo.