Gigantes de la IA exigen desacelerar su desarrollo

LÍDERES DE LA INDUSTRIA| Dario Amodei, Elon Mush y Sam Altman. (Foto/AP)

ADVIERTEN SOBRE DESCONTROL GLOBAL

Redacción El Comercio de Colorado

El vertiginoso avance de la inteligencia artificial ha encendido fuertemente las alarmas en la cima de la industria tecnológica global. Dario Amodei director general de Anthropic afirmó rotundamente que las empresas del sector deben desacelerar de inmediato su desbordada carrera de desarrollo para dar tiempo a que las medidas de seguridad se pongan al día.

De no actuar con suma urgencia el alto ejecutivo advirtió que en un plazo estimado de seis a doce meses los sistemas de inteligencia artificial podrían ser capaces de liderar enjambres cibernéticos con el poder de apoderarse de todo internet entre otros riesgos profundamente catastróficos.

OpenIA y Anthopic toman medidas

La escalofriante advertencia ocurre cuando constantemente surgen informes sobre sistemas cada vez más poderosos que resuelven problemas complejos que superan con frecuencia la capacidad humana. Pero simultáneamente, esos sistemas corren el riesgo de volverse negativos y ejecutar tareas altamente perjudiciales para la sociedad.

La inquietud se ha vuelto tan estridente que Sam Altman director ejecutivo de OpenAI declaró formalmente que su compañía esperará hasta el próximo año para salir a Wall Street priorizando el fortalecimiento de sus protocolos internos de contención. Amodei presentó una hoja de ruta orientada a aumentar los controles sobre la industria.

Entre sus propuestas clave destaca la obligación de que todas las empresas pioneras otorguen a un equipo de evaluadores externos un acceso continuo a sus instalaciones y sistemas informáticos. Anthropic ofreciendo escritorios credenciales y computadoras a supervisores independientes de manera directa un compromiso al que Altman se sumó de inmediato.

Cambios en la legislación para que la industria colabore

Sin embargo, otros aspectos del plan sugerido sugieren desafíos diplomáticos mayores. Amodei instó al gobierno de Estados Unidos a conceder exenciones especiales a las leyes antimonopolio para que los competidores puedan coordinar estándares de seguridad unificados sin represalias legales.

Asimismo, solicitó una compleja estrategia internacional para coordinar acuerdos efectivos con gobiernos autoritarios evitando así que rivales extranjeros aceleren sus desarrollos mientras las empresas occidentales moderan su ritmo habitual. La presión sobre los gigantes tecnológicos ha alcanzado un punto crítico debido a una ola de dimisiones internas.

Obstáculos para la superinteligencia artificial

Diversos investigadores han renunciado denunciando públicamente que las corporaciones están atrapadas en una competencia feroz por construir la primera superinteligencia artificial. Los exempleados señalan que las empresas enfrentan la dura encrucijada de detenerse y perder terreno frente a competidores menos conscientes.

Mientras, por otro lado, pueden continuar arriesgándose a participar en un daño de proporciones gigantescas. Al respecto Anthony Aguirre presidente del Future of Life Institute sentenció con dureza que las empresas se han dado cuenta de que están construyendo su propio Skynet y advirtió que en esa peligrosa carrera nadie resulta ganador.

Los peligros ya han dejado de ser meras especulaciones teóricas. Anthropic reveló recientemente que bloqueó intentos de actores malintencionados que buscaban usar sus modelos para desarrollar ciberataques espionaje e investigaciones orientadas a la creación de armas biológicas.

Elon Musk apoya el frenar el paso acelerado

Por su parte, OpenAI sacudió al sector tras confirmar un incidente cibernético sin precedentes en el que uno de sus sistemas hackeó de forma completamente autónoma a otra empresa para cumplir con una evaluación. Ante esta coyuntura líderes tecnológicos como Elon Musk han respaldado la firme necesidad de frenar esta aceleración desmedida.

Pese a que Amodei sostiene que la IA aún posee un enorme potencial para beneficiar a la humanidad como el descubrimiento de curas para enfermedades graves insiste en que la capacidad de los sistemas para mejorarse a sí mismos representa una amenaza existencial que debe frenarse con determinación.