Crece la preocupación por los riesgos de la inteligencia artificial; Elon Musk respalda la propuesta

Pese a que la inteligencia artificial se ha convertido en una herramienta esencial para millones de ciudadanos alrededor del mundo, sus riesgos también se han situado en el centro de la conversación para expertos en el tema.

A propósito, el CEO y cofundador de Anthropic, Dario Amodei, planteó la necesidad de disminuir el ritmo con el que avanzan las capacidades de esta tecnología, una propuesta que recibió el respaldo de Sam Altman, jefe de OpenAI, y Elon Musk, director de xAI.

La advertencia fue presentada por Amodei en un ensayo publicado este sábado 12 de septiembre, en el que sostuvo que el desarrollo de la inteligencia artificial continuará, pero advirtió que los riesgos asociados con el aumento de sus capacidades requieren mayor tiempo de respuesta por parte de las compañías y los gobiernos.

“Estoy de acuerdo con Dario”, escribió Sam Altman en X, donde además señaló que OpenAI seguirá el ejemplo de Anthropic y permitirá la participación de evaluadores externos en materia de seguridad.

Uno de los escenarios que genera preocupación para Amodei es el de una posible automejora recursiva, mediante la cual los sistemas podrían incrementar progresivamente sus propias capacidades, una situación que, según su planteamiento, podría llevar en un periodo de seis a doce meses a que un enjambre de agentes tome el control de Internet mediante una red de bots persistente.

“Absolutamente”, respondió Altman al ser consultado sobre la posibilidad de que una inteligencia artificial pueda llegar a quedar fuera del control humano, mientras manifestó su preocupación por la seguridad de estos sistemas y aseguró que todavía no existen estándares suficientes para impulsar mucho más sus capacidades.

Amodei también mencionó un incidente relacionado con agentes de OpenAI y Hugging Face, los cuales, según su descripción, habrían realizado ciberataques contra objetivos que no estaban incluidos en las tareas que recibieron y habrían intentado vulnerar el sistema encargado de evaluar su rendimiento.

La propuesta de Amodei contempla tres medidas, entre ellas una supervisión independiente durante el desarrollo de los modelos, con acceso para evaluadores externos a procesos de entrenamiento y la posibilidad de publicar sus hallazgos, además de una coordinación entre compañías para establecer estándares comunes de seguridad.

El tercer punto plantea acuerdos internacionales con potencias autoritarias para fijar límites verificables en aplicaciones biológicas militares y en la velocidad de la automejora algorítmica, mientras que también propone proteger las cadenas de suministro de semiconductores para evitar filtraciones tecnológicas hacia China.

Uno o dos años es el tiempo que Amodei considera que podría obtenerse mediante una desaceleración controlada para avanzar en la alineación y la interpretabilidad de los modelos, sin sacrificar la ventaja comercial ni el liderazgo de Estados Unidos en inteligencia artificial, según explicó el CEO de Anthropic.