Zuckerberg sostiene que la seguridad de la IA debe reforzarse con supervisión externa sin imponer pausas obligatorias al desarrollo tecnológico.
El consejero delegado Meta, Mark Zuckerberg, propone que evaluadores y asesores independientes analicen los sistemas y los modelos de inteligencia artificial (IA) que desarrollan las empresas, pero no por frenar su desarrollo. Meta es el gigante tecnológico dueño de Facebook, Instagram y WhatsApp, entre otras.
Zuckerberg recuerda que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial (Muse) para centrarse en su seguridad, pero también que no exigieron al resto de empresas que lo hicieran también.
“Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”, explica.
La gente, según el máximo responsable de Meta, no va a querer usar agentes que no estén “alineados” con ellos y que no hagan lo que se les pide, por lo que los laboratorios tienen a su juicio el incentivo de preparar mejor sus modelos.
Sobre el debate para ralentizar el progreso de las capacidades que proponen los dirigentes de otras grandes tecnológicas, Zuckerberg asegura que “la confianza y la alineación” se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos.
“Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo”, ha escrito en X, donde defiende que contratar evaluadores y asesores independientes “es la mejor práctica de la industria”.
Meta pagará hasta 18.000 millones de dólares para cerrar las demandas por adicción infantil a Instagram y Facebook
Reitera que Meta ha asumido ese compromiso con la seguridad y que “otros laboratorios también pueden hacerlo”, y que la clave para construir un futuro positivo para todos “reside en mantener el equilibrio de poder adecuado”.
