Los expertos en IA exigen hacer pruebas de seguridad similares a las de la primera bomba nuclear antes de lanzar una Superinteligencia Artificial

Estamos viviendo una época donde la inteligencia artificial es el pilar central del interés de la mayoría de empresas. Debido a esto vemos que se realizan grandes inversiones en IA para poder desarrollarla lo más rápido posible. En los pocos años que llevamos con la IA generativa ya hemos visto de lo que es posible y lo mucho que ha mejorado. Realmente ha empezado a cambiar como vemos y hacemos las cosas, pero a su vez nos entrega esa sensación de incertidumbre y miedo por el futuro. De hecho, ahora un grupo de expertos piden hacer pruebas de seguridad como los cálculos de Compton con la bomba atómica, para así estar seguros antes de liberar una Superinteligencia Artificial.

A la hora de hablar de inteligencia artificial es inevitable no preguntarnos que será de nosotros si esta continúa mejorando. Poco tiempo después de salir ChatGPT ya vimos que la IA generativa era capaz de reemplazar a personas en los trabajos, sobre todo a aquellos dedicados a atención al cliente. Cualquier cosa que involucre generación de textos se podía hacer incluso cuando la IA no estaba tan avanzada como ahora.

Un grupo de expertos en IA exigen usar pruebas de seguridad previas al lanzamiento de la ASI (Superinteligencia Artificial)

Se estima que la mayoría de personas perderán sus trabajos ante la IA en cuestión de unas décadas, pero además de esto, está el temor de lo que ocurrirá si dejamos que la inteligencia artificial gobierne. Aquí nos imaginamos situaciones donde una IA se encargará de controlar ciudades enteras (como una pura distopía futurista) o peor aún, que se enfrente a la humanidad con los recursos que tiene. No es la primera vez que se habla de una posible rebelión de la inteligencia artificial y muchos ya han teorizado sobre esto.

Ahora tenemos un caso similar, pues un grupo de expertos en IA liderado por Max Tegmark, investigador de IA en el MIT, quieren cambiar el fatídico destino de la humanidad. Según estos, habría que hacer una prueba de seguridad con la IA similar a la prueba Trinity de la bomba nuclear de EE.UU.

Creen que hay un 90% de probabilidades de que una IA avanzada se rebele ante los humanos

Si has visto la película de Oppenheimer todo esto te sonará, pues esta trata del Proyecto Manhattan y como los estadounidenses crearon la primera bomba atómica durante la Segunda Guerra Mundial. Aunque fue liderado por Leslie Groves y Robert Oppenheimer. Aquí debemos mencionar a algunas personas que fueron clave como Arthur Compton, pues sus cálculos fueron necesarios para poder calmar a los miembros encargados de este proyecto. De hecho, fue Compton el que permitió que se realizaran las pruebas Trinity que sirvieron para calcular el impacto y la efectividad de esta bomba.

Precisamente por eso, Max y su equipo hacen referencia a una prueba como esta hecha de forma previa antes de un lanzamiento oficial de una Superinteligencia Artificial, también llamada ASI. Esto sería para evitar que esta IA se escapase del control de los humanos, ya que según él, sería un desastre. Según los cálculos de Max, hay un 90% de probabilidades de que una IA muy avanzada pueda rebelarse y convertirse en una amenaza contra la humanidad. Por tanto, exige que haya medidas de seguridad suficientes para impedir el peor de los desenlaces.

La entrada Los expertos en IA exigen hacer pruebas de seguridad similares a las de la primera bomba nuclear antes de lanzar una Superinteligencia Artificial aparece primero en El Chapuzas Informático.