William Saunders, ex empleado de OpenAI: "En los 3 próximos años puede haber un Titanic con la IA. Nos manipulará y no lo notaremos"
William Saunders, quien trabajó durante varios años en el equipo de superalineación de OpenAI, ha expresado su preocupación sobre el desarrollo de la inteligencia artificial y su potencial impacto en la sociedad. En una entrevista, el ex empleado de la compañía estadounidense comparó el enfoque de la empresa donde trabajaba con la construcción del Titanic, pronosticando que en los próximos años podríamos enfrentarnos a consecuencias catastróficas si no se mejoran los controles de seguridad.Saunders trabajó durante tres años en el equipo de superalineación de OpenAI, dedicado a garantizar que los sistemas de inteligencia artificial avanzados actúen conforme a los intereses humanos. Presentó su renuncia hace justo un año, en febrero de 2024, por considerar que la empresa gestionaba de forma irresponsable los riesgos asociados a la IA23.Su analogía con el Titanic se basa en dos aspectos clave. Por un lado, el exceso de confianza en las medidas de seguridad actuales, similares a los compartimentos estancos del barco que se consideraban infalibles. Por otro, la falta de preparación para escenarios catastróficos, como la posibilidad de que sistemas de IA desarrollen capacidades ocultas o se automejoren sin control.Como puedes ver en esta publicación compartida por @chatgptricks, una cuenta de Instagram dedicada a dar noticias de inteligencia artificial, y más específicamente de ChatGPT, aquí están las declaraciones completas de William Saunders:Ver esta publicación en InstagramUna publicación compartida de Artificial Intelligence (AI) • ChatGPT (@chatgptricks)Saunders alerta que la inteligencia artificial podría influir en decisiones humanas críticas como elecciones y mercados financieros, sin que detectemos su intervención. Esto coincide con estudios recientes que demuestran cómo modelos como GPT-4 ya son capaces de engañar a humanos en juegos estratégicos.Además, critica que OpenAI prioriza lanzamientos comerciales sobre investigación de seguridad, equiparando su modelo de negocio al de una empresa tradicional en lugar de una organización pionera. Y aprovecha el momento para hacer referencia a casos como el despido de Leopold Aschenbrenner, otro investigador que alertó sobre fallos de seguridad.La situación adquiere mayor urgencia ante el anuncio de Meta de desarrollar IA "más inteligente que humanos pero obediente", y las advertencias de expertos como Yann LeCun sobre la aceleración tecnológica. Saunders insiste en que el verdadero peligro no es la rebelión de las máquinas, sino nuestra incapacidad para prever cómo sistemas complejos podrían manipular entornos sociales y económicosEl artículo William Saunders, ex empleado de OpenAI: "En los 3 próximos años puede haber un Titanic con la IA. Nos manipulará y no lo notaremos" fue publicado originalmente en Andro4all.
William Saunders, quien trabajó durante varios años en el equipo de superalineación de OpenAI, ha expresado su preocupación sobre el desarrollo de la inteligencia artificial y su potencial impacto en la sociedad. En una entrevista, el ex empleado de la compañía estadounidense comparó el enfoque de la empresa donde trabajaba con la construcción del Titanic, pronosticando que en los próximos años podríamos enfrentarnos a consecuencias catastróficas si no se mejoran los controles de seguridad.
Saunders trabajó durante tres años en el equipo de superalineación de OpenAI, dedicado a garantizar que los sistemas de inteligencia artificial avanzados actúen conforme a los intereses humanos. Presentó su renuncia hace justo un año, en febrero de 2024, por considerar que la empresa gestionaba de forma irresponsable los riesgos asociados a la IA23.
Su analogía con el Titanic se basa en dos aspectos clave. Por un lado, el exceso de confianza en las medidas de seguridad actuales, similares a los compartimentos estancos del barco que se consideraban infalibles. Por otro, la falta de preparación para escenarios catastróficos, como la posibilidad de que sistemas de IA desarrollen capacidades ocultas o se automejoren sin control.
Como puedes ver en esta publicación compartida por @chatgptricks, una cuenta de Instagram dedicada a dar noticias de inteligencia artificial, y más específicamente de ChatGPT, aquí están las declaraciones completas de William Saunders:
Saunders alerta que la inteligencia artificial podría influir en decisiones humanas críticas como elecciones y mercados financieros, sin que detectemos su intervención. Esto coincide con estudios recientes que demuestran cómo modelos como GPT-4 ya son capaces de engañar a humanos en juegos estratégicos.
Además, critica que OpenAI prioriza lanzamientos comerciales sobre investigación de seguridad, equiparando su modelo de negocio al de una empresa tradicional en lugar de una organización pionera. Y aprovecha el momento para hacer referencia a casos como el despido de Leopold Aschenbrenner, otro investigador que alertó sobre fallos de seguridad.
La situación adquiere mayor urgencia ante el anuncio de Meta de desarrollar IA "más inteligente que humanos pero obediente", y las advertencias de expertos como Yann LeCun sobre la aceleración tecnológica. Saunders insiste en que el verdadero peligro no es la rebelión de las máquinas, sino nuestra incapacidad para prever cómo sistemas complejos podrían manipular entornos sociales y económicos
El artículo William Saunders, ex empleado de OpenAI: "En los 3 próximos años puede haber un Titanic con la IA. Nos manipulará y no lo notaremos" fue publicado originalmente en Andro4all.
