En ella, piden que las empresas que desarrollan este tipo de programas “pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4”.Tanto GPT-4, como ChatGPT, son un tipo de inteligencia artificial generativa, es decir, que utiliza algoritmos y texto predictivo para crear contenido nuevo basado en instrucciones.
“Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede implementar rápidamente, los gobiernos deberían intervenir e instituir una suspensión“, agrega el texto.
Emitida por la organización sin fines de lucro Future of Life Institute, que tiene entre sus asesores externos a Elon Musk, la declaración advierte que estos sistemas pueden plantear “profundos riesgos para la sociedad y la humanidad”.
El grupo de expertos argumenta que los poderosos sistemas de inteligencia artificial pueden generar información errónea y reemplazar los trabajos con automatización.
La polémica
Sin embargo, The Guardian informó que la carta no tenía protocolos de autentificación y que muchas de las firmas no eran verdaderas. Además, de que muchos de los firmantes retiraron su apoyo.
Entre las investigaciones citadas se encuentra “On the Dangers of Stochastic Parrots” (Sobre los peligros de los loros estocásticos), un conocido artículo del que es coautora Margaret Mitchell, que anteriormente supervisó la investigación ética de la IA en Google. Mitchell, ahora jefa de ética científica en la empresa de IA Hugging Face, criticó la carta y dijo a Reuters que no estaba claro qué se consideraba “más potente que GPT4″. ”Al dar por sentadas muchas ideas cuestionables, la carta afirma un conjunto de prioridades y una narrativa sobre la IA que beneficia a los partidarios de FLI”, dijo.
Sus coautores Timnit Gebru y Emily M. Bender criticaron la carta en Twitter, y esta última calificó algunas de sus afirmaciones de “desquiciadas”.
El presidente de FLI, Max Tegmark, respondió que la campaña no era un intento de obstaculizar la ventaja corporativa de OpenAI. ”Es bastante gracioso. He visto a gente decir: ‘Elon Musk está tratando de frenar a la competencia’”, dijo a Reuters.
¿Deberíamos desarrollar mentes no humanas?
La carta firmada por los expertos hace la siguiente pregunta: “¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, dejarnos obsoletos y reemplazarnos?”.
En una publicación reciente citada en la carta, OpenAI, la empresa detrás de GPT-4, también advirtió sobre los potenciales riesgos de la tecnología.
“Una superinteligencia desalineada podría causar un daño grave al mundo; un régimen autocrático con una superinteligencia decisiva podría hacer eso también“, escribió la compañía en un blog.
OpenAI no ha comentado públicamente la carta.
Elon Musk fue cofundador de OpenAI, aunque renunció a la junta directiva de la organización hace algunos años y ha publicado mensajes críticos en Twitter sobre la dirección de la empresa.
Las funciones de conducción autónoma desarrolladas por su empresa de automóviles Tesla, como la mayoría de otros sistemas similares, utilizan tecnología de inteligencia artificial.
