Pausar el entrenamiento de IA después de GPT-4

Elon Musk y docenas de otros líderes tecnológicos han pedido a los laboratorios de inteligencia artificial que dejen de desarrollar sistemas que puedan rivalizar con la inteligencia a nivel humano.

en carta abierta Desde el Future of Life Institute, co-firmado por Musk, el cofundador de Apple, Steve Wozniak, y el candidato presidencial de 2020, Andrew Yang, se ha instado a AI Labs a posponer modelos de entrenamiento más potentes que GPT-4, la última versión de la startup. Programa Big Language Models en EE.UU. OpenAI.

«Los sistemas de inteligencia artificial contemporáneos ahora compiten con los humanos en tareas públicas, y tenemos que preguntarnos: ¿deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y mentiras?». Leer el mensaje.

«¿Deberíamos eliminar mecánicamente todos los trabajos, incluidos aquellos que tienen un propósito? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, sobrevivir y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?»

«Tales decisiones no deben delegarse en líderes tecnológicos no elegidos», agrega la carta.

El Future of Life Institute es una organización sin fines de lucro con sede en Cambridge, Massachusetts, que lucha por el desarrollo responsable y ético de la inteligencia artificial. Entre sus fundadores se encuentran el cosmólogo del MIT Max Tegmark y el cofundador de Skype, Jan Tallinn.

El instituto consiguió previamente que Musk y el laboratorio de inteligencia artificial DeepMind, propiedad de Google, se comprometieran a no desarrollar sistemas de armas letales y autónomos.

El instituto dijo que pidió a todos los laboratorios de IA que «dejen de entrenar inmediatamente durante al menos 6 meses sistemas de IA más potentes que GPT-4».

Se cree que GPT-4, que se lanzó a principios de este mes, es mucho más avanzado que su predecesor, GPT-3.

«Si tal moratoria no se puede activar rápidamente, los gobiernos deben intervenir e imponer una moratoria», agregó.

ChatGPT, un chatbot impulsado por IA, sorprendió a los investigadores con su capacidad para producir respuestas similares a las humanas a las indicaciones de los usuarios. En enero, ChatGPT había acumulado 100 millones de usuarios activos mensuales solo dos meses después de su lanzamiento, lo que la convierte en la aplicación para consumidores de más rápido crecimiento en la historia.

La tecnología está entrenada en grandes cantidades de datos de Internet y se ha utilizado para crear de todo, desde poesía al estilo de William Shakespeare hasta redactar opiniones legales en casos judiciales.

Pero los especialistas en ética de la IA también han expresado su preocupación por los posibles abusos de la tecnología, como el plagio y la desinformación.

Musk ha dicho anteriormente que cree que la IA representa uno de los «mayores riesgos» para la civilización.

El CEO de Tesla y SpaceX también es cofundador de OpenAI, aunque dejó la junta directiva de OpenAI en 2018 y ya no posee una participación en la empresa.

Ha criticado a la organización varias veces recientemente, diciendo que cree que se desvía de su objetivo original.

Los reguladores también están compitiendo para controlar las herramientas de IA a medida que la tecnología avanza a un ritmo acelerado. El miércoles, el gobierno del Reino Unido publicó un libro blanco sobre inteligencia artificial, refiriendo a varios reguladores para que supervisen el uso de herramientas de IA en sus sectores mediante la aplicación de las leyes existentes.