Sam Altman, creador de ChatGPT y director ejecutivo de OpenAI, insta al Senado a regular la IA

Mejor describiría el tono de las audiencias del Congreso que involucraron a ejecutivos de la industria tecnológica en los últimos años como hostil. Mark Zuckerberg, Jeff Bezos y otras luminarias tecnológicas fueron disfrazados en Capitol Hill por legisladores disgustados con sus empresas.

Pero el martes, Sam Altman, director ejecutivo de la startup OpenAI de San Francisco, testificó ante los miembros de un subcomité del Senado y coincidió en gran medida con ellos en la necesidad de regular la tecnología de IA cada vez más poderosa que se está construyendo dentro de su empresa y otras como Google. y Microsoft.

En su primer testimonio ante el Congreso, Altman imploró a los legisladores que regularan la inteligencia artificial mientras los miembros del comité demostraban una comprensión emergente de la tecnología. La audiencia destacó la profunda preocupación que sienten los tecnólogos y el gobierno sobre los daños potenciales de la IA. Pero esta preocupación no se extendió al Sr. Altmann, quien tuvo una audiencia amistosa en los miembros del subcomité.

La aparición del Sr. Altman, un empresario tecnológico de 38 años, marcó su bautizo como una figura destacada de la IA. para una audiencia de tres horas.

El Sr. Altman también habló sobre la tecnología de su compañía en una cena con docenas de miembros de la Cámara el lunes por la noche y se reunió en privado con varios senadores antes de la sesión, según personas que asistieron a cenas y reuniones. Ha proporcionado un marco flexible para gestionar lo que sucede a continuación con sistemas en rápida evolución que algunos creen que pueden cambiar fundamentalmente la economía.

«Creo que si algo sale mal con esta tecnología, simplemente podría salir mal. Y queremos ser sinceros al respecto», dijo. “Queremos trabajar con el gobierno para evitar que eso suceda”.

El Sr. Altman hizo su primera aparición pública en Capitol Hill a medida que crecía el interés por la inteligencia artificial. Los gigantes tecnológicos han puesto esfuerzos y miles de millones de dólares en lo que dicen que es tecnología transformadora, incluso en medio de crecientes preocupaciones sobre el papel de la inteligencia artificial en la difusión de desinformación, la destrucción de empleos y, algún día, la inteligencia humana.

Esto ha llevado la tecnología al centro de atención en Washington. “Lo que está haciendo tiene un potencial tremendo y un peligro enorme”, dijo el presidente Biden este mes en una reunión con un grupo de directores ejecutivos de empresas de inteligencia artificial. Los principales líderes del Congreso también prometieron crear regulaciones de IA.

Estaba claro que los miembros del Subcomité Senatorial de Privacidad, Tecnología y Leyes no estaban planeando un contrainterrogatorio aproximado del Sr. Altman, ya que agradecieron al Sr. Altman por sus reuniones privadas con ellos y su acuerdo de comparecer en la audiencia. Corey Booker, el demócrata de Nueva Jersey, se ha referido repetidamente al Sr. Altman por su nombre de pila.

Al Sr. Altman se unieron en la audiencia Christina Montgomery, directora de privacidad y confianza de IBM, y Gary Marcus, un conocido profesor y crítico frecuente de la tecnología de IA.

Altman dijo que la tecnología de su empresa puede destruir algunos puestos de trabajo pero también crear otros nuevos, y será importante «que el gobierno sepa cómo queremos mitigar eso». Haciéndose eco de una idea propuesta por el Dr. Marcus, propone la creación de una agencia que emita licencias para el desarrollo de modelos de IA a gran escala y reglamentos y pruebas de seguridad que los modelos de IA deben pasar antes de ser lanzados al público.

“Creemos que los beneficios de las herramientas que hemos implementado hasta ahora superan con creces los riesgos, pero garantizar su seguridad es vital para nuestro trabajo”, dijo el Sr. Altman.

Pero no estaba claro cómo responderían los legisladores al llamado para regular la IA. Docenas de proyectos de ley de privacidad, expresión y seguridad han fracasado durante la última década debido a las disputas partidistas y la feroz oposición de los gigantes tecnológicos.

Estados Unidos ocupa el segundo lugar después del mundo en términos de regulaciones relacionadas con la privacidad, el discurso y la protección de los niños. También está atrasado en las regulaciones de IA. Los legisladores de la UE están listos para introducir reglas para la tecnología a finales de este año. China también ha creado leyes de IA que cumplen con las leyes de censura.

El senador Richard Blumenthal, demócrata de Connecticut y presidente del comité del Senado, dijo que la audiencia fue la primera de una serie para aprender más sobre los posibles beneficios y daños de la IA para finalmente «escribir las reglas».

También reconoció el fracaso del Congreso para seguir el ritmo de la introducción de nuevas tecnologías en el pasado. “Nuestro objetivo es desmitificar y responsabilizar a esas nuevas tecnologías para evitar algunos de los errores del pasado”, dijo el Sr. Blumenthal. «El Congreso no pudo ponerse al día en las redes sociales».

Los miembros del subcomité propusieron una agencia independiente para supervisar AI; reglas que obligan a las empresas a revelar cómo funcionan sus modelos y los conjuntos de datos que utilizan; y normas antimonopolio para evitar que empresas como Microsoft y Google monopolicen el mercado emergente.

“El diablo está en los detalles”, dijo Sarah Myers-West, directora gerente del AI Now Institute, un grupo de expertos en políticas. Ella dijo que las sugerencias del Sr. Altmann para las regulaciones no son suficientes y deberían incluir límites sobre cómo se puede usar la IA para vigilar y usar datos biométricos. Señaló que el Sr. Altman no mostró signos de desaceleración en el desarrollo de la herramienta ChatGPT de OpenAI.

“Es irónico ver una actitud de preocupación por los daños causados ​​por personas que activan rápidamente el uso comercial del sistema responsable de un daño tan grave”, dijo la Sra. West.

Aún así, algunos legisladores en la audiencia destacaron la brecha persistente en el conocimiento tecnológico entre Washington y Silicon Valley. Lindsey Graham, republicana de Carolina del Sur, ha preguntado repetidamente a los testigos si el escudo de responsabilidad del discurso para plataformas en línea como Facebook y Google también se aplica a la IA.

Tranquilo e imperturbable, el Sr. Altman ha intentado varias veces distinguir entre la inteligencia artificial y las redes sociales. «Necesitamos trabajar juntos para encontrar un enfoque completamente nuevo», dijo.

Algunos miembros de los subcomités también se mostraron reacios a imponer severas restricciones a una industria con grandes promesas económicas para Estados Unidos y que compite directamente con adversarios como China.

Chris Coons, un demócrata de Delaware, dijo que los chinos están creando inteligencia artificial que «promueve los valores fundamentales del Partido Comunista Chino y el sistema chino». «Y me preocupa cómo podemos fomentar la IA que promueva y fortalezca los mercados abiertos, las sociedades abiertas y la democracia».

Algunas de las preguntas y comentarios más difíciles hacia el Sr. Altman provinieron del Dr. Marcus, quien señaló que OpenAI no ha sido transparente sobre los datos que utiliza para desarrollar sus sistemas. Se mostró escéptico ante la predicción del Sr. Altman de que los nuevos trabajos reemplazarían a los eliminados por la inteligencia artificial.

“Aquí tenemos oportunidades sin precedentes, pero también enfrentamos una tormenta perfecta de irresponsabilidad corporativa, alcance generalizado, falta de regulación adecuada y falta de confiabilidad inherente”, dijo el Dr. Marcus.

Las empresas de tecnología han argumentado que el Congreso debe tener cuidado con las reglas generales que agrupan diferentes tipos de IA. En la audiencia del martes, Montgomery de IBM pidió una ley de IA similar a las regulaciones europeas propuestas, que establecen diferentes niveles de riesgo. Pidió reglas enfocadas en usos específicos, no regulando la tecnología en sí.

“En esencia, la IA es solo una herramienta, y las herramientas pueden servir para diferentes propósitos”, dijo, y agregó que el Congreso debe adoptar un “enfoque de regulación cuidadosa de la IA”.