Líderes del mundo tecnológico piden pausar el desarrollo de IA

GIF de un vaquero fenando a un caballo en una pista de arena para jhacer referencia a la petición de líderes del mundo tecnológico para frenar el desarrollo de IA
Aguanta el poni con la vaina esa del chatyipití. GIF: Giphy

Un grupo de prominentes líderes del mundo de la tecnología publicó una carta abierta en la que urge a los grandes desarrolladores de sistemas de inteligencia artificial (IA) a que detengan, por lo menos durante seis meses, los esfuerzos de entrenamiento de sistemas más poderosos que GPT-4. Microsoft y Google, los dos actores más grandes de este campo, han guardado, hasta el momento, un elocuente silencio.

¿Cuál es la preocupación?

De acuerdo con los firmantes, uno de los principios Asilomar —un conjunto de guías para la investigación y desarrollo de IA— es que “la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debería planificarse y gestionarse con la atención y los recursos adecuados”. Recientemente, OpenAI, la empresa que desarrolló a ChatGPT, publicó un comunicado en el que señalaba que en algún punto era importante tener una evaluación independiente antes de empezar a entrenar nuevos sistemas de IA para ponerse de acuerdo en limitar el ritmo de crecimiento de la computación utilizada para crear nuevos modelos. Este fue el punto que motivó la carta, en la que se señala que ese punto es ya.

La preocupación expresada en la carta es que OpenAI, Microsoft y Google, líderes de la investigación, están compitiendo para desarrollar y lanzar nuevos modelos de IA con fines de lucro a una velocidad que supera la capacidad de la sociedad y los reguladores para entender a cabalidad sus riesgos.  “Los que los desarrollan han dicho que podrían ser una amenaza existencial para la sociedad e incluso para la humanidad, sin ningún plan para mitigar totalmente estos riesgos”, afirmó Emad Mostaque, fundador de Stability AI, empresa que de IA generacional, y firmante de la carta. “Es hora de dejar de lado las prioridades comerciales y hacer una pausa por el bien de todos para evaluar en lugar de correr hacia un futuro incierto”, añadió.

¿Qué tan rápido va la investigación?

La carrera de los modelos generativos de IA, como ChatGPT, Bard, o similares, ha sido vertiginosa. Por poner un ejemplo, OpenAI presentó GPT-2, su primer modelo de gran tamaño, en febrero de 2019. GPT-3 apareció en junio de 2020. En noviembre de 2022 surgió ChatGPT, una versión mejorada de GPT-3. Actualmente, están entrenando GPT-4, que ha mostrado capacidades asombrosas como obtener resultados sobresalientes en pruebas estandarizadas o construir páginas web completas a partir de un diseño en una servilleta.

Recibe newstro boletín gratuito

Newspresso te ofrece una selección cuidadosa de las noticias más relevantes de Colombia y el mundo para que empieces tu día con los ojos bien abiertos.

Noticias relacionadas