Tecnología
«Pausen los experimentos gigantes de IA»: Elon Musk
El magnate publicó una carta abierta en la que pide poner una pausa de 6 meses en la creación de nuevos modelos de inteligencia artificial.
FOTO: Internet.
Elon Musk, uno de los empresarios más influyentes del mundo, y de los más críticos con los avances recientes en el campo de la inteligencia artificial (IA), pide establecer una pausa de 6 meses en los avances en este campo.
Recientemente, junto con más de mil expertos y políticos, ha firmado una carta abierta en la que pide poner una pausa de seis meses en el desarrollo de sistemas de IA más potentes que el reciente GPT-4 de OpenAI, la empresa que cofundó, debido al potencial peligro que representaría para la humanidad.
La carta abierta ha sido publicada por el Future of Life Institute, una organización sin fines de lucro dedicada a promover el uso beneficioso y responsable de la tecnología.
Entre los firmantes se encuentran investigadores de renombre en el campo de la IA, como Yoshua Bengio (Premio Turing 2018 por su trabajo en el desarrollo del deep learning) y Stuart J. Russell (autor del manual universitario que más se utiliza en el campo de la IA.
Además de ejecutivos de empresas tecnológicas como Stability AI y DeepMind. La carta también ha recibido el apoyo de varios legisladores estadounidenses y europeos.
¿Qué es GPT-4 y por qué preocupa a Musk y a otros?
Se trata de un programa de IA capaz de generar textos, imágenes, música y otros contenidos a partir de una entrada de palabras o datos.
Es el sucesor del famoso GPT-3, que ya sorprendió al mundo con sus habilidades para conversar, componer y resumir. GPT-4 es aún más avanzado y puede producir contenidos más realistas y variados.
Sin embargo, esta capacidad también implica riesgos potenciales para la sociedad y la humanidad, según la carta abierta. Los firmantes advierten que la IA podría usarse para fines maliciosos, como el phishing, la desinformación, el ciberdelito o la manipulación.
De hecho, esta misma semana Europol publicó un informe en el que afirma que ChatGPT es un arma clave en el arsenal de muchos criminales, que facilitaría tener acceso a información peligrosa.
Ante esto, Musk y los firmantes piden que se detenga el desarrollo de sistemas más potentes que GPT-4 hasta que se establezcan medidas de seguridad y regulación adecuadas.
Proponen crear nuevas autoridades reguladoras, vigilar los sistemas de IA, desarrollar técnicas para distinguir entre lo real y lo artificial y crear instituciones capaces de hacer frente a los desafíos sociales y éticos de la IA.
Te puede interesar:
MÁS NOTICIAS DE Tecnología
