¿Cómo controlar una inteligencia artificial sobrehumana? “Con otra IA”, dice la empresa ChatGPT
Desde mediados de año, la empresa OpenAI, responsable de ChatGPT, dice que ha estado trabajando para responder a la pregunta: ¿cómo controlar la inteligencia artificial sobrehumana?
Uno de los momentos más importantes de 2023 fue el auge que alcanzó la herramienta ChatGPT, batiendo récords de usuarios y siendo la que más creció. Tras esto, otras empresas, como Google, ya se han lanzado a la carrera por crear sus propios modelos de lenguaje y chatbots similares a ChatGPT.
La capacidad de ChatGPT para responder preguntas y resolver problemas es algo que llama la atención. Algunos incluso sugieren lo cerca que estamos de una inteligencia artificial general que podría hacer todo lo que un humano puede hacer y mejor. Esta es una preocupación que la propia empresa de ChatGPT, OpenAI, planteó recientemente.
Para ello, OpenAI sostiene que ha centrado recursos en responder a la pregunta: ¿cómo podemos controlar la inteligencia artificial sobrehumana, para hacer lo que queremos? Ahora, OpenAI ha llegado a una conclusión: solo podemos controlar la inteligencia artificial con otra inteligencia artificial.
Inteligencia artificial
La definición de qué es la inteligencia artificial puede tener diferentes respuestas dependiendo de la literatura. La más famosa es la definición que introduce Alan Turing en su artículo de 1950 cuando pregunta si las máquinas pueden pensar. En aquel momento, Turing utilizaba el término máquinas pensantes.
Desde el artículo de Turing, el área ha crecido en las últimas décadas, especialmente desde la década de 2010 con el desarrollo de máquinas cada vez más potentes. Hoy en día, la inteligencia artificial está en nuestras vidas, desde usar un celular con un asistente virtual, hasta unirnos a redes sociales que utilizan sistemas de recomendación.
Modelos de lenguaje
Pero lo que más ha llamado la atención sobre el potencial de la inteligencia artificial, son los modelos de lenguaje. En inglés se llaman LLM (large language models) y son modelos que aprenden tras observar miles o millones de textos e imágenes. Estos modelos pueden responder preguntas, resumir textos, generar gráficos, etc.
Se ha hablado muy poco de una de las limitaciones de los grandes modelos de lenguaje:
— DimensionIA (@Dimension_ia) December 17, 2023
Los LLM no inventan o descubren nada nuevo. Solo aportan datos basados en los datasets con los que fueron entrenados.
Al menos eso era hasta el avance que ha realizado Google DeepMind pic.twitter.com/n4pnHNjptd
El modelo más famoso es ChatGPT de la empresa OpenAI. Recientemente, ChatGPT recibió una nueva versión del modelo de lenguaje GPT que está superando las expectativas e incluso logrando analizar nuevos datos. Esto plantea la pregunta: ¿cuál es el límite de la inteligencia artificial?
El problema de la alineación
¿Cómo podemos hacer que inteligencias artificiales, mucho más inteligentes que nosotros, hagan exactamente lo que queremos? Esta es una pregunta que parece salida de la ciencia ficción, pero que ya es una realidad. Esta pregunta se llama problema de alineación: ¿cómo nos aseguramos de no perder el control de algo mucho más inteligente que nosotros?
El problema sostiene que solo tendríamos una oportunidad de hacerlo bien, cuando alcancemos una inteligencia artificial sobrehumana. Esto hace que empresas, como OpenAI, empiecen a centrarse en cómo responder a esta pregunta y no perder el control de lo que mantiene a la empresa prosperando en la actualidad.
¿Cómo controlarían algo sobrehumano?
La respuesta a esta pregunta, según una nueva publicación publicada por OpenAI, es utilizar otra inteligencia artificial para realizar este trabajo. La idea es utilizar sistemas de inteligencia artificial más pequeños para poder supervisar una inteligencia artificial más completa.
De esta manera, el modelo de inteligencia artificial más pequeño podría supervisar y encontrar problemas con los modelos más grandes. Este sería un trabajo difícil para seres humanos que, según el artículo, serían malos supervisores.
¿Podemos creer en una IA con otra IA?
OpenAI sostiene que esta es la mejor manera de garantizar que no perdamos el control sobre estas IA sobrehumanas. Sin embargo, todavía es necesario hacer esfuerzos en la investigación y aplicación de estas técnicas.
Según la publicación, esperan tener la respuesta en 4 años mientras continúan los esfuerzos para mejorar estos modelos de lenguaje. Ya existe una discusión debido a la futura nueva IA de OpenAI llamada Q*, que afirma que podría incluso resolver el razonamiento lógico.