Microsoft y su nueva búsqueda con la IA de OpenAI

Microsoft está haciendo una gran apuesta en inteligencia artificial (IA) con su renovada búsqueda de Bing y su navegador web Edge, ambos impulsados por lo que parece ser un acceso exclusivo al sucesor del popular modelo de lenguaje grande de OpenAI, ChatGPT.

El nuevo modelo de IA aún no tiene un nombre, solo se describe en una publicación de blog como:

…Un nuevo modelo de lenguaje grande de OpenAI de próxima generación que es más poderoso que ChatGPT y personalizado específicamente para la búsqueda. Toma las enseñanzas clave y los avances de ChatGPT y GPT-3.5 y es aún más rápido, más preciso y más capaz.

“Personalizado específicamente para la búsqueda” fue repetido por varios ejecutivos en el evento de Microsoft, por lo que debe ser un lenguaje acordado que no sobrecompromete las capacidades del modelo de una manera u otra. Sí lo llamaron un “nuevo modelo de lenguaje grande”, pero cuánto es un avance respecto a los anteriores de OpenAI es difícil de decir. La especulación es que se trataba de GPT-4, pero hasta ahora ese término no se ha utilizado. He pedido más información a OpenAI y actualizaré si recibo una respuesta.

Uno de los inconvenientes de los modelos grandes como estos es la inmensa potencia informática requerida para funcionar, lo que ha llevado a muchos posibles usuarios de ChatGPT a esperar unos minutos antes de iniciar una sesión. El enfoque de Microsoft en la escalabilidad tiene sentido, especialmente teniendo en cuenta que sin duda estará pagando la factura de cálculo y servidor.

A diferencia de ChatGPT y los otros modelos GPT, la búsqueda impulsada por IA de Bing se accede directamente a través de una interfaz de búsqueda normal, y se envuelve en un sistema de seguridad creado por Microsoft que llaman Prometheus. Es un nombre ominoso, porque aunque Prometeo era un dios de la sabiduría y la astucia, también terminó en tortura interminable, encadenado a una roca con un pájaro enorme picoteando sus tripas para siempre. Esperamos que Bing no termine de la misma manera.

Prometheus es parte de una capa de seguridad y control alrededor del modelo que actúa como un sanitizador y filtro, vigilar los resultados obviamente inapropiado.

Desafíos del poder computacional

Uno de los problemas de los modelos grandes como este es la inmensa potencia de cálculo necesaria para su funcionamiento, lo que ha llevado a muchos usuarios potenciales de ChatGPT a esperar unos minutos antes de iniciar una sesión. El enfoque de Microsoft en la escalabilidad tiene sentido, especialmente dado que será quien pague la factura de cálculo y servidor