El nuevo modelo pequeño de OpenAI está llamado a sustituir a GPT-3.5 ofreciendo un mejor rendimiento a un precio mucho más bajo.
Las compañías que desarrollan modelos de lenguaje están buscando alternativas a los grandes modelos que surgieron en los primeros meses de explosión de la inteligencia artificial. Hemos pasado de una carrera para demostrar quién hacía el modelo más grande para pasar al otro lado: modelos más pequeños pero más eficientes y principalmente, más baratos.
Los grandes ya habían dado el paso y creado sus modelos pequeños: Gemini Nano, Phi-3 de Microsoft o Claude Haiku, así que faltaba que OpenAI diera el paso, cosa que ha hecho esta semana con la presentación de GPT 4o mini.
Como es habitual cuando se presenta un nuevo modelo, OpenAI dice que el nuevo GPT-4o mini es superior a sus modelos anteriores y mejora a su competencia. Como ya sabréis, esas valoraciones se ven de otra forma cuando lo utilizamos realmente, así que toca que cada uno valore si este nuevo modelo es mejor que los que utilizamos habitualmente en nuestro día a día.
A nivel práctico, GPT-4o mini sustituirá a GPT-3.5 Turbo para los usuarios de ChatGPT gratuitos y está alimentado con información hasta octubre de 2023. Además, dicen que han mejorado su manejo de idiomas que no son el inglés.
Baja el precio de la IA
Los modelos de OpenAI no solo se utilizan en ChatGPT sino que hay miles de programadores que incluyen IA en sus productos utilizando los diferentes GPTs de OpenAI a través de APIs. Esas llamadas a la IA de OpenAI no son gratuitas y, aunque pequeño tienen un coste, lo que explica que la mayor parte de aplicaciones que usan la IA no sean gratuitas. Ese coste varía en función de la información que se envía a los GPTs de OpenAI y se mide en tokens (que equivalen, más o menos, a una palabra)
Para que nos hagamos una idea, el coste de enviar 1 millón de tokens a GPT 4o mini será de 15 centavos de dólar y de 60 centavos por cada millón de tokens que nos mande como respuesta de salida. Esto es un 60% más barato que lo que costaba GPT 3.5 Turbo, lo que probablemente hará que muchas aplicaciones que se basan en OpenAI puedan bajar de precio (o mejorar su beneficio).
