OpenAI aprovechó su primera conferencia para desarrolladores para presentar una amplia expansión de su plataforma, liderada por GPT-4 Turbo con una ventana de contexto de 128 000 tokens, precios de API más bajos, nuevas herramientas para desarrolladores y un sistema que permite a los usuarios crear versiones personalizadas de ChatGPT sin necesidad de escribir código. El anuncio realizado el lunes durante el DevDay de la compañía representa su esfuerzo más ambicioso hasta la fecha para convertir la tecnología detrás de ChatGPT en una plataforma de software de propósito general.
GPT-4 Turbo puede procesar mucha más información en una sola instrucción que los modelos GPT-4 estándar disponibles a principios de este año. OpenAI afirma que el modelo también es más capaz de seguir instrucciones y trabajar con resultados estructurados. La compañía fijó el precio de los tokens de entrada de GPT-4 Turbo en un tercio del costo de GPT-4 y el de los tokens de salida en la mitad del precio anterior, un cambio dirigido directamente a los desarrolladores que intentan crear aplicaciones comercialmente viables basadas en grandes modelos de lenguaje.
Una ventana de contexto más grande cambia lo que los desarrolladores pueden intentar
La ventana de contexto de 128 KB equivale aproximadamente a cientos de páginas de texto, lo que permite a los desarrolladores incluir documentos, bases de código o conversaciones mucho más extensas en una solicitud de modelo. Si bien esto no garantiza una recuperación perfecta de cada token, sí amplía las posibilidades prácticas para el análisis de documentos, los flujos de trabajo de recuperación y las aplicaciones de larga duración.
OpenAI también incorpora el modo JSON, una llamada a funciones mejorada, resultados reproducibles mediante un parámetro semilla y acceso a probabilidades de registro. Estas características son menos visibles que un nuevo nombre de modelo, pero son importantes para los equipos de software porque facilitan la integración del comportamiento del modelo en la lógica de las aplicaciones habituales. El lanzamiento de GPT-4 en marzo estableció la base para el razonamiento multimodal; GPT-4 Turbo está diseñado para que esta capacidad sea más económica y fácil de usar a gran escala.
La compañía también presentó una API de asistentes con herramientas integradas de recuperación, ejecución de código y llamada a funciones. En lugar de exigir a los desarrolladores que ensamblen cada componente de una aplicación conversacional por sí mismos, OpenAI ofrece una mayor parte de la capa de orquestación directamente.
Los GPT personalizados impulsan a ChatGPT hacia un mercado de aplicaciones
Para consumidores y organizaciones, el anuncio más visible son las GPT: versiones personalizadas de ChatGPT configuradas con instrucciones, conocimientos cargados y capacidades seleccionadas. En un anuncio de producto, OpenAI indicó que los usuarios de Plus y Enterprise pueden crear GPT para tareas específicas y compartirlas con otros. La compañía planea lanzar una tienda de GPT a finales de este mes donde se podrán encontrar GPT públicas.
La idea reduce la barrera entre usar un asistente de IA y desarrollar una pequeña aplicación. Un profesor podría configurar un GPT de tutoría en función de un plan de estudios, una empresa podría crear un asistente de políticas internas o un especialista podría combinar instrucciones con material de referencia propio. Las notas de la versión de ChatGPT describen el lanzamiento del 6 de noviembre como una nueva forma de adaptar ChatGPT al trabajo, el hogar y tareas especializadas.
Esta estrategia también amplía la orientación empresarial que OpenAI anunció en agosto. ChatGPT Enterprise incorporó controles administrativos, un mayor compromiso con la privacidad, un contexto más extenso y acceso ilimitado a GPT-4 de alta velocidad para las organizaciones. Los GPT ahora ofrecen una capa adicional de personalización que puede permanecer interna a la empresa o compartirse públicamente.
Las herramientas multimodales se integran en el mismo conjunto de herramientas de desarrollo
DevDay también incorpora a la API GPT-4 Turbo con visión artificial, generación de imágenes DALL·E 3 y conversión de texto a voz. Esto permite que una misma aplicación combine razonamiento textual, comprensión de imágenes, generación de imágenes y salida de voz utilizando una infraestructura común de proveedor y cuenta.
OpenAI lleva meses avanzando hacia esa convergencia. En su anuncio de DALL·E 3, describió un modelo de imagen diseñado para seguir instrucciones lingüísticas detalladas con mayor precisión y para trabajar en estrecha colaboración con ChatGPT como interfaz de refinamiento de indicaciones. Al abrir DALL·E 3 y las capacidades de visión artificial a un público más amplio, estas funciones orientadas al consumidor se convierten en componentes básicos para productos externos.
La plataforma ampliada también incluye Copyright Shield, mediante el cual OpenAI se compromete a defender a sus clientes y a cubrir los costes derivados de ciertas reclamaciones por infracción de derechos de autor relacionadas con sistemas OpenAI de uso general. Este compromiso se aplica a ChatGPT Enterprise y a la API, aunque no a todos los usos ni a todas las modificaciones.
El precio se convierte en un arma competitiva
El efecto comercial más inmediato podría derivarse del precio. Las aplicaciones de modelos de lenguaje de gran tamaño pueden resultar costosas al procesar grandes cantidades de datos, atender a muchos usuarios o realizar llamadas repetidas a los modelos dentro de un mismo flujo de trabajo. Reducir el precio de los tokens disminuye el coste de la experimentación y hace que algunas aplicaciones que antes eran marginales resulten más viables.
de TechCrunch sobre el DevDay, , destacó tanto las mejoras del modelo como los cambios de precios, junto con un programa experimental para el ajuste fino de GPT-4. OpenAI también está aumentando los límites de uso para los clientes de la API de GPT-4 ya existentes, otra señal de que la empresa se está preparando para un uso en producción de mayor volumen.
Estos anuncios presionan a los proveedores de modelos rivales para que compitan no solo en rendimiento de referencia, sino también en longitud de contexto, herramientas para desarrolladores, fiabilidad, control de datos y coste. Al mismo tiempo, OpenAI asume una mayor responsabilidad en la capa de aplicación. Al proporcionar recuperación de datos, ejecución de código, asistentes personalizados y un mercado de GPT, se acerca a áreas donde muchas startups han estado desarrollando productos sobre sus modelos.
De proveedor de modelos a empresa de plataformas
El mensaje principal de DevDay es que OpenAI ya no quiere ser evaluada únicamente por la inteligencia de su último modelo. Está integrando los componentes de una plataforma: modelos, herramientas, almacenamiento y recuperación, API multimodales, controles empresariales, personalización, un canal de distribución y menores costos unitarios.
Este cambio podría integrar aún más a OpenAI en el desarrollo de software, pero también aumenta las exigencias de ejecución. Los desarrolladores evaluarán la plataforma en función de su disponibilidad, la estabilidad de las versiones, la previsibilidad de los precios, la privacidad y la utilidad de las nuevas abstracciones a medida que evolucionan los modelos.
Por ahora, la ventana de contexto de 128 KB de GPT-4 Turbo y su precio más económico representan cambios técnicos sustanciales, mientras que las GPT constituyen una apuesta por que millones de usuarios puedan convertirse en desarrolladores de aplicaciones ligeras. En conjunto, hacen que el primer DevDay de la compañía sea menos una actualización de producto y más una declaración de que la IA generativa se está convirtiendo en una plataforma de aplicaciones por derecho propio.
