Mediante el fine-tuning, Open AI permitirá que el chatbot se pueda centrar en tareas específicas y las empresas puedan así convertir Chat GPT en una herramienta más eficiente. Por ejemplo. Algunos de los ejemplos son completar código o mantener un tono consistente en las respuestas, alineado con las estrategias y parámetros específicos de cada empresa.
Fine-tuning con GPT-3.5 Turbo
Dentro del mundo del aprendizaje profundo, el concepto del fine-tuning hace referencia a los pequeños ajustes que se realizan en una herramienta para optimizar al máximo su rendimiento. Open AI tiene la intención de que las empresas puedan adaptar el chatbot a los usos que cada una esté buscando utilizando sus propios datos. Según aseguran, los resultados de este modelo de customización pueden igualar o incluso superar los de GPT-4 para algunas tareas. Más adelante tienen la intención de permitir también hacer fine-tuning con GPT-4. Al permitir que las empresas puedan formar al chatbot y adaptarlo a sus tareas, pueden conseguir que cada cliente tenga un sistema único en torno a sus necesidades. Esto por ejemplo puede permitir mejores resultados en otros idiomas que no necesariamente están todavía incluidos en Chat GPT. Antes del GPT-3.5 Turbo, la manera de poder hacer esto era con las variantes de GPT-3, pero que estaban mucho más limitadas. Otras de las funciones que se pueden optimizar son las respuestas alineadas con una estrategia de branding o comunicación interna concretas. Lo mismo sucede con la creación de código, permite orientar los resultados en torno a unos parámetros definidos.
GPT-3.5 llegó a principios de año con la misión de responder a cuestiones no necesariamente orientadas al formato chat. Puede manejar 4,000 tokens de contexto cada vez. Esta es la manera que tienen los modelos de lenguaje para medir su capacidad de gestionar información y ofrecer respuestas más o menos complejas. Open AI asegura que esto es el doble de lo que ofrecían los modelos anteriores. Los primeros en poder probar esta herramienta aseguran que pueden utilizar prompts un 90% más cortos tras optimizar la herramienta con fine-tuning. El precio de GPT-3.5 es de 0.0080 dólares por cada 1,000 tokens de entrenamiento, 0.0120 dólares por cada 1,000 tokens de input y lo mismo para 1,000 tokens de output. Esto puede parecer un precio muy pequeño, pero con las enormes bases de datos que manejan las empresas, no será extraño que tengan que dedicar una parte considerable de su presupuesto para el fine-tuning de la IA. Y esto va a ser muy rentable para las empresas detrás de los chatbots.
Las herramientas de IA customizables
Poder personalizar el entrenamiento de los modelos de lenguaje será una parte clave del mercado de los chatbots muy pronto. Al fin y al cabo, las grandes empresas buscan la máxima optimización posible, y esto va a ser posible con los propios modelos generativos a través del fine-tuning. Microsoft también ofrece modelos que se pueden refinar dentro de su servicio de AI Builder and Power Virtual Agents. La intención es que el modelo se pueda conectar a la base de datos interna y privada de cada empresa para elaborar respuestas mucho más competentes. Microsoft dice que puede ser una manera muy eficiente de crear por ejemplo campañas de email marketing. No es de extrañar que muy pronto todas las empresas que están trabajando en IA generativa ofrezcan a las empresas una manera de customizar sus servicios.
Además, las herramientas customizables empoderan a las empresas al proporcionarles un mayor control sobre su propia tecnología. En lugar de depender exclusivamente de equipos de desarrollo externos, las organizaciones pueden tomar las riendas y adaptar las soluciones según sus necesidades cambiantes. Esto no solo agiliza la implementación, sino que también crea una cultura de aprendizaje interno y mejora la agilidad organizacional. Sin embargo, a pesar de sus ventajas, la customización de herramientas de IA también presenta desafíos. La necesidad de contar con expertos en IA y desarrollo puede ser un obstáculo para algunas empresas, especialmente para aquellas con recursos limitados. De forma inevitable habrá una brecha entre las grandes empresas que podrán permitirse destinar una parte mayor o menor de su presupuesto al fine-tuning. En última instancia, va a ser una manera de lograr que las empresas puedan optimizar la IA al máximo.
