La orquestación es una herramienta crucial para llevar aplicaciones de inteligencia artificial desde la concepción inicial hasta el punto de envío al mercado.
El experto en tecnología Dimitri Glazkov plantea que, tradicionalmente en el desarrollo de software, llevar una idea desde la concepción hasta la realización total suele seguir una secuencia relativamente lineal y predecible. Primero, se debe pasar la barrera de "esto podría funcionar" con un prototipo inicial. Luego, en la fase de maduración, se trabaja en la implementación sólida de la idea hasta llegar a un punto donde la aplicación funcione razonablemente bien en forma consistente.
Sin embargo, con las aplicaciones de IA el proceso es muy distinto y no encaja para nada en un marco secuencial tradicional. Pasar la primera barrera de "esto podría funcionar" es bastante sencillo con IA. El verdadero desafío viene en llegar al punto donde la aplicación produce resultados consistentes la mayor parte del tiempo. Ahí es donde muchos proyectos de IA se estancan, en lo que Glazkov llama el "problema del 70%".
El especialista relata que es común ver colegas emocionados ante un demo inicial de una aplicación de IA que logra hacer algo asombroso. Rápidamente quieren envolverlo y llevarlo al mercado. Pero cuando se intenta salirse un poco del guion original, los resultados son frustrantes e impredecibles. Por más que se ajusten prompts, modelos y configuraciones, pocas veces se logra superar ese techo del 70% de consistencia.
Intentar encasillar la naturaleza esquiva de los grandes modelos de lenguaje en las limitaciones y procesos del software de producción tradicional rara vez funciona. Por el contrario, lo que aumenta las probabilidades de éxito es la capacidad de reorganizar todo y mantener flexibilidad en el diseño. Glazkov destaca que la habilidad para cambiar el enfoque una y otra vez es lo que permite seguir experimentando hasta hallar una fórmula ganadora.
De ahí la importancia crucial de contar con un marco de orquestación de IA robusto. Glazkov concluye que los equipos que insisten en apegarse al demo inicial tienen menos posibilidades de superar la barrera del 70% y llegar al mercado. En cambio, aquellos que adoptan un marco de orquestación que les permite experimentar y cambiar su enfoque repetidamente, tendrán más opciones de llevar con éxito aplicaciones de IA a los usuarios.
Si bien el proceso caótico de desarrollo de aplicaciones de IA puede resultar desalentador, Glazkov señala que es un estado transitorio. Con cada nuevo ciclo de innovación tecnológica se pasa por esta etapa, hasta eventualmente llegar a una meseta de productividad donde se imponen las reglas tradicionales.
El analista estima que la industria recién está llegando al pico de expectativas infladas en el ciclo de sobrexpectativas de la IA. En dicho contexto, la mayoría de los equipos se estrellarán contra la barrera del 70% si no adoptan un enfoque de orquestación.
De ahí la importancia de prepararse para cambiarlo todo varias veces cuando se construye con grandes modelos de lenguaje. Hoy por hoy, la clave está en ser ágil y no encasillarse en un camino fijo. El mensaje para cualquier equipo que emprenda un proyecto de IA es claro: elijan un framework de orquestación robusto que les dé espacio para pivotar. De lo contrario, es muy probable que el desarrollo se convierta en un atolladero.
Los grandes modelos de lenguaje plantean desafíos muy distintos a los del software tradicional. Requieren de un enfoque adaptable y ágil, donde la orquestación es crucial para experimentar y encontrar la fórmula ganadora. Equipos más rígidos y apegados a procesos secuenciales tendrán menos opciones de éxito.
La habilidad para cambiar el enfoque y experimentar iterativamente es la clave en esta era temprana de exacerbadas expectativas. Y la orquestación de IA emerge como una pieza central de ese proceso experimental. Los equipos que lo internalicen tendrán más chances de cruzar exitosamente la barrera del 70% y llevar sus innovaciones al mercado.