Hoy cedemos la palabra a una persona muy especial en esta edición de Nybble Bytes: Gustavo Castenetto, CEO y fundador de Nybble Group.

Hace unas semanas, Participó en un panel con otras tres personas que ya han implementado IA en producción , y se marchó con más preguntas que conclusiones claras. A través de este artículo, compartirá su experiencia.

La IA se ve diferente desde dentro

Por Gustavo Castenetto | CEO, Nybble Group

A principios de este año participé en un panel en Atlanta con cuatro personas que ya han implementado IA en entornos de producción. Un director de producto con experiencia en la gestión de programas tecnológicos a gran escala en empresas globales de bienes de consumo. Un ejecutivo de tecnología que ha liderado la transformación digital en el sector de servicios financieros. Un socio de una gran firma de abogados donde cada decisión relacionada con la IA conlleva responsabilidad profesional.

Nadie estaba allí para vender nada. Nadie tenía un plan de acción definitivo. Eso hizo que la conversación fuera más provechosa que la mayoría.

Esto es lo que me llevé.

Un piloto no es prueba

Esto surgió temprano y se quedó en la sala toda la noche. Los pilotos tienen éxito con datos limpios, condiciones controladas y equipos motivados. La producción es más complicada. Volumen real. Casos extremos reales. Personas reales que no estaban presentes cuando se diseñó el producto.

Uno de los panelistas, con amplia experiencia en transformaciones a gran escala dentro del sector de servicios financieros, lo expresó claramente: el MVP funciona bien, pero al implementarlo en producción, los resultados suelen ser pésimos. Hay que estar preparado para ello. Es inevitable que falle de alguna manera. La cuestión es si se ha diseñado teniendo en cuenta esa realidad o si se ha optado por ignorarla.

Otro panelista aportó detalles concretos. Un chatbot para la cadena de suministro de una importante empresa de bienes de consumo obtuvo excelentes resultados en su prueba piloto. Sabían de antemano que, sin reconstruir la arquitectura subyacente y escalar a nivel regional, no solo a uno o dos países, no obtendrían el retorno de la inversión esperado. La prueba piloto funcionó. Sin embargo, el análisis de viabilidad requería una inversión mucho mayor. Se trata de dos decisiones distintas que no siempre se toman simultáneamente.

Luego estaba el sensor de pañales. Una startup se acercó a una gran empresa de bienes de consumo con un sensor reutilizable que podía detectar cuándo un bebé necesitaba un cambio de pañal. Un caso de uso real. Un problema real del cliente. El algoritmo de aprendizaje automático nunca superó el 50 % de precisión. Necesitaban más del 80 % para lanzar el producto. Nunca lo lograron.

Esa historia no termina con un análisis posterior al suceso. Termina con una pregunta que nadie en la mayoría de las organizaciones ha respondido todavía: ¿A partir de qué umbral de precisión una decisión asistida por IA se vuelve lo suficientemente fiable como para actuar en consecuencia? ¿Y quién decide?

La tecnología no suele ser el problema

Lo que frena la adopción de la IA no es el modelo, sino la organización.

El 80 o 90% de la gente que se encuentra en una posición intermedia, ni los primeros en adoptar las nuevas tecnologías ni los que se resistieron a ellas, están observando. Están observando si quienes probaron las cosas desde el principio recibieron apoyo o quedaron expuestos.

Están observando si los líderes son honestos sobre lo que funcionó y lo que no. Esa señal marca la pauta para todo lo que viene después.

En los servicios profesionales, esto es aún más explícito. Un panelista, socio de un importante bufete de abogados, lo expresó sin rodeos: cuando eres abogado, tu reputación profesional se forja a lo largo de décadas. Pedirle a alguien que confíe en un resultado que no ha producido, en un trabajo del que es personalmente responsable, no es un problema de formación. Es un problema de confianza. Y se resuelve de otra manera.

Esta misma dinámica se da en todas partes. Cirujanos. Ingenieros. Suscriptores. Cualquier profesional cuya identidad esté ligada a la calidad de su criterio se enfrentará a la IA como un desafío a esa identidad antes de considerarla una herramienta. Las organizaciones que avanzan más rápido son las que lo reconocieron desde el principio.

La gobernanza no es un ejercicio de cumplimiento normativo

Antes de la IA, los fallos tecnológicos eran rastreables. Algo se rompía, seguías la cadena de acontecimientos y encontrabas la causa.

La IA toma decisiones probabilísticas en situaciones imprevistas, a una velocidad que imposibilita la revisión humana en tiempo real. Esto cambia el significado de la gobernanza.

Existe un caso bien documentado de una aerolínea cuyo chatbot de IA generó una política de reembolso errónea y se la comunicó a un cliente como si fuera cierta. La aerolínea se vio obligada legalmente a respetarla. Nadie era responsable de la información generada por ese agente. Nadie había definido el requisito de intervención humana para los compromisos dirigidos al cliente.

No se trata de un modelo deficiente, sino de la ausencia de una arquitectura de gobernanza.

Si no has definido, por escrito y para cada flujo de trabajo, antes de la implementación, qué decisiones puede tomar un agente de forma autónoma y cuáles requieren confirmación humana, tendrás que definirlo en una crisis. Y en una crisis, la definición resulta más costosa.

Alguien tiene que rendir cuentas. Díganle quién es.

Te voy a contar lo que le dije a la sala

Esa mañana iba en coche al evento. Mi navegador me sugirió una ruta que no reconocía. La ignoré. Estuve diez minutos atascado en el tráfico. Al final, tomé esa ruta. Era más rápida. La aplicación tenía razón.

Todos en esa sala habían hecho lo mismo. Ignoramos las recomendaciones en las que no confiamos, incluso cuando son mejores que nuestro propio criterio. Esa fricción es manejable cuando lo que está en juego es un simple trayecto al trabajo.

Ahora, imaginemos una versión a mayor escala. Agentes tomando decisiones en distintos flujos de trabajo. Humanos cuestionando los resultados por costumbre, identidad profesional o una genuina incertidumbre sobre quién es responsable si algo sale mal.

Es necesario trazar una línea divisoria clara entre la acción autónoma y la supervisión humana requerida. Por flujo de trabajo. Por tipo de decisión. Antes de la implementación. Porque dejarlo sin definir es en sí mismo una decisión de gobernanza, aunque sea una mala decisión.

Uno de los panelistas lo expresó de forma sencilla: el agente siempre tiene un jefe humano. Quien controla el flujo de trabajo es responsable de todo lo que el agente hace dentro de él. Esa responsabilidad no se distribuye entre un equipo, sino que recae en una sola persona.

El abogado del panel concluyó desde su lugar de trabajo habitual: la inteligencia humana siempre debe prevalecer sobre la inteligencia artificial. Así es como se lidera en estos casos. No se le cede el profesionalismo.

El costo de la espera

Una observación del panel que me impactó: Las empresas que esperaron a ver si necesitaban un sitio web no sobrevivieron a Internet. Las empresas que retrasaron la migración a la nube pagaron las consecuencias. Esta nueva ola avanza más rápido y con mayor intensidad que cualquiera de las anteriores.

Los modelos se convertirán en productos básicos. Eso ya está sucediendo. La inversión que mantiene su valor reside en la capa de aplicación: los flujos de trabajo, la gobernanza, la fluidez organizacional. Invierta en eso.

Y en el fondo: todos somos principiantes. Cada empresa, cada líder, cada equipo. La respuesta honesta a esto no es una falsa confianza. Es la voluntad de intentar cosas, equivocarse y rectificar sin que ello se convierta en una crisis de credibilidad.

Estas son las conversaciones que tenemos a diario en Nybble.

Si la brecha entre el piloto y la producción le resulta familiar, si tiene agentes en fase de desarrollo pero la responsabilidad aún no está definida, si sus equipos están técnicamente preparados pero organizativamente rezagados... Estos no son problemas aislados. Son la realidad operativa de la mayoría de las empresas medianas que intentan avanzar al ritmo que exige este momento.

Nybble Labs existe porque creemos que no se puede asesorar a los clientes sobre qué funciona si uno mismo no lo desarrolla y lo somete a pruebas de estrés. No observamos desde fuera. Probamos, experimentamos, desarrollamos y aprendemos junto con las organizaciones con las que trabajamos.

Si esa es la conversación que quieres tener, deberíamos hablar. ¡Pongámonos en contacto!