Llamada a funciones · Uso de herramientas
Function Calling / Tool Use
¿Qué es la llamada a funciones?
- La IA llama por sí misma a herramientas y APIs externas
- Ampliar del modo conversacional al modo de «ejecución»
- Las manos y los pies del agente
Cuando la llamada a funciones está activada, cambia la naturaleza misma de lo que devuelve el modelo. En lugar de escribir una frase como de costumbre, entrega una solicitud estructurada (generalmente en JSON) que dice «ejecuta esta función con estos argumentos», y la ejecución real la hace nuestro sistema, fuera del modelo. Así surge una división del trabajo: el modelo decide y la aplicación ejecuta. Además, el resultado debe devolverse al modelo para que se complete la respuesta que una persona puede leer. El punto de partida de esta estructura es que quien conserva hasta el final el control de las llamadas es el desarrollador.
Hay tres puntos que determinan el éxito o el fracaso del diseño. El primero es la especificación de la función: qué tan clara es la redacción del nombre, de la descripción de una línea y del tipo de parámetro determina la precisión con que se elige la herramienta. El segundo es la cantidad de herramientas: cuando hay más de 20 o 30 opciones, las funciones parecidas se confunden, así que conviene poner antes una etapa de enrutamiento aparte. El tercero es la distinción entre lectura y escritura. No se deben tratar con el mismo nivel las llamadas reversibles, como consultas y cálculos, y las irreversibles, como registrar un pedido, enviar un correo o procesar un pago. Es un punto fácil de confundir con RAG: RAG entrega los resultados de búsqueda por adelantado, mientras que en la llamada a funciones el modelo decide en cada caso si la invoca.
El accidente más frecuente en la práctica es el descuido de «ya saldrá bien». Si la descripción de la función es deficiente, el modelo no deja de llamarla: inventa argumentos con apariencia de verdad. Pueden entrar directamente a la base de datos de producción un código de producto que no existe o una fecha con formato incorrecto. También hay casos en que, tras fallar una llamada, se repite la misma solicitud sin fin y se agota el límite de la API, o en que se abre el permiso de escritura sin ningún paso de aprobación y salen pedidos que no se pueden cancelar. Hay que poner en cada llamada validación de entradas, un límite de reintentos y un registro de ejecución, y en las tareas que implican cobrar dinero o enviar algo al exterior, dejar que sea una persona la que presione el último botón.
John KimAutor de «Diseño del marketing B2B» y CEO de Nanum Consultoría. Instructor.
Seolyeong ParkEspecialista en IA generativa y AX, con 17 años de experiencia práctica y más de 200 sesiones de enseñanza, que logra que personas sin formación técnica la usen de inmediatoSurgió de la corriente que busca dar a los grandes modelos de lenguaje la capacidad de usar herramientas externas (ReAct y otros, 2022). Al estandarizarse la función con la que la IA invoca funciones predefinidas, se convirtió en la base de los agentes.
Veamos un caso hipotético. Se trata de la empresa A, una distribuidora de materiales industriales con 140 colaboradores y ventas anuales de alrededor de KRW 62,000,000,000 (≈ US$46,405,100). El equipo de soporte a ventas recibe unas 70 llamadas al día del tipo «¿Hay stock de ese código y cuándo llega la entrega?», y para responder tenían que abrir dos pantallas del ERP cada vez. Probaron un chatbot interno, pero solo repetía «Para más detalles, consulte con el responsable», y en tres meses su uso cayó casi a cero.
- El jefe de equipo de IT, Park, señaló la causa: el chatbot solo leía el PDF del manual del producto, así que no tenía forma de consultar las cifras de inventario en tiempo real, que cambian cada hora.
- Por eso solo se habilitaron dos funciones del ERP, la consulta de inventario y el cálculo de la fecha de entrega, como funciones de solo lectura. En la descripción de la función se dejó escrito de forma explícita que «el código de producto es un número de 8 dígitos».
- En el piloto de dos semanas, el modelo inventó códigos de producto inexistentes para consultarlos, con 17 casos por semana. Se añadió una función de validación de códigos antes del modelo y, si el formato no era correcto, ahora pide: «Por favor, indique de nuevo el código de 8 dígitos».
- La función de registro de pedidos la frenó el gerente de ventas Kim: «Cuando sale dinero, lo confirma una persona». Al final, la IA solo muestra un borrador del pedido, y se envía únicamente cuando el responsable pulsa el botón de aprobación.
- Tres meses después, el tiempo de atención por llamada bajó de 4 min 30 s a 55 s en promedio, y los 4 integrantes del equipo de soporte a ventas recuperaron 21 horas por semana. Los reportes de respuestas incorrectas bajaron de 17 a 2 por semana.