Costo de implementar IA · cobro por tokens
AI Cost and Token Pricing
¿Qué es el costo de implementar IA?
- Dos ejes: suscripción por persona y uso
- Se cobra tanto la entrada como la salida, y la salida es más cara
- Los costos de capacitación, administración y verificación suelen quedar fuera del presupuesto
La pregunta sobre el costo de la IA pasa de «¿cuánto cuesta al mes?» a «¿quién lo usa, para qué y cómo?». Dentro de un mismo equipo, quien inicia sesión para pulir informes y quien conecta un sistema que procesa cientos de casos al día tienen curvas de costo completamente distintas. La primera tiene un presupuesto fijo mientras no aumente el personal; la segunda sube su factura al crecer la carga de trabajo. Un presupuesto que no separa de antemano las formas de uso siempre vuelve a revisarse en la evaluación financiera. La primera tabla de la propuesta no debe ser la de montos, sino una tabla de personas y número de casos por tipo de uso.
Token es el fragmento en que el modelo divide el texto para procesarlo. El coreano se divide en partes más pequeñas que el inglés, así que, con la misma extensión, se generan más tokens. Por eso, antes de revisar la tabla de precios, conviene introducir diez documentos reales de trabajo y medir los tokens de entrada y salida por caso. La entrada y la salida tienen precios distintos, y generalmente la salida es más cara. Lo que determina el costo no es la elección del modelo, sino los documentos adjuntos que se envían completos cada vez. Si se pega un manual de 40 páginas en cada caso, se obtiene la misma respuesta pero el costo se multiplica varias veces; si se extraen solo las cláusulas necesarias, el costo baja en la misma proporción. Además, el costo de tokens es solo una parte del costo total.
Los rubros que suelen faltar en la propuesta de presupuesto están fuera del valor de la herramienta. Hay que incluir la capacitación inicial y la redacción de la guía interna, las horas mensuales del responsable de administrar cuentas y permisos, el tiempo de verificación en que una persona revisa los resultados, e incluso el costo de los intentos que se descartaron. El efecto, en cambio, se calcula de forma conservadora: el tiempo ahorrado se convierte a costo de mano de obra con criterio prudente, y se anota también cómo y cuándo se volverá a medir. Como las tarifas y los planes cambian cada trimestre, el documento debe registrar la fórmula de cálculo en lugar de un monto específico.
Lo que más suele desalinearse en el terreno es la idea de que «el precio del token es casi nada, así que no hay de qué preocuparse». Para una persona que hace pruebas, es cierto; pero cuando corre un proceso nocturno en lote, se agregan reintentos por error y se empiezan a incluir resultados de búsqueda muy largos, la cifra puede cambiar de orden de magnitud en un mes. Ya ha pasado que se empieza sin límite de uso ni alertas y el proyecto se detiene al llegar la primera factura. También existe el error contrario: comprar cuentas para todo el personal parece justo, pero dos meses después el registro de inicios de sesión muestra que la mitad no las usa, y ese dinero ya está comprometido en un contrato anual. Es más seguro asignar cuentas solo a quien las usa, y abrir el uso con límites.
John KimAutor de «Diseño del marketing B2B» y CEO de Nanum Consultoría. Instructor.
Seolyeong ParkEspecialista en IA generativa y AX, con 17 años de experiencia práctica y más de 200 sesiones de enseñanza, que logra que personas sin formación técnica la usen de inmediatoCon la llegada de las API de modelos de lenguaje comerciales, el cobro por token se convirtió en el estándar. Después aparecieron los planes de suscripción para empresas, y se consolidó una estructura en la que el uso en pantalla y la integración con sistemas tienen esquemas de cobro separados.
Veamos un caso hipotético. A, fabricante de piezas de automóviles, tiene 520 colaboradores y unos ingresos anuales de KRW 130,000,000,000 (≈ US$97,301,000). Su equipo de aseguramiento de calidad redacta respuestas a reclamaciones de clientes extranjeros: 40 minutos por caso, unas 1,400 veces al mes. El equipo de planificación empresarial presentó dos veces la solicitud de aprobación para adoptar IA y en ambas ocasiones fue rechazada por «falta de base de costo».
- El subgerente Park, del equipo de Planificación Empresarial, revisó durante dos semanas el uso por departamento. Encontró que 38 personas lo usaban directamente en pantalla, y las otras 12 respondieron que solo tenían la cuenta y no la usaban.
- El jefe de sección Lee, del equipo de TI, procesó 100 respuestas a reclamos en la API real: obtuvo por caso 6,200 tokens de entrada y 900 de salida. Multiplicó eso por 1,400 casos al mes y así construyó la base del presupuesto de uso.
- Durante la medición se descubrió que en cada respuesta se adjuntaba completo un manual de normas de calidad de 40 páginas. Al incluir solo las cláusulas pertinentes, los tokens de entrada bajaron de 6,200 a 1,800 por caso.
- Como el gerente de Finanzas, Kim, advirtió que «una propuesta que solo muestra el valor de la herramienta no se aprueba», agregamos en líneas separadas 2 días de capacitación inicial, 16 horas mensuales del responsable de operación y el tiempo que el responsable dedica a verificar las respuestas.
- Estimó el efecto reduciendo los 40 minutos por caso a un ahorro de 25 minutos, y añadió la frase de que volvería a medirlo con los registros reales de procesamiento tres meses después. Con eso obtuvo la aprobación en la tercera solicitud.
- Tres meses después de la implantación, las cuentas de suscripción se mantuvieron en 38 y el cobro real fue cerca del 78% del presupuesto asignado. El tiempo de redacción de cada respuesta bajó de 40 a 14 minutos.