Companies with huge datasets can save up to 80% in AI costs by using open-weight models: Hims CEO

Andrew Dudum, CEO de Hims & Hers, dijo en una entrevista con CNBC Squawk Box que las empresas con grandes volúmenes de datos internos podrían recortar costos de IA hasta en un 80% usando modelos “open-weight” en lugar de modelos grandes tradicionales. Según Dudum, si una compañía tiene un conjunto de datos propio y suficiente escala, puede entrenar o adaptar parámetros del modelo para casos de uso reales, lo que además mejora el rendimiento. Como ejemplo, mencionó que Hims & Hers tiene un dataset cerrado (“closed-loop”) de pacientes con el que su primera versión superó lo que podían obtener en el mercado. También señaló que el aprendizaje continúa con cada paciente nuevo. En el sector, la conversación sobre costos impulsa el “model routing” y la sustitución del “tokenmaxxing” por valor por gasto.