← Clinical AI & Healthcare Evidence, systems and care.

Building AI products for health and fitness: autonomy must be earned

🌿 Growing
#healthcare-management#growth#ai-product#clinical-ai#fitness#physiotherapy#evals
TL;DR

The opportunity in healthcare AI is not to automate the clinician first. It is to define one valuable capability, evaluate it with real cases, learn from its failures and expand autonomy only when evidence justifies it.

Method note: this article is my own synthesis from learning with Growth Rockstar content, especially the CC/CD framework presented by Dylan Rosemberg, and from applying those ideas to healthcare product development. It does not reproduce the original article or course materials. Concepts are paraphrased, claims are attributed in author-year format and the interpretation for fitness and physiotherapy is my own.

A prototype is not yet a healthcare product

Artificial intelligence has made it unusually easy to build something impressive. A prompt, a model and a polished interface can produce a demonstration in days. That speed is real, but it can hide the harder question: does the system behave well enough, across enough real situations, to deserve a place in a person’s care?

In health and fitness, a fluent answer is not the same as a safe or useful answer. A recommendation can sound professional while ignoring a contraindication, misunderstanding pain context or proposing a load that does not match the person’s current capacity. The product therefore cannot be defined by what the model is able to generate. It has to be defined by what the complete system can reliably help a person accomplish.

My main lesson from Growth Rockstar is that autonomy should not be treated as a default feature of AI. It should be earned through evidence. Rosemberg describes this through CC/CD, Continuous Calibration / Continuous Development: define a capability, build it, evaluate it, expose it carefully to reality, study its failures and improve it before granting it more autonomy (Rosemberg, 2026).

That idea is especially useful in healthcare. Launch is not the moment when learning ends. It is the point where the team finally begins to observe how real language, incomplete data, clinical variability and human behavior interact with the system.

Method before model

CC/CD can be reduced to six operating steps (Rosemberg, 2026):

  1. Define one capability and create a reference dataset.
  2. Build the smallest application that can deliver it.
  3. Design evaluations for that specific capability.
  4. Run those evaluations on controlled real-world use.
  5. Review behavior and classify recurring failure patterns.
  6. Fix the system and add those cases to the next calibration cycle.

The sequence changes the first product question. “Can we build an AI physiotherapist?” is too broad to evaluate. “Can we turn a daily low-back-pain check-in into a draft of three evidence-linked exercise options, while detecting documented contraindications and requiring clinician approval?” is narrow enough to test.

This is consistent with the wider discipline of AI Engineering. A product built on a foundation model includes the application logic, context, data, evaluation, guardrails, monitoring and user feedback around the model (Huyen, 2025). Changing the model cannot rescue a product that has not defined what a good result means.

Husain argues that failed AI products often share the absence of robust, domain-specific evaluation systems. Teams need to inspect real traces, label failures and connect evaluation, debugging and iteration in a continuous loop (Husain, 2024). In physiotherapy, a generic “response quality” score is not enough. Safety, evidence support, relevance, clarity and consistency with the clinical plan are different dimensions and need different checks.

Anthropic reaches a related architectural conclusion. Workflows follow paths defined by code, while agents choose their own paths and tool use. The recommended starting point is the simplest solution that works, with additional complexity introduced only when evaluation shows a material benefit (Schluntz & Zhang, 2024). For a clinical product, predictability and a clear stopping rule are often more valuable than the appearance of intelligence.

What Claude’s labor study actually shows

The Anthropic Economic Index provides useful context for where generative AI is being used. Handa and colleagues analyzed more than four million privacy-preserved Claude.ai conversations and mapped them to tasks and occupations in the US Department of Labor’s O*NET database (Handa et al., 2025).

Approximately 36% of occupations showed AI use in at least a quarter of their associated tasks, but only around 4% showed use across at least three quarters of their tasks. Observed use leaned toward augmentation, at 57%, rather than automation, at 43%. Software development and writing together accounted for almost half of the activity studied (Handa et al., 2025).

Observed reachBroad exposure, limited depth
Scale: 0 to 100%
4M+privacy-preserved Claude.ai conversations analyzed
36%of occupations used AI in at least one quarter of their tasks
4%used AI in at least three quarters of their tasks
Observed task use in Claude.ai, not adoption across entire industries (Handa et al., 2025).

The public Economic Index showed the same concentration. Computer and mathematical tasks represented 37.2% of classified conversations, followed by arts and media at 10.3%, education and library work at 9.3%, office and administrative work at 7.9%, life, physical and social sciences at 6.4%, and business and finance at 5.9% (Anthropic, 2025a).

Share of classified conversationsUse was concentrated in digital work
Scale: 0 to 40%
Read this carefully: the chart describes the mix of activity observed on Claude.ai. It is not a ranking of AI adoption by industry.
Distribution reported in the public Anthropic Economic Index (Anthropic, 2025a).

These figures are not a direct measure of sector penetration. They do not tell us what percentage of hospitals use AI, how many clinicians use it or how many jobs are being replaced. They describe observed activity on one platform, mapped through an existing occupational taxonomy. The authors also note that they cannot see how the outputs are ultimately used (Handa et al., 2025).

The more defensible conclusion is that AI use is spreading across many occupations, but it remains concentrated in digital tasks that can be expressed and returned through language or code.

My reading for health, fitness and physiotherapy

Health and fitness are not empty AI markets. Documentation systems, clinical decision support, medical imaging, health chat, training generation and remote monitoring already exist. What remains underexplored is the integration of AI into the complete daily workflow of a clinician, coach or multidisciplinary team.

Physiotherapy makes this gap easy to see. The work combines digital information with movement observation, physical examination, load adaptation, communication, psychosocial context and professional responsibility. A model can participate in the information layer, but it cannot treat the written representation of a patient as if it were the patient.

At the same time, Anthropic estimated that healthcare assistance tasks in its sample could be completed about 90% faster with Claude. That estimate was produced by Claude itself and excluded some human work outside the conversation, including validation, so the authors warn that it may overstate real productivity gains (Anthropic, 2025b).

The combination of these findings is more interesting than either one alone. Healthcare does not dominate observed Claude use, yet some supporting tasks may have substantial potential for acceleration. The opportunity is not evidence for replacing clinical care. It is evidence for building better systems around clinical care.

I see two overlapping products inside physiotherapy:

  1. The clinical act: examination, reasoning, communication, shared decisions, treatment and adaptation.
  2. The coordination system: intake, scheduling, documentation, evidence retrieval, education, follow-up, measurement and communication between people.

The first requires presence, context and accountable judgment. The second contains many fragmented digital tasks that consume time and weaken continuity. The first wave of value is more likely to come from reducing this invisible coordination work while keeping the physiotherapist responsible for the decision.

From a broad idea to an evaluable capability

Consider one capability: producing a draft of exercise recommendations from a daily low-back-pain check-in.

StepProduct questionPhysiotherapy application
DefineWhat should it do, and what remains outside scope?Draft three options. Do not diagnose or change the plan without approval.
Reference setWhich cases will define acceptable behavior?Clinician-reviewed cases, including ambiguity, contraindications and language variation.
BuildWhat is the smallest reliable flow?Validate inputs, check explicit risk rules, retrieve evidence and return structured output.
EvaluateWhat does good mean?Safety, evidence support, relevance, clarity and agreement with clinical judgment.
DeployWho sees it first?A small group of clinicians, always as a draft.
AnalyzeHow does it fail in practice?Omissions, false confidence, generic advice, weak evidence or confusing language.
ImproveWhich system change addresses the pattern?Improve data, retrieval, rules, prompt or interface before replacing the model.

Success should not be the number of recommendations generated. It should include clinician acceptance, type and frequency of corrections, unsafe recommendation rate, time saved after human review, patient comprehension, adherence and relevant clinical outcomes.

This is where growth and clinical quality meet. Activation is not opening the tool. It is completing a meaningful task with less friction and without losing safety. Retention is not returning out of empty habit. It is continuing to use a product because it solves a real workflow problem.

Autonomy is a ladder, not a switch

I use five levels to make autonomy operational:

  1. Assistance: retrieve and organize information.
  2. Drafting: propose an output that a professional must review.
  3. Recommendation: rank options and make evidence, uncertainty and limits visible.
  4. Confirmed execution: perform a low-risk action after human approval.
  5. Limited automation: act only in narrow, reversible and monitored tasks after demonstrating a sufficient record.

Evidence must be earned per capability. Reliable clinical note drafting does not prove that a system can safely adjust therapeutic load. Each capability needs its own cases, metrics, thresholds, error analysis and escalation path.

My take

The opportunity for AI in physiotherapy is not another chatbot placed on top of an exercise library. It is not a generic routine generator, either. It is a system that connects goals, constraints, load, recovery, adherence and feedback while keeping clinical accountability visible.

The strongest products will use AI to turn scattered information into useful context, retrieve evidence, reduce repetitive documentation, maintain follow-up and give professionals more time to observe, explain and decide.

My interpretation of Growth Rockstar’s method is that growth and quality cannot be separate phases in an AI product. The loop that learns from real use is also the mechanism that allows the product to grow without multiplying its errors. In healthcare, that discipline is not only a product advantage. It is a condition for earning trust.

Nota de método: este artículo es una síntesis propia construida a partir de mi aprendizaje con el contenido de Growth Rockstar, especialmente el framework CC/CD presentado por Dylan Rosemberg, y de aplicar esas ideas al desarrollo de productos de salud. No reproduce el artículo original ni materiales del curso. Los conceptos se presentan mediante paráfrasis, las afirmaciones se atribuyen en formato autor-año y la interpretación para fitness y fisioterapia es propia.

Un prototipo todavía no es un producto de salud

La inteligencia artificial ha hecho que construir algo impresionante sea inusualmente fácil. Un prompt, un modelo y una interfaz bien diseñada pueden producir una demostración en pocos días. Esa velocidad es real, pero puede ocultar la pregunta difícil: ¿el sistema se comporta suficientemente bien, en suficientes situaciones reales, como para merecer un lugar en el cuidado de una persona?

En salud y fitness, una respuesta fluida no equivale a una respuesta segura o útil. Una recomendación puede sonar profesional y al mismo tiempo ignorar una contraindicación, interpretar mal el contexto del dolor o proponer una carga que no corresponde con la capacidad actual. El producto no puede definirse por lo que el modelo es capaz de generar. Debe definirse por lo que el sistema completo ayuda a conseguir de forma confiable.

Mi principal aprendizaje del contenido de Growth Rockstar es que la autonomía no debe tratarse como una característica automática de la IA. Debe ganarse con evidencia. Rosemberg organiza esta idea mediante CC/CD, Continuous Calibration / Continuous Development: definir una capacidad, construirla, evaluarla, exponerla de forma cuidadosa a la realidad, estudiar sus fallos y mejorarla antes de concederle más autonomía (Rosemberg, 2026).

Esta idea es especialmente útil en salud. El lanzamiento no es el momento en que termina el aprendizaje. Es el punto donde el equipo comienza a observar cómo el lenguaje real, los datos incompletos, la variabilidad clínica y el comportamiento humano interactúan con el sistema.

El método antes que el modelo

CC/CD puede resumirse en seis pasos operativos (Rosemberg, 2026):

  1. Definir una capacidad y crear un conjunto de referencia.
  2. Construir la aplicación mínima capaz de entregarla.
  3. Diseñar evaluaciones para esa capacidad específica.
  4. Ejecutarlas sobre un uso real controlado.
  5. Revisar el comportamiento y clasificar patrones de error recurrentes.
  6. Corregir el sistema y añadir esos casos al siguiente ciclo de calibración.

La secuencia cambia la primera pregunta de producto. “¿Podemos construir un fisioterapeuta de IA?” es demasiado amplio para evaluarlo. “¿Podemos convertir un check-in diario de dolor lumbar en un borrador de tres opciones de ejercicio vinculadas a evidencia, detectando contraindicaciones registradas y exigiendo aprobación clínica?” es suficientemente concreto para probarlo.

Esto coincide con la disciplina más amplia de AI Engineering. Un producto construido sobre un modelo fundacional incluye la lógica de aplicación, el contexto, los datos, la evaluación, los guardrails, la monitorización y el feedback alrededor del modelo (Huyen, 2025). Cambiar de modelo no puede rescatar un producto que no ha definido qué significa un buen resultado.

Husain sostiene que muchos productos de IA fracasan por no construir sistemas de evaluación robustos y específicos para su dominio. Los equipos necesitan revisar trazas reales, etiquetar fallos y conectar evaluación, depuración e iteración dentro de un loop continuo (Husain, 2024). En fisioterapia, una puntuación genérica de “calidad de respuesta” no es suficiente. Seguridad, sustento en evidencia, relevancia, claridad y consistencia con el plan clínico son dimensiones distintas y requieren comprobaciones distintas.

Anthropic llega a una conclusión arquitectónica relacionada. Los workflows siguen recorridos definidos por código, mientras los agentes eligen sus propios pasos y herramientas. La recomendación es comenzar con la solución más simple que funcione y añadir complejidad solo cuando la evaluación demuestre un beneficio material (Schluntz & Zhang, 2024). En un producto clínico, la predictibilidad y una regla clara para detenerse suelen ser más valiosas que la apariencia de inteligencia.

Qué muestra realmente el estudio laboral de Claude

El Anthropic Economic Index aporta contexto sobre dónde se está utilizando la IA generativa. Handa y sus colaboradores analizaron más de cuatro millones de conversaciones de Claude.ai mediante métodos de preservación de privacidad y las relacionaron con tareas y ocupaciones de O*NET, la base del Departamento de Trabajo de Estados Unidos (Handa et al., 2025).

Aproximadamente el 36% de las ocupaciones mostraba uso de IA en al menos una cuarta parte de sus tareas asociadas, pero solo cerca del 4% mostraba uso en tres cuartas partes o más. El uso observado se inclinaba hacia el aumento o colaboración, con un 57%, frente a la automatización, con un 43%. El desarrollo de software y la escritura representaban juntos casi la mitad de la actividad estudiada (Handa et al., 2025).

Alcance observadoExposición amplia, profundidad limitada
Escala: 0 a 100%
4M+conversaciones de Claude.ai analizadas con preservación de privacidad
36%de las ocupaciones usaba IA en al menos una cuarta parte de sus tareas
4%la usaba en tres cuartas partes o más de sus tareas
Uso observado de tareas en Claude.ai, no adopción en industrias completas (Handa et al., 2025).

La presentación pública del Economic Index mostraba la misma concentración. Las tareas de computación y matemáticas representaban el 37,2% de las conversaciones clasificadas; después aparecían artes y medios con 10,3%, educación y bibliotecas con 9,3%, oficina y administración con 7,9%, ciencias de la vida, físicas y sociales con 6,4%, y negocios y finanzas con 5,9% (Anthropic, 2025a).

Porcentaje de conversaciones clasificadasEl uso se concentraba en trabajo digital
Escala: 0 a 40%
Lectura cuidadosa: la gráfica describe la composición de la actividad observada en Claude.ai. No es un ranking de adopción de IA por industrias.
Distribución publicada en el Anthropic Economic Index (Anthropic, 2025a).

Estas cifras no son una medida directa de penetración sectorial. No indican qué porcentaje de hospitales usa IA, cuántos clínicos la utilizan ni cuántos puestos están siendo reemplazados. Describen actividad observada en una plataforma y clasificada mediante una taxonomía ocupacional existente. Los autores tampoco pueden observar cómo se utilizan finalmente los resultados (Handa et al., 2025).

La conclusión más defendible es que el uso de IA se está extendiendo entre muchas ocupaciones, pero continúa concentrado en tareas digitales que pueden expresarse y devolverse mediante lenguaje o código.

Mi lectura para salud, fitness y fisioterapia

Salud y fitness no son mercados vacíos de IA. Ya existen sistemas de documentación, apoyo a decisiones, imagen médica, chat de salud, generación de entrenamientos y monitorización remota. Lo que sigue poco explorado es la integración de la IA dentro del workflow diario completo de un clínico, entrenador o equipo multidisciplinar.

La fisioterapia permite ver esta brecha con claridad. El trabajo combina información digital con observación del movimiento, examen físico, adaptación de cargas, comunicación, contexto psicosocial y responsabilidad profesional. Un modelo puede participar en la capa de información, pero no puede tratar la representación escrita de un paciente como si fuera el paciente.

Al mismo tiempo, Anthropic estimó que las tareas de asistencia sanitaria de su muestra podrían completarse cerca de un 90% más rápido con Claude. La estimación fue producida por Claude y excluyó parte del trabajo humano externo a la conversación, incluida la validación, por lo que los autores advierten que puede sobrestimar las ganancias reales de productividad (Anthropic, 2025b).

La combinación de los dos hallazgos es más interesante que cada uno por separado. Salud no domina el uso observado de Claude, pero algunas tareas de soporte pueden tener un potencial importante de aceleración. Esto no es evidencia para reemplazar la atención clínica. Es evidencia para construir mejores sistemas alrededor de ella.

Dentro de la fisioterapia veo dos productos superpuestos:

  1. El acto clínico: examen, razonamiento, comunicación, decisiones compartidas, tratamiento y adaptación.
  2. El sistema de coordinación: intake, agenda, documentación, recuperación de evidencia, educación, seguimiento, medición y comunicación entre personas.

El primero requiere presencia, contexto y juicio responsable. El segundo contiene muchas tareas digitales fragmentadas que consumen tiempo y debilitan la continuidad. Es más probable que la primera ola de valor llegue al reducir este trabajo invisible de coordinación, manteniendo al fisioterapeuta como responsable de la decisión.

De una idea amplia a una capacidad evaluable

Pensemos en una capacidad concreta: producir un borrador de recomendaciones de ejercicio a partir de un check-in diario de dolor lumbar.

PasoPregunta de productoAplicación en fisioterapia
Definir¿Qué debe hacer y qué queda fuera?Preparar tres opciones. No diagnosticar ni cambiar el plan sin aprobación.
Referencia¿Qué casos definirán un comportamiento aceptable?Casos revisados por clínicos, incluidos ambigüedad, contraindicaciones y variaciones de lenguaje.
Construir¿Cuál es el flujo mínimo confiable?Validar entradas, comprobar reglas explícitas de riesgo, recuperar evidencia y devolver una salida estructurada.
Evaluar¿Qué significa hacerlo bien?Seguridad, sustento en evidencia, relevancia, claridad y concordancia con el juicio clínico.
Desplegar¿Quién lo utiliza primero?Un grupo pequeño de fisioterapeutas, siempre como borrador.
Analizar¿Cómo falla en la práctica?Omisiones, falsa seguridad, recomendaciones genéricas, evidencia débil o lenguaje confuso.
Mejorar¿Qué cambio resuelve el patrón?Mejorar datos, retrieval, reglas, prompt o interfaz antes de reemplazar el modelo.

El éxito no debería medirse por el número de recomendaciones generadas. Debería incluir aceptación por el clínico, tipo y frecuencia de correcciones, tasa de recomendaciones inseguras, tiempo ahorrado después de la revisión humana, comprensión del paciente, adherencia y resultados clínicos relevantes.

Aquí se encuentran growth y calidad clínica. Activación no es abrir la herramienta. Es completar una tarea significativa con menos fricción y sin perder seguridad. Retención no es regresar por un hábito vacío. Es seguir utilizando el producto porque resuelve un problema real del workflow.

La autonomía es una escalera, no un interruptor

Utilizo cinco niveles para hacer operativa la autonomía:

  1. Asistencia: recuperar y organizar información.
  2. Borrador: proponer una salida que el profesional debe revisar.
  3. Recomendación: priorizar opciones y hacer visibles la evidencia, la incertidumbre y los límites.
  4. Ejecución confirmada: realizar una acción de bajo riesgo después de aprobación humana.
  5. Automatización limitada: actuar solo en tareas estrechas, reversibles y monitorizadas después de demostrar un historial suficiente.

La evidencia debe ganarse por capacidad. Redactar notas clínicas de forma confiable no demuestra que un sistema pueda ajustar una carga terapéutica con seguridad. Cada capacidad necesita sus propios casos, métricas, umbrales, análisis de errores y ruta de escalamiento.

Mi lectura

La oportunidad de la IA en fisioterapia no es otro chatbot colocado encima de una biblioteca de ejercicios. Tampoco es un generador de rutinas genéricas. Es un sistema que conecta objetivos, restricciones, carga, recuperación, adherencia y feedback, manteniendo visible la responsabilidad clínica.

Los productos más sólidos utilizarán IA para convertir información dispersa en contexto útil, recuperar evidencia, reducir documentación repetitiva, mantener el seguimiento y devolver al profesional más tiempo para observar, explicar y decidir.

Mi interpretación del método de Growth Rockstar es que growth y calidad no pueden ser fases separadas en un producto de IA. El loop que aprende del uso real también es el mecanismo que permite crecer sin multiplicar errores. En salud, esa disciplina no es solo una ventaja de producto. Es una condición para ganarse la confianza.

Sources

Related project ADAPTY →