Cómo pensamos sobre la confianza en la IA

Los últimos meses he estado mucho en la carretera, reuniéndome con empresas para mostrarles MintIQ. Las reacciones han sido abrumadoramente positivas. Está claro para mí que muchas empresas de productos están buscando activamente la mejor forma, y la menos disruptiva, de empezar a integrar la IA en su negocio.

Algo que escucho constantemente, especialmente en producción y distribución, es que la gente ve su sector como conservador. Y la pregunta que sigue es casi siempre la misma: ¿cómo se construye confianza en la IA en una industria como la nuestra?

Es algo sobre lo que reflexionamos mucho. Teníamos la misma hesitación cuando empezamos a construir lo que finalmente se convirtió en MintIQ. Para nosotros se reducía a unas cuantas cosas.

La primera es ser muy deliberados sobre dónde y cómo usamos la IA. Cuando la usamos, lo hacemos de forma específica, entrenada en una decisión concreta. Por ejemplo: decidir si un pedido puede entrar en un batch pick o no. Usado así, obtienes misma entrada, misma salida. Para cosas donde no puedes permitirte la latencia de un LLM, como la validación que necesita ocurrir en milisegundos cuando alguien prepara un artículo, usamos código determinista. Y todo lo que toca la base de datos — tu administración de inventario, por ejemplo — es 100% aburrido a propósito.

Segundo, tus datos siguen siendo tuyos. No entrenamos modelos con ellos y no los compartimos. Para muchas de las empresas con las que hablamos esto es innegociable, y honestamente debería serlo.

Tercero, los humanos se mantienen en el circuito donde importa. No todas las decisiones necesitan que una persona las revise, pero las que sí lo necesitan se redirigen a tu equipo. Somos bastante deliberados sobre dónde se sitúa esa línea, y preferimos ser demasiado cautelosos que no lo suficiente.

Por supuesto, ninguna tecnología es perfecta. Los sistemas locales tenían problemas con caídas de servicio. Los sistemas en la nube también. ¿Es la IA siempre perfecta? No. Pero el ritmo de mejora es asombroso, y con las barreras de seguridad alrededor, funciona.

Puedes leer más sobre cómo usamos la IA en nuestra plataforma aquí: Cómo MintIQ usa la IA