Nivel de confianza (confidence score)

Un nivel de confianza (confidence score) es una valoración interna que un modelo de IA asigna a su propia respuesta, en función de lo seguro que esté de que es correcta. Una puntuación alta significa que el modelo confía en la respuesta; una puntuación baja señala incertidumbre.

Esta puntuación se utiliza a menudo para decidir si una respuesta de la IA puede llegar directamente al cliente o debe ser revisada antes por un agente, una importante válvula de seguridad frente a la alucinación de la IA.

El agente de IA de Bugalou utiliza niveles de confianza para decidir cuándo puede responder una pregunta por sí solo y cuándo es más sensato traspasarla a un agente humano.