Lo que es importante saber
La alucinación es una respuesta convincente que no está basada en los hechos. El modelo predice el texto probable y no verifica la veracidad en sí mismo, por lo que puede completar la información que falta incorrectamente.
Utilización práctica en la empresa
El riesgo es especialmente grave en cuanto a la información médica, los precios, la disponibilidad y las condiciones legales. El asistente debe saber de qué fuentes puede sacarle la información y cuando debe admitir que no sabe la respuesta.
Control de calidad y seguridad
Use RAG, citas de fuentes internas, restricciones de tema y un conjunto de preguntas de prueba reales. Las salidas críticas deben ser controladas por un hombre y el sistema debe registrar las correcciones.
Decisión de dirección de la empresa
No solo medan la fluidez de la respuesta, sino que se deben controlar la precisión, la complejidad, la actualidad y el número de casos correctamente transmitidos al especialista.
