Cómo evitar que tu chatbot invente respuestas
§Trabajemos juntos →
Si tu chatbot a veces da precios, políticas o datos que no son ciertos, decirle "respondé solo con nuestros documentos" no lo soluciona de forma confiable: el modelo sigue escribiendo la respuesta, así que puede seguir inventando. La solución confiable es que no escriba. Elige una de las respuestas que aprobaste y la muestra tal cual, palabra por palabra, o dice "Lo consulto con el equipo" cuando ninguna corresponde. Las respuestas inventadas tienen costos reales: Air Canada fue declarada responsable por una política de reembolsos que inventó su chatbot (fuente).
Tres formas de que un chatbot no diga cosas falsas
| Cómo funciona | Sirve para | Dónde se queda corto | |
|---|---|---|---|
| Instrucciones en el prompt | "Respondé solo con estos documentos" | Conversaciones donde un error cuesta poco | El modelo sigue escribiendo la respuesta y puede seguir inventando |
| Búsqueda con citas (RAG) | El bot busca los fragmentos relevantes y responde a partir de ellos, citando las fuentes | Grandes volúmenes de documentos, preguntas abiertas | Es mejor, pero la redacción sigue siendo generada y puede estar mal |
| Solo respuestas aprobadas | El modelo elige una de tus respuestas escritas, o ninguna, y nunca escribe texto | Precios, políticas, horarios, cualquier cosa donde una respuesta equivocada cuesta plata | Solo responde lo que escribiste; las preguntas nuevas pasan a una persona |
Cómo funciona el enfoque de respuestas aprobadas
Escribís tus datos como oraciones simples. Los clientes preguntan con sus propias palabras, errores de tipeo y modismos incluidos. La salida del modelo de lenguaje está limitada por un JSON schema a uno de tus datos, más un sí o un no sobre si ese dato realmente responde la pregunta. Si ninguno la responde, el cliente recibe un honesto "Lo consulto con el equipo". Eso también limita lo que puede lograr un prompt injection: en el peor caso, elige el dato aprobado equivocado, pero nunca dice algo nuevo. Probá la demo en vivo → · Leé el caso →
Qué necesito de vos
Tus datos o preguntas frecuentes (alcanza con un documento o una planilla), dónde va a funcionar el chatbot (sitio web, WhatsApp, herramienta de soporte) y qué preguntas nunca se pueden responder mal.
Cómo empezar
Escribime a cdesivo92@gmail.com con unas líneas sobre tu chatbot, o contratame en Freelancer.com si preferís los contratos y la protección de pago de la plataforma.