Funciones con LLM que no inventan nada

DirectRetrieval: una IA que no puede inventar respuestas

Un negocio escribe sus datos como oraciones simples: horarios de atención, zona de entrega, precios. Los clientes preguntan con sus propias palabras, con errores de tipeo y modismos incluidos, y el asistente responde con el dato que contesta la pregunta, textual.

El modelo de lenguaje nunca escribe la respuesta. Un JSON schema limita su salida a uno de los datos aprobados, más un sí o un no sobre si ese dato realmente responde la pregunta. Si ninguno la responde, el cliente recibe un honesto "Lo consulto con el equipo" en lugar de una respuesta adivinada. Eso también acota lo que puede lograr una prompt injection: en el peor caso, el modelo elige el dato aprobado equivocado, pero nunca dice algo nuevo.

El video muestra la idea como producto terminado: el editor de datos y los valores en vivo de la base de datos son un concepto. Elegir el dato correcto, o ninguno, es lo que la librería hace hoy, y es lo que hace funcionar la demo en vivo de este sitio. Funciona con la API de OpenAI o con modelos locales a través de Ollama y llama.cpp.

Otros trabajos con LLM

Además de DirectRetrieval, desarrollé funciones con LLM para otras aplicaciones: un generador que propone encuestas a partir de un tema y un público objetivo, y devuelve datos estructurados listos para publicar; chatbots de atención al cliente que responden a partir de los documentos de la propia empresa con retrieval-augmented generation (RAG); y esquemas de LLM-as-judge, donde prompts escritos con cuidado hacen que un modelo evalúe otras salidas de forma consistente.