Objetivo
Explorar un modelo especializado para trabajar con legislación chilena, incluyendo leyes, códigos y material legislativo, sin depender de un único flujo manual de consulta.
Modelo fine-tuneado
Legal Chile Gemma Fine-tune
Adaptación de Gemma al dominio legal chileno, junto con un agente para extraer y estructurar información jurídica disponible en la web.
Tecnologías utilizadas
PythonGemmaLoRAQLoRATransformersPEFTTRLBitsAndBytes
Solución
Un pipeline prepara datos legales para fine-tuning mediante adaptadores LoRA/QLoRA. En paralelo, un agente de extracción recopila y estructura información legal chilena publicada en la web para apoyar el trabajo con fuentes.
Arquitectura
Arquitectura de pipeline local para IA jurídica. Recolecta normas desde BCN/Ley Chile, conserva fuentes originales, normaliza y valida documentos, genera fragmentos citables para RAG y construye datasets de entrenamiento. El modelo Gemma se ajusta mediante LoRA/QLoRA y se evalúa comparando el modelo base con el adaptador, siempre usando recuperación de contexto y citas verificables. Incluye una interfaz Streamlit para pruebas manuales.
Infraestructura
Entorno local sobre Ubuntu 24.04 con Python 3.11+, PyTorch y CUDA 12.8. Utiliza una GPU NVIDIA RTX 3080 Ti con 16 GB de VRAM para entrenamiento e inferencia. Almacena datos, índices RAG y resultados en archivos JSONL y bases SQLite con FTS5. El modelo base y los adaptadores LoRA/QLoRA se mantienen localmente, sin requerir servicios cloud.
Alcance de publicación
El proyecto no sustituye asesoría legal ni publica documentos privados. Las fuentes, licencias y condiciones de uso se revisan antes de integrarlas al conjunto de datos.