Entrar

IA Generativa & LLMs

IA Generativa & LLMs
Descrição do Grupo

Essa página é um espaço colaborativo dedicado à IA generativa, cobrindo a jornada dos prompts ao deploy em produção. Aqui exploramos RAG (Retrieval-Augmented Generation), fine-tuning/LoRA e agentes com tool use/function calling; discutimos orquestração (LangChain, LlamaIndex), embeddings e vector DBs; e tratamos de avaliação, segurança e governança para que soluções saiam do protótipo com qualidade, custo sob controle e confiabilidade. A proposta é transformar teoria em prática com soluções úteis, escaláveis e responsáveis, respeitando LGPD e transparência algorítmica — sempre com human-in-the-loop quando necessário.

O que você encontra aqui

  • Design & arquitetura: escolha de modelos (abertos x APIs), routing multi-modelo, fallbacks, guardrails e padrões de system prompts.
  • Dados & conhecimento: curadoria, anonimização/PII stripping, chunking, embeddings, indexação, reranking e estratégia de knowledge freshness.
  • RAG na prática: pipelines de consulta, hybrid search (BM25+dense), document enrichment e citation grounding para reduzir alucinações.
  • Modelagem: fine-tuning/PEFT/LoRA, prompt optimization, few-shot, function calling e agentes com ferramentas (APIs, bancos, workflows).
  • Orquestração: LangChain/LlamaIndex, memória de conversas, workflow engines e integração com serviços legados via APIs e webhooks.
  • Avaliação (offline/online): métricas de factualidade, toxidade, viés, utilidade, custo/latência; eval loops, golden sets e A/B.
  • Segurança & conformidade: defesa a prompt injection, data exfiltration e jailbreaks; políticas de conteúdo, red teaming, AIA/DPIA, LGPD, audit logs.
  • Operação & custo: LLM Ops/MLOps, observabilidade, token caching, distillation e quantização, rate limiting e FinOps.
  • Casos de uso: copilotos internos, atendimento ao cidadão, leitura de documentos públicos (NLP), busca semântica, sumarização, classificação e análise de consultas públicas.

Como participar
Traga datasets/knowledge bases, desafios e protótipos. Participe de sprints, workshops e clínicas técnicas: vamos co-criar, validar em contexto real e levar boas práticas do piloto à escala — com IA responsável no centro.

Buscar neste grupo

Proprietário

Membros do grupo (1)