segunda-feira, 3 de fevereiro de 2025

IA e Low-Code nas Organizações

A tecnologia disponível hoje em dia, em particular a Inteligência Artificial e soluções low-code (e no-code), empodera os usuários de uma forma geral (incluindo os do chamado "chão de fábrica"), tornando-os aptos a automatizar alguns fluxos de trabalho, analisar dados e tomar melhores decisões.

De um modo geral, os departamentos de TI não conseguem mais atender à totalidade das demandas corporativas, que crescem em número e complexidade. Precisam mudar seu foco para aspectos mais estratégicos das organizações e propiciar condições (dados e licenças de software) para que as soluções para o negócio também possam florescer nas pontas, pelas mãos do pessoal encarregado da execução.

sábado, 1 de fevereiro de 2025

O poder das LLMs na análise de inquéritos policiais

Introdução
O vídeo apresenta um programa escrito em Python que faz uso de LLMs, mediadas pela biblioteca litellm, para analisar uma coleção de inquéritos policiais em formato PDF.

Estratégias
Usamos o PyPDF para extrair textos dos PDFs. Preservamos a numeração das páginas para referenciar as respostas.
O texto extraído dos PDFs compõe o prompt, com as perguntas à LLM dirigidas à analise de cada caso.
A biblioteca litellm facilitou o desenvolvimento e abstraiu toda a complexidade das chamadas a APIs. Com ela, é fácil substituir um provedor de LLM por outro.

Privacidade
Provedores de LLMs, como a OpenAI, afirmam que não utilizam os dados de entrada e saída de suas APIs para treinamento. Também garantem que permanecem privados.

Avalie sempre os riscos
Prefira testar a ferramenta com processos não gravados de sigilo ou que serão elegíveis aos bancos públicos de sentenças.

Alucina?
LLMs ainda alucinam bastante.
O emprego da ferramenta no campo profissional deve ser avaliado caso a caso.

Restrições
Observe o número máximo de tokens de entrada e saída do modelo selecionado.
Faça sempre uma avaliação de custo-benefício.