LLM-gestützte Chatbot-Entwicklung
Media Impact, Berlin
| Feb 2024 – Dez 2024
- Entwicklung eines skalierbaren Chatbots mit Azure OpenAI und Microsoft Bot Framework mit RAG
- Implementierung einer mehrstufigen LLM-Pipeline (Condense, Chunk, Classify, Compose) für präzise Antworten
- Bereitstellung einer Cloud-nativen Microservices-Architektur mit AWS Lambda, EKS und API Gateway
- Etablierung von IaC mit Terraform und GitLab CI/CD für automatisierte Bereitstellungen
- Einrichtung eines umfassenden Monitorings mit Grafana, Prometheus und CloudWatch
Python
Azure OpenAI
Bot Framework
AWS Lambda/EKS
Kubernetes
Terraform
Ansible
GitLab CI/CD
Grafana
Prometheus