Zum Inhalt springen

Java-Microservices mit KI-Power: Coding mit Spring AI & LangChain4j

Programm

Setup und Tooling - IntelliJ AI-Setup: Dependency Management, Artifact-Repositories - ChatGPT-Plugin für IntelliJ vs. ChatGPT-Webversion - IntelliJ AI Assistant vs. Inline-AI-Coding Einführung & Zielsetzung - AI-Themen: AI, ML, LLM, NLP, Generative AI, GPTs - Einsatz von AI in der Softwareentwicklung - Einordnung von LLMs in Enterprise-Anwendungen LLM-Grundlagen & Spring AI Einstieg - Überblick über LLMs & Chat-Modelle - Einstieg in Spring AI, Integration in Spring Boot - Spring-AI-Setup (BOM, Starter, AutoConfig) Prompt Engineering & Prompt Templates - Verstehen von Prompt Injection, - Few-Shot, Zero-Shot, Chain-of-Thought, - Prompt-Strategien: Q&A, Pro/Con, StepwiseChain - Structured Output: OutputParser, JSON-Mapping, Advisors API zur Vor- und Nachverarbeitung, - SimpleLoggerAdvisor, und Custom Advisor Sample AI-gestützte Microservices - Microservice-Architekturen mit LLM-Integration - Spring AI `ChatClient` API als zentrale Schnittstelle - Unterstützung von Prompt-Komposition, `call()`, - `stream()`, Rollen (`user`, `system`, `assistant`) AI-gestützte reaktive Microservices - Spring AI `ChatClient`: Streaming Model: Statt einer vollständigen Antwort nach Verarbeitungsende wird hier die Botschaft der KI stückchenweise übertragen. Tool Calling mit Spring AI - Tool-Integration mit `@Tool`, - Allowing AI applications to augment their capabilities - Ablauf: Modell ? Tool-Auswahl ? Ergebnis Integration - integrate realTime API MCP – Model Control Protocol - The Model Context Protocol (MCP) is a standardized protocol that enables AI models to interact with external tools and resources in a structured way. Integration eigener Daten & APIs: Grounding, Prompt Stuffing RAG – Retrieval Augmented Generation - Konzept: Daten + Kontext ? intelligente Antwort Embeddings API - Vector Databases (Pgvector), - Document Loaders & ETL Pipelines - Chat Memory zur Konversationspersistenz Entwicklung intelligenter, handlungsfähiger KI-Agenten mit Spring AI - Einführung in Agentenlogik: Decision Making, Agentic Loop Agentic Workflows: - ChainWorker - OrchestratorWorker - ParallelWorker - Effektive Agenten bauen, Modellgesteuerte Workflows Verwendung lokaler Modelle (Ollama, chat4all) - Vorteile: Datenschutz, Kosten, Offlinefähigkeit Testing & Entwicklung - Testcontainers & Mocking generativer Antworten

Ziele

In diesem Training lernen die Teilnehmer*innen, AI / KI in Microservices zu integrieren und AI / KI Schnittstellen mit Spring AI und LangChain4j effizient in der Praxis einzusetzen.