Event

KI-Agenten lokal betreiben

Datenschutzkonforme Automatisierung ohne Cloud-Abhängigkeit

Viele Unternehmen nutzen KI-Dienste wie ChatGPT, Copilot oder andere cloudbasierte Tools bereits im Arbeitsalltag - häufig ohne genau zu wissen, wo hochgeladene Dokumente oder Kundendaten letztlich verarbeitet werden. Das stellt ein erhebliches Risiko im Hinblick auf DSGVO-Konformität und den Schutz von Geschäftsgeheimnissen dar.

Ein KI-Agent unterscheidet sich grundlegend von einem Chat-Tool: Statt nur einmalig auf eine Anfrage zu antworten, verfolgt er ein konkretes Ziel, nimmt seine Umgebung wahr, führt eigenständig Aktionen aus und entscheidet über mehrere Schritte hinweg selbst, was als Nächstes zu tun ist.

Eine Lösung bietet der lokale Betrieb solcher Agenten: Open-Source-LLMs laufen direkt auf der eigenen Hardware und werden über das offene Model Context Protocol mit praktischen Werkzeugen verbunden. Die gesamte Verarbeitung bleibt im eigenen Haus und über integrierte Freigabe-Dialoge behält das Unternehmen jederzeit volle Kontrolle über die Aktionen des Agenten.

Der Workshop zeigt anhand eines konkreten Praxisbeispiels Schritt für Schritt wie ein solcher lokal gehosteter KI-Agent aufgebaut und betrieben werden kann.

Inhalt des Workshops:

Notwendige Komponenten für den Betrieb eines lokalen KI-Agenten
Identifikation von Aufgaben, die sich besonders für lokale KI eignen
Einordnung technischer und wirtschaftlicher Grenzen lokaler KI-Lösungen
Bewertung, in welchen Fällen Cloud-KI weiterhin sinnvoll bleibt

Ziel: Den Teilnehmenden wird vermittelt wie KI-Agenten lokal betrieben werden können ohne Datenabfluss in externe Systeme in Kauf zu nehmen. Dies soll ihnen als Grundlage dienen lokale KI-Lösungen im eigenen Unternehmen fundiert zu bewerten und einzuführen.

Zielgruppe: Mitarbeitende und Verantwortliche die in kleinen und mittleren Unternehmen für IT-Infrastruktur oder den Einsatz von KI zuständig sind.

Technische Kenntnisse: Grundlegende technische Kenntnisse erforderlich

Die digitale Workshopreihe wird gemeinsam vom Mittelstand-Digital Zentrum Spreeland und dem EDIH pro_digital organisiert.

Anmeldung über die MDZ Spreeland Homepage!

Die digitale Workshopreihe im Überblick: