Gefälschte Bewirtungsbelege in Sekundenbruchteilen, geklonte Stimmen aus 30-Sekunden-Tonschnipseln und doppelte Gesichter im Videocall: Deepfakes senken die Hemmschwelle für Manipulationen drastisch und stellen Unternehmen vor neue Sicherheitsfragen.
Legal Tech: KI-Assistenten entlasten Kanzleien
Rechtsanwältin und Unternehmerin Dr. Franka Becker beschreibt im Podcast „heise meets …“ von heise business services, wie einfach solche Fälschungen heute gelingen. Klassische Erkennungsmerkmale wie starre Augen oder verschwommene Konturen treten kaum noch auf. „Wenn eine Detektionsmethode publik wird, holt die KI rasant auf“, so Becker.
Voice Cloning: Geklonte Stimmen täuschen Menschen
Besonders perfide findet Becker das Klonen von Stimmen. Ein Anruf des vermeintlichen Chefs wirkt im Alltag unauffällig, kann jedoch im Rahmen von CEO-Fraud zu Millionenschäden führen. Das Ausgangsmaterial liefert jeder selbst – eine WhatsApp-Sprachnachricht oder ein LinkedIn-Video reicht bereits aus.
Auch Videokonferenzen bieten längst keine Sicherheit mehr. Tools schalten sich zwischen Webcam und Zoom oder Google Meet und tauschen per Face Swapping in Echtzeit das Gesicht des Sprechers aus. Nötig dafür ist lediglich ein Laptop mit starker Grafikkarte – kein Spezialequipment.
Beweisführung: Digitale Manipulation fordert die Gerichte
Für die Justiz entstehen neue Herausforderungen: Werden digitale Nachweise wie Chatverläufe für Gerichtsakten ausgedruckt, verschwinden Metadaten und damit oft die einzigen Hinweise auf eine Fälschung. Becker rechnet damit, dass künftig mehr Sachverständige Beweise prüfen müssen.
Parallel dazu verschiebt KI auch die anwaltliche Arbeit. Mit ihrem Start-up PyleHound entwickelt Becker gemeinsam mit Mitgründer Fabian Rittmeier einen berufsrechtskonformen KI-Assistenten für Kanzleien. Die Daten bleiben auf dem Rechner der Anwender, Anfragen an das Sprachmodell laufen verschlüsselt und ohne Zwischenspeicherung.
Halluzinationen begegnet PyleHound mit einem klaren Verhalten: Findet das System keine belastbare Quelle, verweigert es die Antwort. Jede Textzeile lässt sich per Mouseover bis zum Originaldokument zurückverfolgen. Damit adressiert Becker einen der größten Risikofaktoren beim Einsatz generativer KI im Rechtswesen.
Das komplette Gespräch mit Dr. Franka Becker über Deepfakes, Beweisrecht und KI im Kanzleialltag hören Sie in der aktuellen Folge des Entscheider-Talks von heise business services.