Inhalt
- Die Verantwortung bleibt beim Treuhänder, auch mit Agent
- Was das DSG zu automatisierten Entscheiden sagt
- Die Prüfpunkte der FINMA taugen auch im Treuhandbüro als Messlatte
- Sechs Bausteine einer Freigabe, die etwas belegt
- Freigabe als Klick, Freigabe als Nachweis
- Drei Fehler, an denen Freigaben im Alltag scheitern
- So prüfen Sie Ihre eigene Freigabe in einem Monat
- Häufige Fragen
Das Wichtigste in Kürze
- Wer KI im Mandat einsetzt, haftet dem Mandanten weiter für getreue und sorgfältige Ausführung nach Art. 398 OR. Ein Fehler des Werkzeugs entlastet nicht.
- Ein Agent ist kein zweites Augenpaar. Er liest alles und bereitet vor; entscheiden muss eine benannte Person, bei wesentlichen Fällen zusammen mit einer zweiten.
- Eine Freigabe belegt nur dann etwas, wenn sie auf Regeln im Klartext beruht, zu jedem Vorschlag die Fundstelle zeigt, Zurückweisen erlaubt und im Protokoll festhält, wer wann nach welcher Regel entschieden hat.
- Nach Art. 21 DSG können Betroffene verlangen, dass ein automatisierter Einzelentscheid von einem Menschen überprüft wird. Prüft und entscheidet vorher eine Person, entsteht nach unserem Verständnis gar keiner.
- Drei Fehler machen eine Freigabe wertlos: Freigabemüdigkeit, Freigeben ohne je zurückzuweisen und fehlende Schwellen. Alle drei zeigen sich in drei Zahlen: Vorschläge, Rückweisungen und Zeit pro Freigabe.
Die Verantwortung bleibt beim Treuhänder, auch mit Agent
Viele Treuhandleistungen gelten rechtlich als Auftrag nach Art. 394 ff. OR. Nach Art. 398 Abs. 2 OR haftet der Beauftragte dem Auftraggeber für getreue und sorgfältige Ausführung des übertragenen Geschäfts. Der Branchenverband TREUHAND|SUISSE hält dazu fest, dass sich ein Treuhänder gegenüber seinem Mandanten grundsätzlich nicht damit entlasten kann, dass eine falsche Auskunft, Berechnung oder Beurteilung von einem KI-System stammt. Das Werkzeug ändert den Massstab nicht.
Daraus folgt eine nüchterne Arbeitsteilung. Der Agent liest, ordnet zu und schlägt vor. Eine Person entscheidet und haftet. Je näher ein Vorschlag an der fachlichen Kernentscheidung liegt, desto genauer muss sie hinsehen; so formuliert es auch der Verband. Offen bleibt, ob sich dieses Hinsehen später belegen lässt.
Ein Agent ist dabei kein zweites Augenpaar. Er übernimmt die Vorarbeit, die Kontrolle bleibt beim Menschen. Das Vier-Augen-Prinzip mit KI heisst deshalb: Der Agent liest alles, eine benannte Person prüft jede Markierung, und bei wesentlichen Fällen schaut eine zweite Person drauf.
Was das DSG zu automatisierten Entscheiden sagt
Art. 21 DSG regelt die automatisierte Einzelentscheidung: eine Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung beruht und für die betroffene Person mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt. Die Person ist darüber zu informieren. Sie kann auf Antrag ihren Standpunkt darlegen und verlangen, dass ein Mensch die Entscheidung überprüft. Der EDÖB erinnert ausdrücklich daran, dass dieses Recht auch für KI gilt.
Die meisten Vorschläge eines Agenten im Treuhandbüro sind keine solche Entscheidung. Ein Buchungsvorschlag beeinträchtigt niemanden. Näher kommen Schritte, die direkt nach aussen wirken: eine Mahnung, die ohne Blick eines Menschen verschickt wird, oder in der Bewirtschaftung die Absage an eine Mietinteressentin. Das DSG schützt natürliche Personen. Eine AG als Mandantin fällt nicht darunter, ihre Mitarbeitenden und Ihre Privatmandanten schon.
Nach unserem Verständnis entsteht kein automatisierter Einzelentscheid, wenn eine Person vor der Wirkung inhaltlich prüft und entscheidet. Ob ein Klick ohne Prüfung dafür genügt, ist eine Rechtsfrage; klären Sie sie für Ihren Fall mit Ihrer Rechtsberatung. Praktisch ist die Antwort einfacher. Eine Freigabe, die nichts prüft, belegt auch nichts.
Die Prüfpunkte der FINMA taugen auch im Treuhandbüro als Messlatte
Die FINMA-Aufsichtsmitteilung 08/2024 beschreibt sieben Bereiche, in denen die FINMA den KI-Einsatz beaufsichtigter Institute beurteilt hat, von der Governance bis zur Erklärbarkeit. Der letzte heisst unabhängige Überprüfung. Die FINMA beobachtete, dass Entwicklung und unabhängige Überprüfung von KI-Anwendungen nicht in allen Fällen klar getrennt waren.
Zwei weitere Beobachtungen passen direkt auf die Freigabe. Die FINMA beurteilte, ob Institute Schwellenwerte oder andere Validierungsmethoden festgelegt hatten, um die Qualität der Ergebnisse laufend zu sichern. Und sie zählt zur Überwachung die Analyse der Fälle, in denen Anwender ein Ergebnis ignoriert oder verändert haben, weil solche Korrekturen Schwachstellen zeigen. Jede Rückweisung ist damit ein Messwert.
Die Mitteilung richtet sich an beaufsichtigte Finanzinstitute; für ein Treuhandbüro ohne Bewilligung ist sie keine Pflicht. Als Messlatte taugt sie trotzdem, weil ein Mandant im Streitfall dasselbe wissen will: wer geprüft hat und woran man das sieht. Was die Mitteilung im Einzelnen enthält, steht im Beitrag FINMA-Aufsichtsmitteilung 08/2024.
Sechs Bausteine einer Freigabe, die etwas belegt
- 01Benannte PersonFür jeden Prozess steht mit Namen fest, wer freigibt und wer vertritt. Beide können den Vorschlag fachlich beurteilen.
- 02Regeln im KlartextWonach der Agent prüft, steht in Sätzen, die eine neue Mitarbeiterin versteht. Wer freigibt, kann jede Regel nachlesen.
- 03Alles lesenDer Agent liest jedes Dokument und jede Zeile statt einer Stichprobe. Die Person prüft jede Markierung, die dabei entsteht.
- 04FundstelleJeder Vorschlag nennt Dokument, Seite oder Zeile und die Regel, die gegriffen hat. Ohne Fundstelle bleibt der Person nur, dem Agenten zu glauben.
- 05Freigeben oder zurückweisenDie Person gibt frei, weist mit Begründung zurück oder gibt an eine zweite Person weiter. Nichts wird stillschweigend korrigiert.
- 06ProtokollFestgehalten werden Dokument, Regel, Vorschlag, Entscheid, Person und Zeitpunkt, bei einer Rückweisung auch der Grund. Bei Grow Amplified heisst das Replay-Log.
Fehlt einer dieser Bausteine, wird die Freigabe zum Ritual. Ohne Fundstelle prüft die Person gegen ihr Gefühl. Fehlt die Rückweisung, kann sie nur bestätigen. Und ohne Protokoll weiss ein Jahr später niemand mehr, wer was gesehen hat.
Freigabe als Klick, Freigabe als Nachweis
| Merkmal | Freigabe als Klick | Freigabe als Nachweis |
|---|---|---|
| Wer | Wer gerade Zeit hat | Eine benannte Person mit Stellvertretung |
| Grundlage | Das Gefühl, dass es stimmt | Regeln im Klartext, für jedes Dossier gleich |
| Umfang | Eine Stichprobe, oder gar nichts gelesen | Der Agent liest alles, die Person prüft jede Markierung |
| Vorschlag | Ein Ergebnis ohne Herkunft | Ein Ergebnis mit Fundstelle und Regel |
| Möglichkeiten | Bestätigen | Freigeben, mit Grund zurückweisen, an eine zweite Person geben |
| Spur | Ein Häkchen ohne Datum | Protokoll mit Person, Zeitpunkt, Regel und Dokument |
| Ein Jahr später | Niemand weiss mehr, warum | Der Entscheid lässt sich nachspielen |
Die rechte Spalte kostet beim Aufbau mehr Arbeit und bei jeder Freigabe mehr Zeit. Dafür beantwortet sie im Streitfall die Frage, auf die es ankommt: was die Person vor sich hatte, als sie entschied. Wie lange ein solches Protokoll aufbewahrt wird und wie es prüfbar bleibt, steht im Beitrag Replay-Log und GeBüV.
Drei Fehler, an denen Freigaben im Alltag scheitern
Freigabemüdigkeit
Wer hundert Vorschläge am Stück freigibt, liest den achtzigsten anders als den ersten. TREUHAND|SUISSE nennt das Automation Bias: Menschen vertrauen automatisch erzeugten Empfehlungen übermässig. Rechenbeispiel: 300 Vorschläge im Monat. Wer jeden in 20 Sekunden bestätigt, braucht 100 Minuten; wer jede Fundstelle öffnet, eher 2 Minuten pro Vorschlag, also 10 Stunden. Zeigt das Protokoll im Schnitt 20 Sekunden, wurde geklickt. Abhilfe: Eindeutige Treffer nach einer festen Regel gibt die Person gesammelt frei, mit der Regel im Protokoll. Jede Abweichung geht einzeln über den Tisch.
Alles freigeben
Eine Rückweisungsquote von 0% über drei Monate heisst selten, dass der Agent fehlerfrei arbeitet. Meist heisst sie, dass niemand mehr zurückweist. Die FINMA zählt die Analyse geänderter und ignorierter Ergebnisse zur laufenden Überwachung. Abhilfe: Rückweisungen jeden Monat zählen und lesen. Wiederholt sich ein Grund, wird daraus eine neue Regel im Klartext.
Keine Schwellen
Ohne Schwellen bekommt ein Spesenbeleg über CHF 40.- denselben Klick wie eine Rückstellung über CHF 40'000.-. Schwellen legen fest, ab wann eine zweite Person freigibt: ab einem Betrag, bei einer Art von Vorgang, bei jedem Grenzfall. Die HSLU fasst es in ihrem Immobilienblog als Faustregel: hohe Auswirkungen, Mensch muss entscheiden. Mit einer Schwelle wird aus der Faustregel eine Regel, die im Protokoll steht.
So prüfen Sie Ihre eigene Freigabe in einem Monat
Nehmen Sie einen Prozess, in dem heute schon jemand freigibt, mit Agent oder ohne. Schreiben Sie auf eine Seite, wer freigibt, nach welchen Regeln und ab welcher Schwelle eine zweite Person dazukommt. Zählen Sie dann einen Monat lang drei Dinge: Vorschläge, Rückweisungen und die Zeit pro Freigabe. Diese drei Zahlen zeigen, ob Ihre Freigabe prüft oder nur bestätigt.
Einen Probelauf von Hand bietet der Pauschalen-Leck-Check: Jede Zeile eines Zeiterfassungsexports bekommt ein Zeichen, und Ihre Initialen neben Zusatzaufwand und Grenzfällen sind die Freigabe. Das ist das Prinzip im Kleinen, mit Fundstelle und Spur. Wie Grow Amplified Freigabe und Replay-Log in jede Prüfstrasse einbaut und wem sie danach gehört, steht unter Vorgehen. Welche Daten ein Agent dafür sehen darf, klärt der Beitrag Mandantendaten und KI.
Häufige Fragen
Haftet der Anbieter der KI, wenn der Agent falsch liegt?
Gegenüber Ihrem Mandanten haften nach Art. 398 OR in erster Linie Sie. Ob und wie weit Sie auf den Anbieter zurückgreifen können, regelt Ihr Vertrag mit ihm. Lesen Sie die Haftungsklausel, bevor das erste Mandat durch das Werkzeug läuft, und klären Sie Einzelheiten mit Ihrer Rechtsberatung.
Genügt eine Stichprobe, wie bei der Revision?
Stichproben gibt es, weil Menschen nicht alles lesen können. Ein Agent kann es. Damit lautet die Frage, ob die Person jede Markierung ansieht, die der Agent beim vollständigen Lesen setzt. Die FINMA nennt Stichproben als eine mögliche Methode zur Überprüfung von Ergebnissen, neben Backtesting und vordefinierten Testfällen.
Wer sollte freigeben: die Sachbearbeiterin oder die Partnerin?
Die Person, die fachlich beurteilen kann, ob der Vorschlag stimmt, und die dafür benannt ist. Über einer Schwelle kommt eine zweite Person dazu. Wichtig ist, dass beide mit Namen im Protokoll stehen.
Was gehört ins Protokoll einer Freigabe?
Mindestens: welches Dokument, welche Regel, welcher Vorschlag, wer freigegeben oder zurückgewiesen hat, wann und bei einer Rückweisung mit welchem Grund. Wie lange Sie es aufbewahren, hängt davon ab, wozu das Protokoll gehört; mehr dazu im Beitrag über Replay-Log und GeBüV.
Gilt die Regel zu automatisierten Einzelentscheiden auch für Firmen als Mandanten?
Das DSG schützt natürliche Personen. Art. 21 DSG betrifft deshalb Entscheide über Menschen, etwa Privatmandanten, Mieterinnen oder Mitarbeitende eines Mandanten, und nicht über eine AG als solche. Die Sorgfaltspflicht aus dem Auftrag gilt gegenüber allen Mandanten.
15 Jahre in Banking und Consulting, in Transformation und Finance Operations. Heute baut er mit Grow Amplified Prüfstrassen: Agenten lesen und gleichen ab, ein Mensch gibt frei, und ein Replay-Log hält fest, wer was entschieden hat.