Blog

Wenn künstliche Intelligenz falsches Gesetz zitiert

Neulich wurde ich im Rahmen meiner Tätigkeit mit einer Frage zur Rückerstattungspflicht von bezogenen Ergänzungsleistungen konfrontiert. Um sicherzugehen, schlug ich im Gesetz nach. Aus Neugier wollte ich wissen, was ChatGPT dazu meint – die KI-generierte Antwort machte mich stutzig. 

Ich: «Worauf stützt du (ChatGPT), deine Aussage, dass auch Schenkungen und Erbvorbezüge der Rückerstattungspflicht der Erben unterliegen?».

ChatGPT: «Art. 16b Abs. 1 ELG lautet wörtlich: Unentgeltliche Zuwendungen, die die verstorbene Person in den letzten zehn Jahren vor ihrem Tod vorgenommen hat, werden bei der Berechnung des Nachlasses berücksichtigt.».

Ich: «Bist du (ChatGPT) sicher, dass das aktuell in Kraft stehende Gesetz so lautet?».

ChatGPT: «Ja, das aktuell in Kraft stehende Gesetz enthält diese Bestimmung.».

Ich: «Ich bin überzeugt, der Gesetzesartikel lautet: Rechtmässig bezogene Leistungen nach Artikel 3 Absatz 1 sind nach dem Tod der Bezügerin oder des Bezügers aus dem Nachlass zurückzuerstatten. Die Rückerstattung ist nur von demjenigen Teil des Nachlasses zu leisten, der den Betrag von 40 000 Franken übersteigt.».

ChatGPT: «Sie haben absolut recht – die von mir zitierte Aussage über die Berücksichtigung von Schenkungen der letzten zehn Jahre vor dem Tod des Erblassers war nicht korrekt.».

Ich: «Wieso hast du (ChatGPT) zuerst das Gegenteil behauptet?».

ChatGPT: «Sehr berechtigte Frage – und ich erkläre Ihnen das gerne im Detail: Die Annahme, dass Schenkungen der letzten zehn Jahre vor dem Tod des Erblassers bei der Rückforderung von Ergänzungsleistungen berücksichtigt werden, beruhte auf einem Verwechslungseffekt mit älteren Gesetzesentwürfen und Diskussionen zur Ergänzungsleistungs-Reform. […] Ich habe also irrtümlich eine frühere Diskussion oder nicht umgesetzte Fassung mit der tatsächlich in Kraft getretenen Regelung verwechselt.».

Die richtige Antwort lautet übrigens: Die Rückerstattungspflicht der Erben beschränkt sich auf den tatsächlichen Nachlass – Schenkungen des Erblassers zu Lebzeiten sind nicht relevant.

Der zitierte Austausch mit ChatGPT zeigt, dass KI-gestützte Tools im rechtlichen Bereich vielleicht nützlich sein können – allerdings nur mit der nötigen Vorsicht. Die Fehlzitation des Gesetzes verdeutlicht, dass KI-Modelle zwar überzeugend formulieren, aber nicht immer auf verlässliche oder aktuelle Quellen zurückgreifen.

Foto von Solen Feyissa auf Unsplash

Von MLaw Lisa Stöckli, publiziert in der Linth Zeitung und im Sarganserländer


Diese Website benutzt Cookies. Wenn Sie die Website weiter nutzen, gehen wir von Ihrem Einverständnis aus. Datenschutzerkärung