Technischer Kontext
Ich ging direkt zur Quelle, denn Schlagzeilen über eine „KI-Steuer“ gehen hier am Thema vorbei. Es geht nicht um eine neue Abgabe, sondern um eine Änderung des spanischen KI-Gesetzentwurfs, die Artikel 116 des allgemeinen Steuergesetzes betrifft und wie die Steuerbehörde Algorithmen nutzt, um Personen und Unternehmen für Prüfungen auszuwählen.
Hier beginnt für mich echte KI-Integration, keine PR. Wenn der Staat KI-gestütztes Risiko-Scoring aufbaut, trifft er faktisch Entscheidungen mit rechtlichen Folgen. Die Frage ist nicht, ob das Modell klug ist, sondern ob man später erklären kann, warum man markiert wurde.
Laut Euractiv und juristischen Kommentaren liegt der strittige Teil darin, den Zugang zu Informationen über diese Systeme stark einzuschränken. Kritiker sind deutlich: Es entstünde ein fast undurchsichtiger Schutzschild um die Algorithmen, der sie nicht nur vor Steuerzahlern, sondern teils auch vor externer Kontrolle verberge.
Mich fasziniert der Konflikt auf Ebene der Regelarchitektur. Einerseits braucht das Finanzamt Betrugsbekämpfung und Schutz seiner Modelle vor Missbrauch. Andererseits treiben das EU-KI-Gesetz und die DSGVO das System hin zu Transparenz, Erklärbarkeit und der Möglichkeit, Ergebnisse anzufechten, wenn automatisierte Logik die Rechte von Personen oder Unternehmen berührt.
Und ja, die spanische Steuerbehörde hatte zuvor öffentlich erklärt, automatisierte Maßnahmen würden nicht ausschließlich auf KI-Ergebnissen beruhen. Doch wenn der Auswahlmechanismus für Prüfungen verborgen ist, wird das Recht auf Erklärung stark relativiert. Formal ist ein Mensch im Kreislauf, doch faktisch sieht man nicht, wie man in den Risikotrichter geriet.
Auswirkungen auf Unternehmen und Automatisierung
Für Unternehmen ist das ein schlechtes Signal, nicht nur als Steuerzahler, sondern auch für jene, die KI in regulierten Prozessen implementieren. Wenn der Staat intransparente Automatisierung vorlebt, wird auch der Privatsektor auf Blackboxen drängen, wo es nicht sein darf.
Gewinner sind hier jene, die Effizienz über Prüfbarkeit stellen. Verlierer sind Unternehmen, die sich gegen Entscheidungen wehren müssen, deren Logik ihnen verborgen bleibt, sowie Teams, die später die rechtlichen Risiken solcher KI-Automatisierung entwirren müssen.
Ich betrachte Spanien als Testfall für ganz Europa. Geht dieses Modell durch, werden sich Streitigkeiten darüber, wo Betrugsschutz endet und Verfahrensrechte verletzt werden, rasch in andere Länder verlagern.
Wenn Ihre KI-Lösungsentwicklung an Compliance, Erklärbarkeit oder strittigen automatisierten Entscheidungen hängt, lassen Sie uns das auf Prozess- und Zugriffsebene aufdröseln. Bei Nahornyi AI Lab arbeite ich ganz praktisch an solchen Engpässen: Man kann KI-Automatisierung so bauen, dass sie die Arbeit beschleunigt, statt ein neues rechtliches Minenfeld zu schaffen.