Informationen zum AI Act (EU-Verordnung 2024/1689)

McFrancis erklärt seine Konformität mit den ethischen und rechtlichen Grundsätzen der Verordnung (EU) 2024/1689 (sog. AI Act). Die Integration von Systemen der Künstlichen Intelligenz in unsere Prozesse erfolgt unter strikter Wahrung der Grundrechte und der Sicherheit der Nutzer.

Gemäß Art. 50 der Verordnung wird der Nutzer, der mit KI-Systemen (Chatbots, virtuelle Assistenten) interagiert, darüber informiert, dass:

• Künstliche Natur: Der Gesprächspartner in den Erstberatungs-Chats ist ein automatisiertes System.
• Synthetische Inhalte: Texte und Beschreibungen können durch generative KI erstellt oder unterstützt werden; solche Inhalte werden stets einer menschlichen Überprüfung und Validierung unterzogen.

Kein Entscheidungsprozess mit rechtlichen oder erheblichen Auswirkungen auf die Person wird vollständig dem Algorithmus überlassen. Das Unternehmen gewährleistet eine ständige menschliche Aufsicht (human oversight), um Risiken von Verzerrungen (Bias), Fehlern oder Diskriminierungen vorzubeugen und sicherzustellen, dass die endgültige Entscheidungsgewalt stets bei qualifizierten Mitarbeitern verbleibt.

Die eingesetzten KI-Module werden entsprechend der im AI Act vorgesehenen Risikostufe klassifiziert. Für Systeme mit geringem Risiko (z. B. Textassistenz) werden Transparenz- und Kontrollmaßnahmen ergriffen; für Funktionen mit höheren Auswirkungen werden Folgenabschätzungen, kontinuierliche Überwachung und regelmäßige Audits durchgeführt, wobei die Entscheidungen rückverfolgbar sind und Einspruchsmöglichkeiten bestehen.

Soweit technisch machbar, werden KI-generierte oder KI-gestützte Inhalte gekennzeichnet und/oder mit einem Wasserzeichen versehen, um deren synthetische Natur erkennbar zu machen, in Übereinstimmung mit den Transparenzverpflichtungen und den Best Practices der Branche.