Welche deutschen Gesetze gelten für Apps für AI Girlfriends?
Drei Regelwerke regulieren Apps für AI Companions für deutsche Nutzer: die DSGVO (Datenschutz-Grundverordnung), der EU AI Act und das deutsche Verbraucherschutzrecht einschließlich des Telemediengesetzes (TMG) und des Bundesdatenschutzgesetzes (BDSG). Kein deutsches Gesetz verbietet die Nutzung dieser Dienste. Die Gesetzgebung richtet sich primär an die Plattformen (Datenerhebung, Transparenz, Werbung), nicht an einzelne Nutzer, die mit KI chatten.
Deutschland hat kein spezifisches AI-Gesetz für AI Companions und es gibt keine offentlichen Vorschläge, eines einzufuhren. Die Diskussion im Bundestag hat sich bisher auf KI im Arbeitsleben, Gesundheitswesen und Bildung konzentriert. Apps für AI Companions fallen unter bestehendes Verbraucher- und Datenschutzrecht ohne Sonderregulierung.
Die rechtliche Landschaft ist für deutsche Nutzer aus zwei Gründen relevant: du hast spezifische Rechte bezuglich deiner Daten, die die Plattformen respektieren müssen, und die Plattformen haben Pflichten dir gegenüber, die sie nicht immer vollständig erfullen.
Wie beeinflusst der EU AI Act Apps für AI Girlfriends?
Der EU AI Act, der 2024 in Kraft trat mit schrittweiser Umsetzung bis 2026, klassifiziert KI-Systeme in vier Risikostufen: unakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Apps für AI Companions fallen primär unter die Kategorie “begrenztes Risiko” mit spezifischen Transparenzanforderungen, die beeinflussen, wie die Plattformen dich informieren müssen.
Welche konkreten Anforderungen stellt der AI Act an Apps für AI Girlfriends?
Der AI Act verlangt, dass Plattformen, die KI-Systeme für die Interaktion mit Menschen bereitstellen, den Nutzer klar darüber informieren, dass er mit KI kommuniziert und nicht mit einem Menschen. Die Anforderung wird als Transparenzpflicht (Artikel 50) bezeichnet und bedeutet, dass die Plattform nicht den Eindruck erwecken darf, dass die Konversation mit einer realen Person stattfindet.
Sämtliche Plattformen in unserer Topliste erfullen diese Grundanforderung: Character.AI, Candy AI, Replika, Nomi AI, Kupid AI und HeraHaven identifizieren sich klar als KI-Dienste. Keine Plattform versucht zu verbergen, dass die Gespräche mit kunstlicher Intelligenz stattfinden. Die Deutlichkeit variiert jedoch: manche Dienste haben die Information tief in den Nutzungsbedingungen statt prominent im Interface.
Der AI Act verlangt auch, dass KI-generierter Inhalt (Bilder, Stimme) klar als KI-erstellt gekennzeichnet wird. Dies betrifft Candy AIs und Nomi AIs Bildgenerierung, die als KI-generierte Bilder identifiziert werden müssen.
Was bedeutet die Risikoklassifizierung konkret?
“Begrenztes Risiko” bedeutet, dass Apps für AI Companions nicht den strengen Anforderungen unterliegen, die für Hochrisiko-KI gelten (wie biometrische Identifikation, Kreditbewertung, Rekrutierung oder medizinische Diagnostik). Die Plattformen müssen transparent sein, brauchen aber keine Drittanbieterprufung, keine Registrierung in der EU KI-Datenbank und keine technischen Standards für Zuverlassigkeit zu erfullen.
Welche Sanktionen riskieren Plattformen, die gegen den AI Act verstossen?
Der AI Act spezifiziert Sanktionen in drei Stufen: bis zu 35 Millionen Euro oder 7% des globalen Umsatzes für die Nutzung verbotener KI-Systeme, bis zu 15 Millionen Euro oder 3% für Verstossse gegen sonstige Anforderungen, und bis zu 7,5 Millionen Euro oder 1% für fehlerhafte Informationsgebung.
Welche Rechte gibt dir die DSGVO als AI Girlfriend-Nutzer?
Die DSGVO gibt deutschen Nutzern sechs konkrete Rechte gegenüber AI Plattformen für AI Companions, unabhängig davon, wo die Plattform ihren Hauptsitz hat. Die Rechte gelten automatisch: du musst keinen DSGVO-Schutz aktiv “wählen”.
Wie forderst du alle Daten an, die eine Plattform über dich speichert?
Sende eine E-Mail an den Datenschutzbeauftragten (DSB) oder Support der Plattform und verweise auf DSGVO Artikel 15 (Recht auf Auskunft). Die Plattform hat 30 Tage Zeit zu antworten. Die Anfrage soll eine vollständige Kopie aller personenbezogenen Daten ergeben: Kontodaten, gesamter Gesprächsverlauf, Zahlungsinformationen, IP-Adressen, Verhältensdaten und eventuelle Profilbildungen basierend auf deinen Konversationen.
Character.AI und Replika haben dokumentierte Prozesse über ihre Kontoeinstellungen mit herunterladbaren Datenexporten. Candy AI, Nomi AI und Kupid AI bearbeiten Anfragen per E-Mail an ihre Support-Teams. Warte nie länger als 30 Tage: wenn die Plattform nicht antwortet, kannst du beim BfDI (Bundesbeauftragter für den Datenschutz und die Informationsfreiheit) Beschwerde einlegen.
Wie die Plattformen Daten technisch handhaben, wird im Leitfaden über Sicherheit für AI Girlfriends beschrieben, einschließlich Verschlüsselungsstandard und Datenschutzrisiken.
Wie loschst du alle Daten dauerhaft?
DSGVO Artikel 17 (“Recht auf Vergessenwerden”) gibt dir das Recht, Löschung aller personenbezogenen Daten zu beantragen. Kontaktiere den Support der Plattform und verweise explizit auf Artikel 17. Die Bearbeitungszeit variiert zwischen 7 und 30 Tagen. Die Plattform kann bestimmte Daten behälten, wenn sie eine gesetzliche Grundlage hat, zum Beispiel steuerrechtliche Aufbewahrungspflichten für Zahlungstransaktionen (typischerweise 10 Jahre nach der Abgabenordnung).
Wichtige Einschränkung: Daten, die bereits für KI-Modelltraining verwendet würden, können praktisch unmöglich separiert und geloscht werden. Wenn deine Konversationen bereits in die Trainingsdaten der Plattform integriert würden, bleiben sie als Teil der Modellparameter bestehen, auch wenn dein Konto geloscht wird.
Welche weiteren DSGVO-Rechte sind relevant?
Neben Auskunft (Artikel 15) und Löschung (Artikel 17) hast du Recht auf: Berichtigung unrichtiger Daten (Artikel 16), Einschränkung der Verarbeitung (Artikel 18), Datenportabilitat in maschinenlesbarem Format (Artikel 20) und Recht auf Widerspruch gegen Verarbeitung auf Basis berechtigter Interessen (Artikel 21).
Wie beeinflusst deutsches Verbraucherschutzrecht Apps für AI Girlfriends?
Das deutsche Verbraucherschutzrecht, einschließlich des Gesetzes gegen den unlauteren Wettbewerb (UWG) und des Telemediengesetzes (TMG), stellt Anforderungen an die Vermarktung und den Betrieb dieser Dienste in Deutschland. Das Recht gilt für alle an deutsche Verbraucher gerichtete Werbung, unabhängig davon, wo der Absender sich befindet.
Welche spezifischen Werbemethoden sind verboten?
Drei Werbemethoden riskieren, gegen deutsches Recht zu verstossen im Kontext von Apps für AI Companions:
- Irrefuhrende Behauptungen über die Fähigkeiten der KI: Behauptungen wie “sie versteht dich wirklich” oder “KI mit echten Gefuhlen” können als irrefuhrend bewertet werden, wenn sie den Eindruck erwecken, dass die KI Bewusstsein oder echte Emotionen hat.
- Falsche Gesundheitsaussagen: Werbung wie “reduziere Angst mit deinem AI Companion” oder “KI-Therapie, die funktioniert” ohne wissenschaftliche Grundlage verstosst gegen das Heilmittelwerbegesetz und UWG.
- Versteckte Werbung: Influencer-Kooperationen und gesponserte Bewertungen, die nicht klar als Werbung gekennzeichnet sind, verstossen gegen das TMG und UWG.
Wie schutzst du dich rechtlich als deutscher Nutzer?
Vier Maßnahmen geben dir den bestmöglichen rechtlichen Schutz:
- Dokumentiere: Speichere Screenshots von Nutzungsbedingungen, Preisen und Datenschutzrichtlinien bei der Registrierung. Die Bedingungen können sich ändern und deine Version zum Zeitpunkt der Registrierung gilt für deinen Zeitraum.
- Fordere regelmäßig Datenexport an: Mindestens einmal pro Halbjahr, fordere vollständigen Export via DSGVO Artikel 15 an. Das schafft eine Dokumentation dessen, was die Plattform speichert.
- Sei dir der Zustandigkeit bewusst: Amerikanische Plattformen (Character.AI, Candy AI, Replika) können Nutzungsbedingungen haben, die Streitigkeiten an amerikanische Gerichte verweisen. EU-Verbraucherrecht gibt dir jedoch das Recht, in deinem Heimatland zu klagen.
- Melde Verstossse: Wenn du DSGVO-Verstossse vermutest, melde beim BfDI (bfdi.bund.de). Wenn du irrefuhrende Werbung vermutest, melde bei der Verbraucherzentrale.
Ein Vergleich aller Plattform-Preise für AI Girlfriends hilft dir, die Dienste zu vergleichen, bevor du persönliche Daten teilst.
