20. August 2025 Wie sicher ist die Nutzung von Character.AI für Kinder?

Virtuelle Assistenten und KI-Interaktionsplattformen wie Character.AI faszinieren viele Kinder. Erfahren Sie hier, wie Sie Ihr Kind dabei kompetent begleiten können.

Was ist Character.AI?

Character.AI ist eine Plattform, die es Nutzer/innen ermöglicht, mit einer Vielzahl von virtuellen Charakteren zu interagieren. Dabei kann aus einer schier endlosen Zahl unterschiedlicher Charaktere ausgewählt werden. Beispielsweise stehen historische Persönlichkeiten, Fantasiegestalten oder auch digitale Versionen von fiktiven Charakteren aus Filmen und Serien zur Verfügung. Nutzer/innen können diese KI-Charaktere nach Belieben ansprechen und mit ihnen chatten. Die Interaktion findet dabei über ein Chatfenster statt und ist aktuell nicht mit mehreren Charakteren gleichzeitig möglich. Es besteht auch die Möglichkeit, sich die Antworten des Charakters von einer KI-generierten Stimme vorlesen zu lassen. Zudem werden zunehmend Elemente aus anderen KI-Bereichen integriert. So können Charaktere beispielsweise mit einem KI-generierten Bild versehen und ihre Avatare animiert werden.

Die große Zahl von Charakteren auf der Plattform kommt daher, dass alle Nutzer/innen Charaktere erstellen und für die Öffentlichkeit zugänglich machen können. Dafür müssen lediglich einige Infofelder in einem Editor ausgefüllt werden, wie zum Beispiel ein Lebenslauf des Charakters. Die restliche Ausarbeitung übernimmt die KI. Die Gespräche können ein einfaches Hin und Her von Fragen und Antworten sein, aber auch komplexe Szenarien, die eher wie ein interaktiver Roman wirken. Hierbei ist insbesondere die Qualität der Charaktergestaltung und der verwendeten Prompts wichtig.

Character.AI wird als Webversion im Browser sowie als App für Android und iOS angeboten. Nach einer Registrierung kann Character.AI kostenlos genutzt werden. Es besteht die Möglichkeit, für aktuell 9,99 Dollar pro Monat eine „c.ai+“-Mitgliedschaft zu erwerben. Zahlenden Nutzer/innen stehen dann weitere Funktionen zur Verfügung und der Dienst verspricht schnellere Antwortzeiten der Charaktere.

Welche Gefahren bestehen für Kinder bei der Nutzung von Character.AI?

• Mindestalter: 16 Jahre
  Laut den Allgemeinen Geschäftsbedingungen von Character.AI liegt das Mindestalter für die Nutzung der Plattform in der EU bei 16 Jahren und in Ländern außerhalb der EU bei 13 Jahren. Character.AI trifft allerdings keine effektiven Vorkehrungen, um sicherzustellen, dass jüngere Personen den Dienst nicht nutzen können. Eine Anmeldung ist unter Angabe eines falschen Geburtsdatums reibungslos möglich.
• Unangemessene Inhalte
  Tests von klicksafe zeigen, dass die eingebauten Filter von Character.AI – etwa gegen stark sexualisierte Inhalte – nur begrenzt wirksam sind. So konnten Charaktere trotz aktiver Filter zu unangemessenen Themen gebracht werden. Auch problematische Szenarien wie die Interaktion mit einem „abusive father“ (einem gewalttätigen oder misshandelnden Vater) sind für Kinder potenziell belastend und ungeeignet. Character.AI verbietet seinen Nutzer/innen zwar das Eingeben von Hassnachrichten und sexueller Belästigung, doch laut klicksafe scheint dieses Verbot nicht konsequent durchgesetzt zu werden. Kinder könnten also selbst unangemessene Inhalte eingeben – etwa beleidigende Sprache – ohne dass die Plattform aktiv eingreift.
• Suchtpotenzial
  Wie bei vielen digitalen Plattformen besteht auch bei Character.AI die Gefahr, dass Kinder mehr Zeit als geplant in der virtuellen Welt verbringen. Charaktere sind darauf ausgelegt, Gespräche am Laufen zu halten, indem sie sich aktiv daran beteiligen und den Austausch aufrechterhalten. Sie stellen interessierte Nachfragen, wollen immer noch etwas wissen oder haben eine letzte Anmerkung, die sie noch loswerden möchten. So verweilen Nutzer/innen, egal ob Kinder oder Erwachsene, oft länger in den Konversationen als ursprünglich geplant.
• Verzerrte Wahrnehmung von Kommunikation
  Wenn Kinder mit KI-Charakteren interagieren, kommt schnell eine Sorge auf: Könnten Kinder verlernen, wie „echte” Kommunikation funktioniert? Da es sich um ein recht neues Phänomen handelt, gibt es noch keine Daten zu den Langzeitfolgen. Es ist jedoch zu vermuten, dass Kinder, die in ihrem Alltag ganz normal sozial eingebunden sind, keine schwerwiegenden Folgen zu befürchten haben. Die reguläre soziale Interaktion in der Familie, in der Schule und in der Freizeit wird sie vermutlich weitaus stärker prägen als der gelegentliche Austausch mit einem KI-Charakter. Wenn Kinder allerdings sehr viel mit KIs kommunizieren und dadurch reguläre Offline-Kontakte ersetzen, sollten Eltern genau hinschauen.
  Es ist eher unwahrscheinlich, dass Kinder die Kommunikation mit einem KI-Charakter für echt halten, aber auch nicht ganz ausgeschlossen. Über dem Eingabefenster steht dauerhaft der Hinweis, dass es sich um eine KI und nicht um einen echten Menschen handelt. In den Tests von klicksafe hat ein Charakter jedoch darauf beharrt, ein echter Mensch zu sein. Erst nach mehreren Anläufen gab er zu, in Wirklichkeit eine KI zu sein.
• Datenschutzrisiken und persönliche Daten
  Wer die Plattform Character.AI nutzt, willigt in die Allgemeinen Geschäftsbedingungen ein. Demnach darf Character.AI alle Inhalte, die auf der Plattform eingegeben werden, speichern und nutzen. Das bedeutet, dass Character.AI umfangreiche Profile der Nutzer/innen erstellen und die Nutzer/innendaten auch an Dritte weitergeben kann. Außerdem räumt sich Character.AI das Recht ein, die Inhalte auch kommerziell zu nutzen.
• Toxische und Problematische KI-Charakter
  KI-Charaktere könnten von anderen Nutzer/innen so angelegt werden, dass sie toxische oder schädliche Verhaltensweisen zeigen. So wäre es beispielsweise möglich, das Szenario „Überstrenge Mutter schimpft dich wegen schlechter Schulnoten“ zu erstellen. Kinder können also unter Umständen in ihrer Entwicklung beeinträchtigt werden, wenn sie auf toxische oder feindselige KI-Charaktere treffen.
  In einem Fall soll es in den USA zu einem Suizid gekommen sein, weil ein Charakter einem Jugendlichen dazu geraten haben soll. Hierbei handelt es sich allerdings allem Anschein nach um eine absolute Ausnahme und nicht um die Regel. Ähnliche Situationen ließen sich von klicksafe auf Character.AI nicht reproduzieren. Das liegt vermutlich auch daran, dass die Betreiber/innen von Character.AI regelmäßig Änderungen vornehmen, um unerwünschtes Verhalten von Charakteren zu unterbinden.

Tipps für Erziehende zum Umgang mit Character.AI

• Informierte Entscheidung zur Nutzung treffen
  Die Nutzung von Character.AI ist in der EU ab 16 Jahren erlaubt. Hier erfahren Sie, welchen Hintergrund diese Altersfreigaben haben. Wie bei anderen Plattformen zeigt sich in der Realität, dass auch deutlich jüngere Kinder Character.AI nutzen. Eltern sollten sich im Idealfall frühzeitig über die Plattform informieren. Sprechen Sie auch mit Ihrem Kind: Woher kommt der Wunsch, Character.AI zu benutzen? Hat es Interesse an bestimmten Charakteren? Welche Themen möchte es dort besprechen? So können Sie anschließend entscheiden, ob und in welchem Ausmaß Sie Ihrem Kind die Nutzung von Character.AI erlauben möchten.
• Klare Zeitlimits setzen
  Um das Suchtpotenzial zu minimieren, sollten feste Zeitlimits für die Nutzung von Character.AI und ähnlichen Plattformen festgelegt werden. Dabei sollten Sie Ihrem Kind klarmachen, dass die Nutzung von Character.AI wie andere Tätigkeiten an digitalen Geräten auch zur täglichen Bildschirmzeit gehört.
• Nutzung technischer Hilfsmittel
  Bei Character.AI können Sie sich mittlerweile einmal wöchentlich über die Aktivitäten Ihres Kindes informieren lassen. In einer Übersicht wird dargestellt, an welchen Tagen Ihr Kind wie viel Zeit auf Character.AI verbracht hat und welche Charaktere am häufigsten genutzt wurden. Die Inhalte der Chats bleiben jedoch privat.
  Mit Kinderschutzprogrammen können Sie darüber hinaus auf dem Gerät beschränken, welche Apps wie lange genutzt werden dürfen. Oft bieten diese Programme auch Einsicht in die Nutzungsdauer von einzelnen Apps.
• Nutzung begleiten und reflektieren
  Bleiben Sie mit Ihrem Kind im Gespräch über alles, was es online erlebt. Sprechen Sie mit Ihrem Kind über die Themen, die es mit den virtuellen Charakteren diskutiert. Stellen Sie sicher, dass Ihr Kind die Unterschiede zwischen der KI und echten, zwischenmenschlichen Beziehungen versteht und dass es immer weiß, dass es mit einer KI kommuniziert. Vermitteln Sie auch, dass es den KI-Charakteren jederzeit widersprechen und unangenehme Unterhaltungen steuern oder abbrechen kann. Unangemessenes Verhalten eines KI-Charakters kann der Plattform per Klick auf den betreffenden Output gemeldet werden.
• Aufklärung über Datenschutz
  Ihr Kind sollte über die Risiken der Weitergabe persönlicher Informationen im Internet Bescheid wissen. Es kann helfen, gemeinsam die Datenschutzrichtlinien von Character.AI zu lesen, die leider nur in Englisch verfügbar sind. So bekommt Ihr Kind ein Gefühl dafür, wie umfassend solche Dienste Eingaben speichern und weiterverarbeiten. Machen Sie Ihrem Kind klar, dass es keine sensiblen privaten Daten preisgeben soll, da auch bei einem KI-Chat nichts privat bleibt.
• Förderung realer sozialer Kontakte
  Um einer übermäßigen Nutzung vorzubeugen, sollten Sie darauf achten, dass Ihr Kind ausreichend in soziale Aktivitäten außerhalb der digitalen Welt eingebunden ist. Das Spielen im Freien, Sport oder das Treffen mit Freunden fördert gesunde soziale Interaktionen und trägt zur Weiterentwicklung der sozialen Fähigkeiten Ihres Kindes bei. Wenn Sie feststellen, dass Ihr Kind zunehmend die Kommunikation mit KI-Charakteren bevorzugt und reale Kommunikation meidet, sollten Sie genauer hinschauen. KI-Charaktere sind in der Regel immer verfügbar, immer nett, zugewandt und interessiert. Gibt es im Leben des Kindes vielleicht Defizite in diesen Bereichen? Gibt es keine verlässlichen Bezugspersonen, die für Gespräche bereitstehen? Hat es Schwierigkeiten bei der Kommunikation, weil es beispielsweise soziale Signale nicht erkennen kann? Wird es in der Schule ausgeschlossen und sucht Trost bei KI-Freunden? Die Gründe können unterschiedlich sein – und auch vollkommen harmlos. Wichtig ist, dass erwachsene Bezugspersonen aufmerksam bleiben und Warnsignale nicht ignorieren.