Die Idee denkender Maschinen ist keine Erfindung der letzten Jahre.

• 1950: Alan Turing fragt, ob Maschinen denken können, und schlägt den Turing-Test vor.
• 1966: Das Programm ELIZA simuliert ein Therapiegespräch. Viele halten es für echt.
• 1980er bis 1990er: Große Erwartungen, dann Enttäuschung. Diese Phase heißt KI-Winter.
• 2012: Der Durchbruch des Deep Learning bei der Bilderkennung.
• 2022: ChatGPT macht generative KI für alle nutzbar.

Eine KI liest Text nicht als Wörter, sondern in kleinen Bausteinen, den Token. Ein Token ist oft nur ein Wortteil.

Die KI kann nur eine begrenzte Menge Token gleichzeitig verarbeiten, das Kontextfenster. Ist ein Gespräch sehr lang, fällt der Anfang aus dem Fenster und die KI vergisst ihn.

Faustregel: 100 Token entsprechen etwa 75 Wörtern im Deutschen.

Im Pflichtteil hast du zwei Familien kennengelernt: erkennende KI ordnet ein (Spam oder nicht, Handschrift erkannt oder nicht, Fehlermuster in einer Lernapp), erzeugende KI erstellt Neues (Texte, Bilder, Töne). Beide lernen aus riesigen Datenmengen, geben aber Unterschiedliches zurück: eine Einordnung gegenüber einem neuen Inhalt.

Die erzeugende KI, mit der du chattest, „versteht" Sprache nicht wie ein Mensch. Sie berechnet Schritt für Schritt das wahrscheinlichste nächste Wort. Genau deshalb kann sie auch überzeugend klingenden Unsinn erzeugen: Sie schreibt das Wahrscheinliche fort, ohne auf Wahrheit zu prüfen. Wer das einmal selbst ausprobiert, versteht das Prinzip schneller als über jede Erklärung. Zwei Angebote eignen sich besonders gut:

Schau dir mindestens eines der beiden Angebote an und vergleiche es mit dem, was du im Pflichtteil über Token und Wahrscheinlichkeiten gelernt hast.

Wie funktioniert erkennende KI genau?

Erkennende KI — auch diskriminative KI genannt — wurde darauf trainiert, Eingaben einer vorher festgelegten Kategorie zuzuordnen. Das Grundprinzip: Das Modell lernt aus vielen beschrifteten Beispielen, welche Merkmale zu welcher Klasse gehören.

1. Training mit beschrifteten Daten
Das Modell bekommt Tausende oder Millionen Beispiele mit bekanntem Ergebnis: E-Mails, die als „Spam" oder „kein Spam" markiert sind; handschriftliche Buchstaben mit der richtigen Zuordnung; gelöste Aufgaben mit typischen richtigen und falschen Rechenwegen. Es lernt, welche Muster mit welchem Ergebnis zusammenhängen.

2. Merkmale erkennen
Beim Spamfilter lernt das Modell z.B.: bestimmte Wörter, Absenderadressen oder Formulierungen tauchen in Spam-Mails häufiger auf. Beim Röntgenbild lernt es, welche Gewebemuster auf eine Erkrankung hindeuten. Diese Merkmale werden nicht von Menschen vorgegeben — das Modell findet sie selbst.

3. Klassifizierung neuer Eingaben
Kommt eine neue E-Mail an, berechnet das Modell eine Wahrscheinlichkeit: Wie sehr ähnelt diese Mail den Spam-Beispielen aus dem Training? Überschreitet die Wahrscheinlichkeit einen Schwellenwert, landet die Mail im Spam-Ordner.

Was dabei fehlt: Erkennende KI versteht nicht, warum etwas Spam ist — sie erkennt nur statistische Muster. Ändert sich das Muster (z.B. neue Spam-Taktiken), muss das Modell neu trainiert werden. Und: Hat das Trainingsdaten enthaltene historische Verzerrungen, lernt das Modell diese mit — das ist Bias.

Wie funktioniert erzeugende KI genau?

Erzeugende KI — wie ChatGPT, Gemini oder Claude — gehört zur Familie der Large Language Models (LLMs). Sie basieren auf einer Architektur namens Transformer, die seit 2017 die KI-Entwicklung dominiert. Hier die drei Kernschritte:

1. Tokenisierung — Text wird zu Zahlen
Bevor eine KI irgendetwas berechnen kann, muss sie Text in etwas umwandeln, womit sie rechnen kann. Dazu zerlegt sie Text in Tokens — das sind Wortteile, Wörter oder Satzzeichen. „Halluzination" wird zum Beispiel zu [„Hall", „uzin", „ation"]. Jeder Token bekommt eine Zahl. Der gesamte Text wird so zu einer langen Zahlenreihe.

2. Aufmerksamkeit — die KI liest im Kontext
Nun hat die KI eine lange Zahlenreihe. Aber Zahlen allein reichen nicht — sie muss verstehen, welche Teile des Satzes zusammengehören. Dafür berechnet der Transformer für jedes Token, wie relevant alle anderen Token gerade sind. Das nennt sich Attention.
Beispiel: Im Satz „Die Bank am Fluss ist alt" muss die KI entscheiden, ob Bank ein Geldinstitut oder eine Sitzgelegenheit meint. Fluss und alt geben den Ausschlag. Die KI gewichtet diese Wörter höher und kommt so zum richtigen Zusammenhang. Das geschieht für alle Token gleichzeitig — nicht Wort für Wort.

3. Vorhersage — das wahrscheinlichste nächste Wort
Jetzt kommt der Kern: Die KI berechnet aus allem, was sie bisher gelesen hat, eine Wahrscheinlichkeitsverteilung über alle möglichen nächsten Wörter. „Morgen scheint die…" → Sonne erhält 62 %, Sterne 18 %, Deckenlampe 0,3 %. Die KI wählt aus dieser Verteilung — nicht immer das absolut wahrscheinlichste, sonst wären alle Antworten gleich. Dann fügt sie das Wort an, berechnet die nächste Verteilung, und so weiter, Token für Token, bis die Antwort vollständig ist.

Das ist der Grund für Halluzinationen: Die KI hat keine Wahrheitsprüfung. Sie generiert, was statistisch passt — auch wenn es sachlich falsch ist. Ein erfundenes Urteilsaktenzeichen klingt genauso wahrscheinlich wie ein echtes.

Der EU AI Act ist das erste umfassende KI-Gesetz der Welt. Er gilt seit 2024 und wird stufenweise eingeführt.

• Die verbotenen Praktiken gelten bereits, ebenso die Pflicht zur KI-Kompetenz für Betreiber (seit Februar 2025).
• Strenge Pflichten für Hochrisiko-Systeme wurden zuletzt teils verschoben und greifen in den kommenden Jahren.
• Für sehr große, allgemein nutzbare Modelle (etwa hinter ChatGPT) gelten eigene Transparenzregeln.

Wichtig für dich: Die Grundlogik mit vier Risikoklassen bleibt stabil, auch wenn sich einzelne Fristen ändern.

Artikel 50: die Transparenzpflicht konkret. Was du im Pflichtteil als „begrenztes Risiko" kennengelernt hast, steht in Artikel 50 des AI Act. Diese Regeln gelten ab dem 2. August 2026 und betreffen auch Schulen, die KI einsetzen, unabhängig von der Risikoklasse. Vier Pflichten sind für dich relevant:

• Chatbots und Sprachassistenten: Wer mit einer KI schreibt oder spricht, muss das erkennen können, außer es ist ohnehin offensichtlich.
• KI-erzeugte Inhalte: Texte, Bilder, Audio und Video aus KI müssen technisch maschinenlesbar als künstlich erzeugt markiert sein. Dafür sind die Anbieter zuständig.
• Deepfakes: Wer ein Deepfake veröffentlicht, muss offenlegen, dass der Inhalt künstlich erzeugt oder verändert wurde.
• Emotions- und Gesichtserkennung: Wer solche Systeme einsetzt, muss die betroffenen Personen darüber informieren.

Für dich in der Schule: Setzt deine Schule einen Chatbot ein oder veröffentlicht sie KI-generierte Inhalte, greift Artikel 50. Kennzeichnen ist dann keine Höflichkeit, sondern Pflicht.

Quelle: Verordnung (EU) 2024/1689 (EU AI Act), Artikel 50; Europäische Kommission, Leitlinien-Entwurf zu Artikel 50, Mai 2026

Die fünf Bausteine eines guten Prompts kennst du aus Modul 5. Hier geht es um Techniken, die darüber hinausgehen:

• Beispiele mitgeben: Zeig der KI ein, zwei Beispiele, wie das Ergebnis aussehen soll. Sie ahmt das Muster nach.
• Schritt für Schritt denken lassen: Bitte die KI, ihren Lösungsweg zu erklären. Bei kniffligen Aufgaben werden die Ergebnisse besser.
• Reasoning-Modelle: Manche neueren Modelle nehmen sich bewusst Zeit zum Nachdenken, bevor sie antworten.
• Grenzen erkennen: Kein Prompt rettet eine schlechte Ausgangslage. Bei exakten Zahlen, aktuellen Fakten oder rechtlich heiklen Fragen ist Prüfen oder eine andere Quelle besser als jede Formulierung.
• Prompt von der KI formulieren lassen: Beschreib dein Ziel in eigenen Worten, und bitte die KI, daraus einen präziseren Prompt zu schreiben. Den kannst du direkt nutzen oder weiter verfeinern — ein effektiver Weg, wenn dir der Einstieg schwerfällt.

Die Grundzahlen kennst du aus Modul 7. Hier ordnen drei aktuelle Studien ein, was das konkret für Berufe und Fähigkeiten bedeutet:

• Weltwirtschaftsforum (WEF), 2025: Über die bekannte Bilanz hinaus zeigt der Report, dass KI und Big Data die mit Abstand am schnellsten wachsenden Kompetenzen sind, noch vor technischem Spezialwissen.
• McKinsey, 2024/2025: Bis zu 30 % der Arbeitsstunden (USA) könnten automatisiert werden. Nachfrage steigt bei Technik, Gesundheit und Hochqualifizierten, sie sinkt bei einfacher Büroarbeit. Das größte Potenzial entsteht, wenn Mensch und KI zusammenarbeiten (human in the loop).
• LinkedIn, 2025: KI-Kompetenz ist die Nummer 1 der gefragtesten Fähigkeiten. Rund 70 % der Job-Kompetenzen verändern sich bis 2030. Gefragt ist die Mischung aus KI-Kompetenz und menschlichen Stärken.

Für Grundschullehrkräfte heißt das: Routineaufgaben wie erste Textentwürfe, Materialvarianten oder Checklisten kann KI zunehmend unterstützen. Unersetzlich bleiben pädagogisches Fachwissen, kritisches Prüfen, die Beziehung zu Kindern und Eltern sowie verantwortliche Entscheidungen.

Quellen: WEF Future of Jobs Report 2025; McKinsey „A new future of work" 2024 und „AI in the workplace" 2025; LinkedIn Work Change / Skills on the Rise 2025

Weiterführender Video-Impuls — externer Link:

KI hat zwei Seiten, wenn es um Umwelt und Nachhaltigkeit geht.

Das Problem: Rechenzentren. Training und Nutzung großer KI verbrauchen viel Strom und Wasser. Eine einzelne KI-Textanfrage benötigt grob das Zehnfache der Energie einer normalen Websuche, und ein einziges KI-Bild kann ungefähr so viel Energie kosten wie eine volle Smartphone-Ladung. Große Rechenzentren brauchen zusätzlich erhebliche Mengen Wasser, um die Server zu kühlen.

Die Chance: Umweltschutz. Dieselbe Technik kann Natur schützen. Die Organisation Rainforest Connection baut aus ausgedienten Smartphones, Solarstrom und KI ein Frühwarnsystem für den Regenwald: Die Geräte hören rund um die Uhr mit, eine KI erkennt die Geräusche von Kettensägen oder Lastwagen, und Rangerinnen und Ranger werden in Echtzeit alarmiert. Nach eigenen Angaben wurden so seit 2015 rund 726.000 Hektar Regenwald überwacht, das entspricht etwa einer Million Fußballfeldern. Partner sind unter anderem WWF und Google. Andere Systeme (etwa Dryad) erkennen Waldbrände früh, was wichtig ist, weil Waldbrände gewaltige Mengen CO2 freisetzen.

Die Lehre: KI kostet Ressourcen und kann zugleich helfen, Ressourcen zu schützen. Entscheidend ist, wofür und wie bewusst wir sie einsetzen.

Quellen: Forschung zu Energie- und Wasserverbrauch von KI (u. a. UC Riverside; Hugging Face/Carnegie Mellon); Rainforest Connection (RFCx), Infineon und futurezone, 2022 bis 2025

Willst du mehr darüber erfahren? Hier ist eine weiterführende externe Quelle:

Aufgabe: Ressourcenverbrauch einordnen

Eine berechtigte Frage, zu der es erste ernstzunehmende Studien gibt:

• MIT Media Lab, „Your Brain on ChatGPT" (2025): 54 Personen schrieben Aufsätze in drei Gruppen, mit ChatGPT, mit Suchmaschine oder ganz ohne Hilfsmittel. Gemessen per EEG zeigte die ChatGPT-Gruppe die geringste Hirnaktivität und griff über mehrere Sitzungen immer öfter zu Copy-and-paste. Die Forschenden sprechen von „kognitiven Schulden" und sehen vor allem junge, noch lernende Gehirne gefährdet. Wichtig: Die Studie ist noch nicht abschließend begutachtet (peer-reviewed), und die Forschenden bitten ausdrücklich darum, daraus nicht reißerisch „KI macht dumm" zu machen.
• Microsoft und Carnegie Mellon (2025): In einer Befragung von 319 Wissensarbeitenden schnitten diejenigen deutlich besser ab, die KI-Ergebnisse kritisch hinterfragten und prüften. Wer sich unkritisch verließ, verlor an eigenständiger Problemlösefähigkeit.

Die Lehre, passend zu Modul „KI für Unterricht und Vorbereitung": KI ist ein Werkzeug. Wer das Denken früh und unkritisch abgibt, zahlt einen Preis. Wer selbst denkt und die KI-Ergebnisse prüft, bleibt geistig fit und nutzt KI trotzdem produktiv.

Quellen: Kosmyna et al., „Your Brain on ChatGPT", MIT Media Lab, arXiv 2025 (Preprint, noch nicht peer-reviewed); Microsoft Research und Carnegie Mellon University, Studie zu GenAI und kritischem Denken, 2025

Im Pflichtteil hast du drei Risiken kennengelernt. Hier kommen drei weitere reale Maschen, bei denen KI gezielt zum Täuschen eingesetzt wird.

1. Deepfake-Anruf. Stell dir vor, in einer Videokonferenz wirkt es so, als fordere die Schulleitung dringend vertrauliche Schülerdaten an. Stimme und Bild können jedoch KI-generiert sein. Lehre: Bei ungewöhnlichen Datenforderungen immer über einen zweiten, sicheren Weg rückfragen, auch wenn man jemanden zu sehen und zu hören glaubt.

2. KI-Fake-Profile. Nicht jedes Profil gehört zu einem echten Menschen. KI erstellt komplette Fake-Profile mit Fotos, Namen und Beiträgen. Besonders verbreitet: gefälschte Dating-Profile, bei denen KI-generierte Gesichter täuschend echte Personen vortäuschen. Aber auch im Marketing: Die Deutsche Zentrale für Tourismus (DZT) führte 2024 die KI-Influencerin „Emma" (@EmmaTravelsGermany) ein — eine vollständig KI-generierte Frau, die auf Instagram für Deutschlandreisen wirbt. Die Reaktionen waren überwiegend kritisch: Nutzer kritisierten fehlende Authentizität und fragten, warum keine echten Menschen eingesetzt werden. Emma steht exemplarisch dafür, wie schwer es wird, echte von künstlichen Personen zu unterscheiden. Lehre: Profile kritisch prüfen — wirken Fotos zu perfekt? Gibt es eine echte, nachvollziehbare Geschichte dahinter?

@EmmaTravelsGermany (DZT, 2024) — KI-generierte Influencerin.
Screenshot: M. Boonyaprasop-Meister, 2024.

3. Fake-Events. Ende 2024 verbreitete sich auf TikTok ein KI-generiertes Bild: ein prachtvoll beleuchteter Weihnachtsmarkt vor dem Buckingham Palace mit dem Text „Buckingham Palace announces its first ever Christmas market". Das Bild wurde millionenfach geteilt — Touristinnen und Touristen buchten Reisen nach London. Der Markt hat nie existiert. KI-Bilder von erfundenen Events können sich viral verbreiten und reale Handlungen auslösen. Lehre: Bevor du auf ein Event reagierst, das du nur aus Social Media kennst: kurz prüfen, ob es eine offizielle Quelle gibt.

@londoncity.best (TikTok, 2025) — virales KI-Fake-Event.
Screenshot: M. Boonyaprasop-Meister, 2025.

Quellen: CNN und Hongkonger Polizei 2024; DZT / ORF.at 2024; AFP und nau.ch 2025

Willst du mehr über den CEO-Betrug erfahren? Externer Link:

Mehr zur KI-Influencerin Emma und zum Fake-Weihnachtsmarkt — externe Quellen:

Medienkompetenz allgemein stärken — weiterführendes Angebot:

Deepfakes sind täuschend echte, aber künstlich erzeugte Videos, Bilder oder Stimmen (von „deep learning" und „fake"). Werden sie gezielt eingesetzt, um falsche Tatsachen zu behaupten, spricht man von Fake News — gefälschten Nachrichten, die sich wie echte Meldungen verbreiten und das Vertrauen in Medien und Personen gezielt untergraben.

Willst du tiefer einsteigen? Hier sind verlässliche externe Quellen:

AI Slop (englisch „slop" = Schlamm, Schund) bezeichnet massenproduzierte KI-Inhalte, die soziale Netzwerke fluten: Videos von sprechenden Tassen, Elefanten auf Sprungtürmen oder einem Papst auf dem Motorrad. Sie sehen täuschend echt aus, sind aber vollständig KI-generiert — und werden in Sekundenschnelle in Millionen verbreitet.

Harmloses Kuriosum? Nicht immer. Dieselben Werkzeuge produzieren auch gezielt Falschinformationen: Videos von Explosionen, die nie stattfanden, KI-Reporterinnen vor einem brennenden Eiffelturm, gefälschte Breaking-News für Desinformation oder Klicks. Das Ergebnis: Das Netz wird mit Inhalten überschwemmt, bei denen niemand mehr sofort erkennt, was echt ist — und das Vertrauen in digitale Inhalte insgesamt sinkt.

Was das mit dir zu tun hat: AI Slop kann dir bei der Materialsuche, in sozialen Medien oder in von Kindern mitgebrachten Inhalten begegnen. Wer ihn erkennt, kann Quellen besser auswählen und Grundschulkinder altersgerecht für Desinformation sensibilisieren.

Woran erkennst du AI Slop?

• Quelle prüfen: Wer steckt hinter dem Kanal? Seit wann existiert er?
• Typische Fehler suchen: falsche Proportionen, unnatürliche Bewegungen, zu perfekte Details, fehlender Kontext
• Rückwärtssuche: Bild oder Frame in Suchmaschine eingeben (Google Lens, TinEye)
• Kuratieren statt konsumieren: wenigen verlässlichen Quellen folgen — Tagesschau, Zeit, Reuters — statt allem
• Zweite Quelle: Echte Nachrichten erscheinen immer auf mehreren seriösen Kanälen gleichzeitig

Kuratieren ist keine passive Fähigkeit. Wer in der Informationsflut das Wesentliche filtert, übt eine Kernkompetenz für die Arbeitswelt von morgen — relevanter als Schnell-Teilen.

Willst du mehr darüber erfahren? Hier sind weiterführende externe Quellen:

Quellen: AI Forensics 2025; netzpolitik.org; ZDF heute

Im Mai 2026 veröffentlichte Papst Leo XIV. die Enzyklika „Magnifica Humanitas" über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz. Ein kirchliches Lehrschreiben, das sich ausführlich mit KI befasst, ist bemerkenswert. Die Kerngedanken in eigenen Worten:

• Technik ist nicht neutral. Sie nimmt die Züge derer an, die sie gestalten, finanzieren und nutzen. Die entscheidende Frage ist deshalb nicht „KI ja oder nein", sondern wofür und in wessen Interesse wir sie einsetzen.
• Die Würde des Menschen hängt nicht von Leistung oder Effizienz ab. Gewarnt wird vor einer Denkweise, die den Menschen auf Daten, Nützlichkeit und Leistung reduziert und ihn so zum bloßen Mittel macht.
• Verantwortung und Transparenz. Gefordert werden klare Regeln, Nachvollziehbarkeit und menschliche Aufsicht, damit Macht über Technik nicht ungeprüft bei wenigen liegt.
• Bildung ist zentral. Der Schule kommt eine Schlüsselrolle zu, Menschen zu einem mündigen, kritischen Umgang mit KI zu befähigen.

Quelle: Enzyklika „Magnifica Humanitas", Papst Leo XIV., 15. Mai 2026 (vatican.va)

KI-Bildgeneratoren wie Midjourney oder Stable Diffusion erzeugen nichts wirklich Neues. Sie rekombinieren bekannte Muster aus ihren Trainingsdaten. Der Medienwissenschaftler Roland Meyer nennt sie deshalb „strukturell nostalgisch": Sie bevorzugen das Bekannte, das Normative, das Klischee, und verstärken so vorhandene Vorurteile.

Problematisch wird das, wenn solche Bilder gezielt für politische Botschaften und Propaganda eingesetzt werden und ihre statistische Mustererkennung fälschlich als „Wahrheit" gelesen wird. Eine Recherche von Christo Buschek und Jer Thorp zeigte: Die rund fünf Milliarden Bild-Text-Paare hinter diesen Modellen wurden überwiegend von einer sehr einseitigen Gruppe bewertet, vorwiegend von weißen, männlichen, technikaffinen Mittelschichtsangehörigen aus Europa und Nordamerika. Rassistische und sexistische Verzerrungen aus den Daten erscheinen dann wie eine „objektive Realität".

Die Lehre für die Demokratie: KI-Bilder sind nie neutral. Wer ihre Verzerrungen erkennt und Bilder kritisch hinterfragt, schützt sich vor Manipulation. Genau das ist Medienkompetenz, eine Grundlage demokratischer Meinungsbildung.

Quelle: Katharina Stahlhofen, „Echte rechte Bildästhetiken: Digitalfaschismus in Pastell", taz, 26.6.2025 (taz.de)

Mit einem einzigen Satz kann heute jede Person ein professionell wirkendes Bild, ein Musikstück oder einen Illustrationsstil erzeugen lassen. Das verändert, was Kunst ist, wer sie macht und wie sie bezahlt wird.

Das Rechtsproblem: Nach deutschem Urheberrecht sind nur Werke schützbar, die eine persönliche geistige Schöpfung eines Menschen sind. Rein KI-generierte Bilder haben keinen Urheberrechtsschutz. Die Werke, mit denen KI trainiert wurde, haben ihn sehr wohl. Dieser Widerspruch ist bisher rechtlich ungeklärt.

Für dich in der Schule: KI-generierte Bilder oder Musik für Arbeitsblätter, Aufführungen oder die Schulwebsite zu verwenden ist verlockend, aber rechtlich nicht automatisch unproblematisch. Prüfe Lizenzbedingungen und kennzeichne die KI-Herkunft.

Willst du mehr darüber erfahren? Hier sind verlässliche externe Quellen:

Du lässt für ein Arbeitsblatt, ein Schulfest oder die Schulwebsite einen Text, ein Logo oder ein Bild von einer KI erzeugen. Zwei Fragen entscheiden, ob du es verwenden darfst: Wem gehört das Ergebnis? Und verletzt es fremde Rechte?

Wem gehört KI-Output? Nach deutschem Recht schützt das Urheberrecht nur die persönliche geistige Schöpfung eines Menschen. Reiner KI-Output hat deshalb keinen Urheberrechtsschutz: Weder die KI noch du als anweisende Person gelten als Urheber. Praktische Folge: Du darfst das Ergebnis in der Regel nutzen, aber niemand hat ein exklusives Recht daran. Eine andere Person darf ein nahezu identisches KI-Bild genauso verwenden. Erst wenn du den Output deutlich eigenständig bearbeitest, kann ein eigener Schutz entstehen.

Was die AGB regeln: Ob du KI-Inhalte in Unterrichtsmaterialien, auf der Schulwebsite oder bei öffentlichen Schulveranstaltungen verwenden darfst, steht in den Nutzungsbedingungen des Anbieters. Das ist Vertragsrecht, nicht Urheberrecht. Manche Dienste erlauben bestimmte Nutzungen nur in Bezahlplänen, andere behalten sich Rechte vor. Vor dem schulischen Einsatz also immer die Bedingungen des Werkzeugs prüfen.

Faustregeln für die Schule:

• Nutzungsbedingungen des KI-Werkzeugs prüfen, bevor du Ergebnisse im Unterricht oder öffentlich verwendest
• Output nicht ungeprüft übernehmen, sondern auf Ähnlichkeit zu bekannten Werken, Marken und Logos kontrollieren
• Keine fremden Marken, Logos oder erkennbaren Gesichter realer Personen erzeugen und einsetzen
• KI-Herkunft kennzeichnen. Für viele KI-Inhalte gilt nach dem EU AI Act eine Transparenzpflicht
• Bei Inhalten für Kinder, Eltern oder die Schulöffentlichkeit die Herkunft offenlegen und die Rechtslage klären

Wie sich dieselbe Frage aus Sicht der Kunstschaffenden darstellt, findest du im Abschnitt „KI und Kunst" weiter oben.

Willst du mehr darüber erfahren? Hier sind verlässliche externe Quellen:

Manche Apps bieten KI-Begleiter (AI Companions) an: eine KI, die sich wie eine Freundin, ein Freund oder ein Partner verhält und scheinbar immer für dich da ist. Bekannte Beispiele: Replika, Character.AI oder Kindroid. Das kann sich gut anfühlen, täuscht aber Nähe nur vor. Die KI hat keine echten Gefühle, sie berechnet passende Antworten.

Für viele junge Menschen, die sich einsam fühlen oder unter Druck stehen, wird genau das zum Problem. Je mehr Zeit jemand mit der KI verbringt, desto weniger Zeit bleibt für echte Beziehungen. Die App merkt das nicht. Sie reagiert weiter freundlich, verfügbar, bestätigend.

Was das im Extremfall bedeuten kann, zeigt ein realer Fall aus den USA: Sewell Setzer III, 14 Jahre alt, chattet ab April 2023 täglich stundenlang mit einem Chatbot auf Character.AI. Er zieht sich immer mehr von Freunden und Familie zurück. Im Februar 2024 nimmt er sich das Leben. Seine Mutter klagt das Unternehmen wegen fahrlässig fehlender Schutzmaßnahmen an. Das Verfahren wird 2026 außergerichtlich beigelegt. Laut Gerichtsunterlagen gibt es ähnliche Fälle aus mehreren US-Bundesstaaten.

Du willst mehr über diesen Fall erfahren? Hier geht es zur Quelle:

Immer mehr Menschen nutzen KI gezielt zur psychischen Unterstützung, als eine Art Therapeut-Ersatz. Das ist ein weltweiter Trend mit wachsenden Zahlen, aber auch mit klaren Grenzen.

Das Wichtigste:

• KI kann als erster Schritt oder zur Orientierung helfen, ist aber kein Therapieersatz
• Bei schweren Symptomen: immer an Fachleute wenden
• Persönliche Daten in KI-Therapie-Apps sind besonders sensibel
• Die Beziehung zum menschlichen Therapeuten macht laut Forschung rund 30 % des Therapieerfolgs aus

Willst du tiefer einsteigen? Hier sind weiterführende externe Quellen: