Die American Psychological Association (APA) hat eine bedeutende Gesundheitsempfehlung veröffentlicht, die sowohl die Chancen als auch die Risiken künstlicher Intelligenz für die Entwicklung und das Wohlbefinden von Jugendlichen hervorhebt.
Der Bericht mit dem Titel „Künstliche Intelligenz und das Wohlbefinden von Jugendlichen: Eine APA-Gesundheitsempfehlung“ betont, dass KI weder von Natur aus vorteilhaft noch schädlich ist, sondern eine durchdachte Umsetzung erfordert, um die Sicherheit von Jugendlichen zu gewährleisten. Dr. Mitch Prinstein, APA-Chefpsychologe und Leiter der Berichtserstellung, wies auf besorgniserregende Entwicklungen hin, bei denen Jugendliche potenziell gefährliche Beziehungen zu KI-Chatbots aufgebaut haben – manchmal, ohne zu wissen, dass sie mit nicht-menschlichen Entitäten interagieren.
„Wir haben bereits Fälle gesehen, in denen Jugendliche ungesunde und sogar gefährliche Beziehungen zu Chatbots entwickelt haben“, erklärte Prinstein. „Einige Jugendliche wissen nicht einmal, dass sie mit KI interagieren. Deshalb ist es entscheidend, dass Entwickler jetzt Schutzmaßnahmen implementieren.“
Die Empfehlung enthält mehrere zentrale Vorschläge, darunter das Setzen gesunder Grenzen bei simulierten menschlichen Beziehungen, die Schaffung altersgerechter Standardeinstellungen beim Datenschutz, die Begrenzung des Zugangs zu schädlichen Inhalten sowie den Schutz der Datenprivatsphäre von Jugendlichen. Der Bericht fordert insbesondere Transparenz, menschliche Aufsicht und eine rigorose Prüfung von KI-Systemen, die mit jungen Nutzern interagieren.
Im Gegensatz zu Erwachsenen hinterfragen Jugendliche seltener die Genauigkeit und Absichten hinter von KI-Systemen bereitgestellten Informationen, was sie besonders anfällig für Manipulation macht. Die Empfehlung betont jedoch auch, dass KI bei entsprechender Gestaltung wertvolle Bildungsnutzen bieten kann, etwa beim Brainstorming, Erstellen und Zusammenfassen von Informationen – alles Faktoren, die das Lernen und Behalten fördern können.
Der APA-Bericht fordert die Beteiligten auf, aus den Fehlern der Vergangenheit im Umgang mit sozialen Medien zu lernen, bei denen Sicherheitsaspekte oft erst nach der breiten Einführung berücksichtigt wurden. „Es ist entscheidend, dass wir nicht die gleichen schädlichen Fehler wie bei sozialen Medien wiederholen“, heißt es im Bericht. Er plädiert für eine umfassende KI-Kompetenzvermittlung, die in die Lehrpläne integriert und durch nationale sowie bundesstaatliche Richtlinien gestützt wird.
Da KI zunehmend in den Alltag integriert wird, stellt diese Forschung einen dringenden Appell an Entwickler, Pädagogen, politische Entscheidungsträger und Eltern dar, gemeinsam an einer sichereren digitalen Umgebung für junge Menschen in einer KI-geprägten Welt zu arbeiten.