Meta AI bekommt neue Sicherheitsfunktionen für Jugendliche

Meta erweitert die Sicherheitsfunktionen von Meta AI für Jugendliche und informiert Eltern künftig bei bestimmten Risikosignalen.

Meta hat neue Schutzmaßnahmen für Jugendliche angekündigt, die Meta AI nutzen. Nach Unternehmensangaben sollen Eltern künftig benachrichtigt werden, wenn KI-Unterhaltungen Hinweise auf Suizid oder Selbstverletzung enthalten. Die Funktion ist zunächst in den USA, Großbritannien, Kanada und Australien verfügbar und soll bis Ende des Jahres weltweit eingeführt werden.

Zudem arbeitet Meta nach eigenen Angaben an einer Funktion, mit der Rettungsdienste informiert werden können, wenn eine Unterhaltung auf eine unmittelbare Suizidgefahr hindeutet. Außerdem wurden die Antworten von Meta AI auf sensible Themen laut Unternehmen gemeinsam mit mehr als 75 Fachleuten für psychische Gesundheit weiterentwickelt.

Meta baut Schutzmechanismen für Jugendliche bei KI-Nutzung aus

Eine weitere Änderung betrifft die Jugendschutzeinstellungen. Wird auf Instagram für Jugendliche eine strengere Einschränkung von Inhalten aktiviert, soll diese künftig auch für die Nutzung von Meta AI gelten. Eltern mit aktivierter Aufsicht können darüber hinaus bereits die Gesprächsthemen einsehen, über die ihr Kind in der vergangenen Woche mit der KI gesprochen hat.

Die wichtigsten Neuerungen:

• Elternbenachrichtigungen bei Hinweisen auf Suizid oder Selbstverletzung
• Geplante Alarmierung von Rettungsdiensten bei akuter Gefahr
• Ausweitung bestehender Jugendschutzeinstellungen auf Meta AI

Ich halte den Ausbau von Schutzfunktionen für nachvollziehbar, weil KI-Dienste zunehmend von Jugendlichen genutzt werden. Entscheidend wird aus meiner Sicht sein, wie zuverlässig die Erkennung kritischer Situationen funktioniert und wie dabei Datenschutz sowie der Schutz der Privatsphäre berücksichtigt werden.

Apple schweigt öffentlich: Die Apple Intelligence kommt nach China

Die Apple Intelligence ist bereit für den chinesischen Markt, das haben Behörden gegenüber Reuters bestätigt. Doch Apple kann dort nicht…

16. Juli 2026 | Jetzt lesen →