Meta führt neue Sicherheitswerkzeuge ein, um Jugendliche im Umgang mit dem hauseigenen KI-Assistenten Meta AI besser zu schützen. Der Fokus liegt dabei auf dem sensiblen Umgang mit Themen wie Suizid und Selbstverletzung.
Die wichtigste Neuerung betrifft die Elternbenachrichtigungen. Wenn ein Jugendlicher in Chats mit Meta AI Andeutungen macht oder direkt darüber spricht, sich selbst zu verletzen oder Suizid in Erwägung zu ziehen, schlägt das System Alarm. Die künstliche Intelligenz, die speziell für das Erkennen feiner Nuancen und subtiler Formulierungen trainiert wurde, filtert diese Gespräche heraus. Bevor jedoch eine Benachrichtigung an die Erziehungsberechtigten rausgeht, werden die geflaggten Chats manuell von Mitarbeitern überprüft, um Fehlalarme zu minimieren. Im Zweifel entscheidet das System jedoch zum Schutz des Jugendlichen und warnt die Eltern.
Voraussetzung für diese Warnungen ist, dass die Aufsichtsfunktionen auf Instagram aktiv geschaltet sind. Die Warnmeldungen werden ab sofort in den USA, Großbritannien, Kanada und Australien ausgerollt und sollen bis Ende des Jahres weltweit zur Verfügung stehen. Sie ergänzen das bereits bestehende System, das Eltern informiert, wenn Jugendliche wiederholt auf Instagram nach Begriffen rund um Selbstverletzung suchen.
Flankierend zu den Eltern-Warnungen arbeitet Meta an einem System, das im Ernstfall direkt die Rettungsdienste alarmiert. Sollte eine Unterhaltung mit Meta AI darauf hindeuten, dass eine Person, egal ob Jugendlicher oder Erwachsener, in unmittelbarer Lebensgefahr schwebt, soll automatisch Hilfe verständigt werden können. Um das Verhalten der KI in solchen Krisensituationen zu optimieren, hat Meta Feedback von mehr als 75 medizinischen Fachkräften und Experten für Jugendpsychologie eingeholt. Die Antworten der KI sollen dadurch einfühlsamer gestaltet werden, anstatt die Konversation bei sensiblen Themen einfach abrupt abzublocken.
Zusätzlich weitet Meta die Filteroptionen aus: Wenn Eltern in den Instagram-Aufsichtsfunktionen die strengere Einstellung für eingeschränkte Inhalte (Limited Content) für das Profil ihres Kindes aktivieren, gilt diese Einschränkung ab sofort automatisch auch für die Unterhaltungen mit Meta AI. Der Chat-Assistent weigert sich dann bei einer noch breiteren Palette an potenziell sensiblen Themen, überhaupt eine Antwort zu generieren.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.