beaktiv.com

Meta führt neue Sicherheitswerkzeuge ein, um Jugendliche im Umgang mit dem hauseigenen KI-Assistenten Meta AI besser zu schützen. Der Fokus liegt dabei auf dem sensiblen Umgang mit Themen wie Suizid und Selbstverletzung.

Die wichtigste Neuerung betrifft die Elternbenachrichtigungen. Wenn ein Jugendlicher in Chats mit Meta AI Andeutungen macht oder direkt darüber spricht, sich selbst zu verletzen oder Suizid in Erwägung zu ziehen, schlägt das System Alarm. Die künstliche Intelligenz, die speziell für das Erkennen feiner Nuancen und subtiler Formulierungen trainiert wurde, filtert diese Gespräche heraus. Bevor jedoch eine Benachrichtigung an die Erziehungsberechtigten rausgeht, werden die geflaggten Chats manuell von Mitarbeitern überprüft, um Fehlalarme zu minimieren. Im Zweifel entscheidet das System jedoch zum Schutz des Jugendlichen und warnt die Eltern.

Voraussetzung für diese Warnungen ist, dass die Aufsichtsfunktionen auf Instagram aktiv geschaltet sind. Die Warnmeldungen werden ab sofort in den USA, Großbritannien, Kanada und Australien ausgerollt und sollen bis Ende des Jahres weltweit zur Verfügung stehen. Sie ergänzen das bereits bestehende System, das Eltern informiert, wenn Jugendliche wiederholt auf Instagram nach Begriffen rund um Selbstverletzung suchen.

Flankierend zu den Eltern-Warnungen arbeitet Meta an einem System, das im Ernstfall direkt die Rettungsdienste alarmiert. Sollte eine Unterhaltung mit Meta AI darauf hindeuten, dass eine Person, egal ob Jugendlicher oder Erwachsener, in unmittelbarer Lebensgefahr schwebt, soll automatisch Hilfe verständigt werden können. Um das Verhalten der KI in solchen Krisensituationen zu optimieren, hat Meta Feedback von mehr als 75 medizinischen Fachkräften und Experten für Jugendpsychologie eingeholt. Die Antworten der KI sollen dadurch einfühlsamer gestaltet werden, anstatt die Konversation bei sensiblen Themen einfach abrupt abzublocken.

Zusätzlich weitet Meta die Filteroptionen aus: Wenn Eltern in den Instagram-Aufsichtsfunktionen die strengere Einstellung für eingeschränkte Inhalte (Limited Content) für das Profil ihres Kindes aktivieren, gilt diese Einschränkung ab sofort automatisch auch für die Unterhaltungen mit Meta AI. Der Chat-Assistent weigert sich dann bei einer noch breiteren Palette an potenziell sensiblen Themen, überhaupt eine Antwort zu generieren.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.

Der Messenger Signal verpasst seiner App ein neues Update für iOS und Android. Mit im Gepäck ist eine ziemlich praktische Funktion für alle, die viele Gruppenchats verwalten und dort aufräumen wollen.

Gruppen-Admins bekommen ab sofort in den Gruppeneinstellungen die neue Option „Gruppe beenden“ an die Hand. Damit lassen sich alte oder nicht mehr benötigte Gruppenchats quasi stilllegen. Sobald ein Admin diese Funktion nutzt, wird der Chat für alle Beteiligten eingefroren: Gruppenmitglieder können dann keine neuen Nachrichten mehr in den Chat schreiben, keine Anrufe mehr innerhalb der Gruppe starten und auch keine neuen Mitglieder mehr über Einladungen hinzufügen.

Die Funktion eignet sich perfekt, um nach dem Abschluss temporärer Projekte, wie der Urlaubsplanung oder dem gemeinsamen Geschenkekauf im Freundeskreis,für klare Verhältnisse zu sorgen, ohne dass jeder mühsam einzeln aus der Gruppe austreten muss.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.