Beim täglichen Umgang mit KI-Systemen wie Gemini zeigt sich hier und da, dass die Gespräche mit der KI auch mal weg von sachlichen Fragen, hin zu persönlichen Themen driften können. Professionelle Unterstützung wäre da aber eigentlich die bessere Alternative. Google hat das offenbar ernst genommen und ein umfassendes Update veröffentlicht, das den Umgang von Gemini mit psychischen Krisen neu regelt.
Die sichtbarste Neuerung zeigt sich direkt in der Benutzeroberfläche. Erkennt Gemini im Verlauf eines Gesprächs, dass jemand nach Unterstützung im Bereich psychischer Gesundheit sucht, erscheint ein neu gestaltetes Modul mit dem Hinweis, dass Hilfe verfügbar ist. Sobald das System konkrete Hinweise auf Suizidgedanken oder Selbstverletzung erkennt, schaltet sich eine sogenannte One-Touch-Schnittstelle ein. Der normale Chatfluss wird dann unterbrochen, und der Nutzer bekommt direkten Zugang zu Krisenhotlines – per Anruf, SMS oder Web-Chat. Gut gelöst: Diese Option verschwindet nicht wieder. Wer einmal diese Notfalloberfläche angeboten bekommt, hat die Kontaktmöglichkeiten für den Rest der Sitzung dauerhaft vor Augen.
Parallel dazu hat Google auch das Training der zugrundeliegenden Sprachmodelle überarbeitet. Gemini soll keine klinischen Diagnosen stellen, keine Therapien simulieren und schon gar keine Krisenintervention ersetzen. Konkret bedeutet das: Die KI stimmt subjektiven oder wahnhaften Überzeugungen nicht zu, sondern verweist auf Fakten. Antworten, die destruktive Verhaltensweisen auch nur indirekt bestätigen könnten, sind aus dem Modell wohl regelrecht heraustrainiert worden.
Für minderjährige Nutzer gelten zusätzlich noch schärfere Regeln. Gemini darf in Profilen von Jugendlichen keine menschlichen Eigenschaften simulieren oder so tun, als wäre es eine echte Person. Sprache, die Intimität vortäuscht oder emotionale Abhängigkeit fördern könnte, ist blockiert. Auch Filter gegen Mobbing und Belästigung wurden ausgeweitet. Schon schlimm auch, dass solche – natürlich richtigen – Schritte überhaupt nötig sind, aber die KI ist für viele heute eben nicht mehr einfach nur noch ein nützliches Werkzeug, sondern vielmehr Alltagsbegleiter.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.