OpenAI – Logo des Unternehmens
OpenAI hat bestätigt, dass man ein Tool in der Hinterhand hält, um mit ChatGPT erstellte Texte mit versteckten Wasserzeichen zu versehen. Das könnte dann etwa in Schulen und Universitäten helfen, mit ChatGPT erstellte Hausaufgaben / Hausarbeiten zu erkennen. Allerdings zögert das Unternehmen damit, die Software zu veröffentlichen.
OpenAI hat deswegen einen älteren Blog-Post aus dem Mai 2024 aktualisiert und Einblicke in seine Entscheidungsprozesse geliefert. So könne man zwar recht verlässliche Wasserzeichen für mit ChatGPT erstellte Texte liefern, allerdings sei das Ganze immer noch anfällig für Fehler. Würden die Texte etwa durch einen Übersetzer oder eine weitere generative KI gejagt, funktioniere das Schema nicht mehr zuverlässig. Selbiges gelte auch, wenn jemand sich eines einfachen Tricks bediene und die KI etwa bitte, nach jedem Wort ein bestimmtes Zeichen wie einen Doppelpunkt einzufügen und dies später wieder entferne.
Ebenfalls befürchtet OpenAI, dass solche Wasserzeichen am Ende die Falschen treffen könnten. Beispielsweise nutzen oft Fremdsprachler generative KI, um bei der Verfassung von Texten eine Hilfe zu haben. Der Einsatz von Wasserzeichen könnte diese Verwendung stigmatisieren. Deswegen gibt OpenAI an, dass man sich aktuell auf Authentifikations-Tools für audiovisuelle Inhalte fokussiere.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.