Meta hat eine Überarbeitung seiner Richtlinien für KI-generierte Inhalte auf den Plattformen Instagram, Facebook und Threads angekündigt, die schon im kommenden Mai in Kraft treten soll. Die neuen Richtlinien erweitern den Geltungsbereich von Inhalten, die als „Made with AI“ gekennzeichnet sind, um der zunehmenden Vielfalt und Realitätsnähe von KI-generierten Audio-, Video- und Bildinhalten Rechnung zu tragen. Diese Kennzeichnung gilt für Inhalte, die entweder von den Nutzern selbst gemeldet oder von Meta anhand nicht näher spezifizierter „branchenüblicher KI-Bildindikatoren“ erkannt werden.
Damit wird eine Richtlinie aus dem Jahr 2020 aktualisiert, die sich hauptsächlich auf Videos bezog, die von KI manipuliert wurden, um den Eindruck zu erwecken, dass Personen Dinge gesagt haben, die sie nicht gesagt haben. Da die Fortschritte in der KI-Technologie jedoch immer ausgefeiltere und vielfältigere Inhalte hervorbringen, hat Meta die Notwendigkeit einer umfassenderen Abdeckung erkannt.
Die überarbeitete Richtlinie von Meta sieht vor, dass manipulierte Medien, die nicht gegen die Gemeinschaftsstandards verstoßen, gekennzeichnet werden, anstatt sie zu entfernen. Diese Kennzeichnungen, wie z.B. „Made with AI“, werden KI-generierte Inhalte auf allen Plattformen kennzeichnen und den Nutzern einen klaren Kontext bieten. Dieser Ansatz wird durch eine globale Überprüfung der Politik unterstützt, die öffentliche Umfragen und Konsultationen mit Interessengruppen aus verschiedenen Bereichen, einschließlich Wissenschaftlern und Organisationen der Zivilgesellschaft, umfasst. Das Feedback von mehr als 120 Stakeholdern aus 34 Ländern und von mehr als 23.000 Teilnehmern an öffentlichen Meinungsumfragen hat wesentlich zur Entwicklung der neuen Strategie beigetragen. Eine deutliche Mehrheit befürwortet die Verwendung von Warnhinweisen, insbesondere für KI-generierte Inhalte, die Zuschauer/innen erheblich in die Irre führen könnten.
Basierend auf den Erkenntnissen des Oversight Board wird Meta auch seine Verfahren zur Moderation von Inhalten anpassen. Ab Juli werden KI-generierte Inhalte, die nicht gegen andere Community-Standards verstoßen, nicht mehr entfernt. Stattdessen wird der Schwerpunkt auf die Kontextualisierung solcher Inhalte verlagert, während Verstöße gegen Mobbing, Wählerbeeinflussung und Belästigung weiterhin entfernt werden. Diese Aktualisierung der Richtlinien spiegelt einen differenzierten Ansatz zur Bewältigung der Herausforderungen und Auswirkungen der aufkommenden KI-Technologien bei der Erstellung digitaler Inhalte wider.
Darüber hinaus wird Meta weiterhin mit Partnern aus der Industrie zusammenarbeiten, um gemeinsame Standards für die Kennzeichnung von KI-Inhalten zu entwickeln, und den Dialog mit Regierungs- und Nichtregierungsorganisationen fortsetzen. Das Unternehmen unterhält außerdem ein Netzwerk von fast 100 unabhängigen Faktenprüfern, um die Verbreitung falscher und irreführender KI-Inhalte zu überprüfen und einzudämmen. Anzeigen, die solche Inhalte enthalten, werden abgelehnt, und für politisch oder gesellschaftlich relevante Anzeigen, die digital verändert werden, wird Transparenz gefordert.