Schönere Fotos, verfälschte Daten: KI als Problem für Citizen S …

Schönere Fotos, verfälschte Daten: KI als Problem für Citizen Science Projekte

Eine kürzlich veröffentliche Correspondence im Fachmagazin Nature warnt vor der Verbreitung von KI-bearbeiteten Bildern auf Citizen Science Plattformen. Die Autor:innen des Artikels, darunter Mitarbeitende des Cornell Lab of Ornithology und von iNaturalist, haben Fotos auf grossen Vogelbeobachtungsplattformen sowie auf iNaturalist untersucht. Dabei wurden mehrere hundert KI-generierte Fotos entdeckt. Aufmerksame Moderator:innen erkannten die entsprechenden Beiträge und entfernten sie von den Plattformen. Die Dunkelziffer nicht erkannter KI-generierter Inhalte dürfte jedoch deutlich höher liegen.

Gut gemeinter Einsatz von KI zur Bildoptimierung
Ein vermutlich weitaus häufigeres Problem entsteht durch die gut gemeinte „Verbesserung“ selbst aufgenommener Naturfotos. So kann beispielsweise eine KI eingesetzt werden, um ein Bild nachzuschärfen oder einen Zweig zu entfernen, der einen Teil eines Vogels verdeckt. Der Algorithmus kann dabei jedoch Bildbereiche rekonstruieren, für die keine eindeutigen Informationen vorliegen. Im ungünstigsten Fall ergänzt er Merkmale, die aus Aufnahmen einer anderen Vogelart stammen. So können wichtige Bestimmungsmerkmale einer Art unbemerkt verändert, ergänzt oder entfernt werden. Dies kann wiederum zu einer Fehlbestimmung führen. Solche Veränderungen geschehen meist ohne böswillige Absicht der Melder:innen. Für Laien sieht das bearbeitete Foto lediglich ästhetisch ansprechender aus. Problematisch ist jedoch, dass solche mit KI veränderte Fotos für die wissenschaftliche Auswertung eine verfälschte Datengrundlage darstellen. Citizen Science Plattformen arbeiten noch daran, das Ausmass des Problems zu erfassen. Die Forschenden appellieren deshalb, den Einsatz von KI bei der Bearbeitung von Bildern, die für wissenschaftliche Datenbanken bestimmt sind, einzuschränken.

Warum die Beiträge von Bedeutung sind
Die Beispiele aus der Vogelbeobachtung machen deutlich, welche Folgen die Manipulation von Fotos durch KI für die wissenschaftliche Nutzung von Citizen Science Daten haben kann. Die Beiträge auf Birding Plattformen zeigen ein kleines, konkretes Beispiel für ein umfassenderes Muster: KI generierte Inhalte können nicht nur für Verwirrung sorgen, sondern tatsächlich zu einem messbaren Verlust an wissenschaftlicher Genauigkeit führen. Die Identifizierung und Beseitigung solcher Fehler können Jahre dauern.

Das ist insbesondere deshalb relevant, weil Citizen Science Projekte in be­trächtlichem Mass zur Biodiversitätsforschung beitragen. Viele Forschungsprojekte nutzen Citizen Science bei qualitativen Erhebungen zur Artenvielfalt und quantita­tivem Monitoring, sowohl überregional (z.B. iNatura­list) als auch regional (z.B. StadtWildTiere und Wilde Nachbarn). Die Beobachtungen von Millionen Menschen werden auf Plattformen zusammengetragen und für Verbreitungskarten genutzt. Citizen Science ermöglicht eine grosse räumliche und zeitliche Abdeckung und gewährt Zugang zu Privatgrundstücken über die Teilnehmenden. Darüber hinaus erhalten Forschende Zugriff auf lokales Wissen und individuelle Expertise. Das ist ein grosser Vorteil. In grossen Datensätzen können sich Fehler durch verfälschte Beobachtungen jedoch leicht summieren und so wissenschaftliche Auswertungen und daraus abgeleitete Schlussfolgerungen beeinflussen.

Umgang mit KI in Citizen Science Projekten
Der Umgang mit KI wird deshalb zu einer zentralen Frage für die Zukunft von Citizen Science Projekten. Klare Regeln zur Nutzung und Kennzeichnung von KI sind notwendig, um die Integrität wissenschaftlich genutzter Daten zu gewährleisten. Melder:innen sollten darauf verzichten, Fotos mit Hilfe einer KI zu bearbeiten, um unentdeckte Fehler zu vermeiden. Technische Verfahren wie digitale Wasserzeichen könnten in Zukunft dabei helfen, KI-generierte oder KI-bearbeitete Inhalte zu erkennen. Eine solche automatische Identifikation ist bislang jedoch noch unzuverlässig, da Wasserzeichen bei der Komprimierung von Bildern, Videos und Audios oder bei der Aufnahme von Screenshots zerstört werden können. Deshalb ist es besonders wichtig, dass Melder:innen auf den Einsatz von KI zur Bildbearbeitung verzichten und allfällige KI-Nutzung transparent angeben. Nur so können Citizen Science Daten verlässlich wissenschaftlich genutzt werden. Bei der Nutzung von Meldeplattformen geht es nicht um ästhetische Naturfotos, sondern vor allem um die Dokumentation echter Beobachtungen.