Mehr Tiefgang für die KI: So forscht Sachsen an Chancen und Grenzen

Die Aufgabe ist gewaltig. Unter Wasser liegen tausende Quadratmeter Beton. Staumauern sichern die Wasserreserven, die für die Trinkwasserversorgung gebraucht werden. Sie helfen bei Hochwasser und in Trockenzeiten. Ihr Zustand muss deshalb regelmäßig geprüft werden. Dafür tauchen speziell geschulte Experten ab und suchen die Mauern nach Rissen und anderen Schäden ab. Das ist zeitaufwendig. „Die Arbeit ist anstrengend und lässt sich nicht unbegrenzt durchführen“, erklärt Thomas Grab vom Scientific Diving Center der TU Bergakademie Freiberg (TUBAF). Aber eine Staumauer für eine Prüfung einfach trockenzulegen, das funktioniert nicht.

Deshalb entwickeln Forschende um Grab an der TUBAF einen neuen Ansatz. In Zukunft sollen Tauchroboter Teile der Arbeit übernehmen. Im Projekt SUBMARINE fährt der Roboter an der Staumauer entlang und nimmt ihre Oberfläche auf. Schon während des Tauchgangs analysiert eine eigens trainierte KI die Aufnahmen und sucht nach Rissen und Schäden. Aus den Bildern entsteht später ein 3D-Modell, in dem die gefundenen Problemstellen markiert sind.

Die menschliche Prüfung von Staumauern oder auch Brückenpfeilern soll das nicht ersetzen. Aber das Modell zeigt, wo Taucher genauer hinschauen müssen. Statt die komplette Wand abzusuchen, konzentrieren sie sich auf verdächtige Bereiche. Das spart Zeit und Geld. Und könnte in Zukunft sogar noch mehr bewirken. „In der Zeit, die heute für ein Bauwerk nötig ist, könnten wir künftig drei bis vier prüfen“, sagt Richard Gruhn, wissenschaftlicher Mitarbeiter im Projekt.

Eine Entwicklung im Eiltempo

Auch KI wird nicht jeden Schaden finden. „Wir werden nie dazu kommen, dass wir jede Wahrscheinlichkeit abdecken und jedes Problem erkennen“, sagt Thomas Grab. Das sei heute genauso wenig möglich wie später mit KI. Doch die Technik bietet ein Werkzeug, das Prüfungen verbessern und effizienter gestalten kann. 

Grab beschäftigt aber noch etwas anderes. Er erlebt an der Universität, wie schnell KI inzwischen überall Einzug hält. Sie verändert die Forschung und den Alltag der Menschen grundlegend. „Es geht so schnell, dass es schwerfällt, Schritt zu halten“, sagt er. Gleichzeitig beobachtet er, wie selbstverständlich sich Menschen auf die Technik verlassen. „Dieses blinde Vertrauen, das   ist eine Gefahr.“ 

Mit seiner Sorge ist er nicht allein. Aktuell wird viel darüber diskutiert, ob die Entwicklung leistungsfähiger KI-Systeme zu schnell voranschreitet. Dario Amodei, Chef des US-Unternehmens Anthropic, das mit Claude eines der bekanntesten KI-Sprachmodelle entwickelt, forderte Mitte September, die Entwicklung besonders leistungsfähiger Modelle zu verlangsamen. Er möchte damit mehr Zeit für Sicherheitsmaßnahmen und unabhängige Kontrollen gewinnen.

Seine Forderung ist umstritten. Während einige in der KI-Branche mehr Vorsicht unterstützen, warnen Kritiker davor, die Entwicklung zu bremsen.

Die Probleme von heute

Michael Färber hat die jüngsten Meldungen aus der KI-Branche aufmerksam verfolgt. Überrascht haben sie ihn nicht. Der Professor an der TU Dresden forscht am ScaDS.AI, einem Forschungszentrum für Künstliche Intelligenz in Dresden und Leipzig. Er arbeitet unter anderem daran, KI-Systeme verlässlicher zu machen. Bei Berichten über Systeme, die die Menschheit bedrohen, lenkt er den Blick auf naheliegendere Probleme. „Wir sollten uns auf die aktuellen Herausforderungen konzentrieren“, sagt Färber.

Dazu gehören die bekannten Schwächen von Sprachmodellen. Sie können falsche Antworten geben, Quellen erfinden und trotzdem überzeugend klingen. Besonders schwer fällt ihnen, etwas zu erkennen, das für Menschen selbstverständlich ist – zu wissen, wann sie etwas nicht wissen. „Das lässt sich erstaunlich schlecht ins Modell integrieren“, erklärt der Wissenschaftler.

Michael Färber ist Professor an der TU Dresden und forscht zum Thema KI. © TUD

Genau daran arbeitet er. Färber untersucht, wie sich Aussagen eines Sprachmodells mit überprüfbaren Quellen verknüpfen lassen. Informationen sollen möglichst schon beim Training an die Dokumente gebunden werden, aus denen sie stammen. Dieser Verweis soll auch bestehen bleiben, wenn das fertige Modell später Antworten erzeugt. Wie das zuverlässig gelingt, ist Gegenstand seiner Forschung.

Probleme entstehen aber nicht erst, wenn eine KI falsche Antworten gibt. Zunehmend übernehmen KI-Agenten selbst Aufgaben. Sie greifen etwa in Unternehmen auf Programme und Dokumente zu. Dann kann ein Fehler schwerwiegende Folgen haben. Färber nennt als Beispiel einen Agenten, der Dokumente löscht oder falsch ablegt. 

Deshalb beginnt Sicherheit für ihn bei einfachen Fragen. Welche Rechte bekommt ein KI-System? Auf welche Daten darf es zugreifen? Was darf es selbstständig verändern? Hinzu kommen Schutzsysteme, die prüfen, welche Absicht hinter einer Anfrage steckt und ob sie beantwortet werden darf. Solche Risiken seien schon heute real. „Dafür braucht es jetzt keine große KI.“

Wenn das Echte unter Verdacht steht

Mit den Fortschritten der KI werden auch Deepfakes immer schwerer erkennbar. Künstlich erzeugte Bilder und Videos sind inzwischen so gut, dass längst nicht mehr nur die Fälschung selbst zum Problem wird. Auch echte Aufnahmen geraten in Verdacht.

Alexander Godulla verfolgt diese Entwicklung. Als er Anfang der 2020er-Jahre mit der Deepfake-Forschung begann, ließen sich viele Fälschungen noch leicht entlarven. Der Professor für Empirische Kommunikations- und Medienforschung an der Universität Leipzig erinnert sich an frühe Anwendungen, bei denen Menschen etwa ihr Gesicht mit dem ihres Hundes tauschten. „Das sah halt miserabel aus“, sagt er. Dann ging es schnell. Bei Bildern aus den Jahren 2022 und 2023 sei der Qualitätssprung so groß gewesen, dass er eher wie die Entwicklung eines Jahrzehnts gewirkt habe.

Wie schnell die Technik im Alltag ankommt, zeigen zwei Befragungen, die Godulla und sein Kollege Christian P. Hoffmann, Professor für Kommunikationsmanagement an der Universität Leipzig, durchführten. 2022 gaben noch gut drei Viertel der Befragten an, nie bewusst Kontakt mit einem Deepfake gehabt zu haben. 2025 waren es nur noch rund 27 Prozent. An der jüngsten Befragung nahmen nach der Datenbereinigung 1.297 Internetnutzer in Deutschland teil. Die Stichprobe entsprach der Bevölkerung nach Alter, Geschlecht und Bundesland. Nur etwa ein Viertel traut sich zu, einen Deepfake mit bloßem Auge zu erkennen.  

Beschäftigt sich schon länger mit der Wirkung von Deepfakes: Alexander Godulla, Professor für Empirische Kommunikations- und Medienforschung an der Universität Leipzig. © Daniel Bendahan Bitton/Universität Leipzig

Die Skepsis der Menschen bekommt auch Godulla zu spüren. Vor einiger Zeit erschien auf YouTube ein echtes Interview mit ihm. Darunter schrieb jemand, es könne schließlich auch ein Deepfake sein. „Der gesellschaftliche Zweifel vertieft sich“, sagt er. Seine Forschung zeigt: Je besser Menschen über Deepfakes Bescheid wissen, desto geringer kann ihr Medienvertrauen werden. „Man beginnt halt irgendwann überall Deepfakes zu wittern, selbst wenn gar keine da sind.“ 

Das Auge hilft irgendwann nicht mehr. Ein gut gemachtes Deepfake kann ein Mensch nicht vom Original unterscheiden, sagt Godulla. Dann zählt die Herkunft einer Aufnahme. Bei professionellen Bildern können technische Zertifikate beispielsweise belegen, mit welcher Kamera sie aufgenommen wurden. Und bei Nachrichten wird wichtiger, ob hinter einem Bild eine Redaktion steht, die dessen Herkunft geprüft hat.  

Doch auch die beste Prüfung nützt wenig, wenn Menschen vor allem das glauben und weitergeben, was zu ihrer eigenen Sicht passt. Der Forscher rät deshalb zu mehr Zurückhaltung. „Wir müssen alle ein bisschen bescheidener werden mit unseren Urteilen, uns unsere Grenzen klarmachen und uns verdeutlichen: Nur weil wir etwas glauben wollen, ist es noch lange nicht wahr.“