Künstliche Intelligenz – eine Frage des Vertrauens? (Podcast)

Können wir den Lösungen oder Aussagen einer Künstlichen Intelligenz vertrauen? Und wie können wir sicherstellen, dass sie in unserem Interesse und im Einklang mit unseren Werten handelt?

Künstliche Intelligenz – Eine Frage des Vertrauens?

Darüber spricht Moderator Leon Stebe in der neuen Folge „Künstliche Intelligenz – Eine Frage des Vertrauens“ des Wissenspodcasts „Neuland“ mit Professor Bert Arnrich, Leiter des Fachbereichs Digital Health – Connected Healthcare am Hasso-Plattner-Institut (HPI) und Orhan Konak, Doktorand und Wissenschaftlicher Mitarbeiter am Lehrstuhl sowie Mitarbeiter am EU-Projekt WideHealth.

Künstliche Intelligenz ist auf Mustererkennung spezialisiert und birgt daher großes Potenzial für das Gesundheitswesen

Beispielsweise um Krankheiten schneller zu erkennen und Befunde zu analysieren. Bereits heute ist die KI Ärzt:innen dabei in Genauigkeit und Geschwindigkeit manchmal überlegen. „Der Grund dafür ist häufig, dass diese KI-Systeme mit Millionen von Patientendaten trainiert worden sind – so vielen, wie ein Arzt in seinem ganzen Leben nicht zu Gesicht bekommt,“ erklärt Professor Arnrich. Die Verantwortung über die vorgeschlagenen Diagnosen der KI tragen jedoch weiterhin die Ärzt:innen. Um in solchen Fällen der Aussage der KI vertrauen zu können, ist es wichtig, dass die Ärzt:innen nachvollziehen können, wie die KI zu ihrer Diagnose kommt.

„Explainable AI“ heißt dieses Konzept, das KI – nicht nur im Gesundheitswesen sondern in all seinen Anwendungsgebieten – transparent und nachvollziehbar und damit vertrauenswürdig machen soll. „Das System soll uns, wenn es beispielsweise ein Bild bekommt, nicht nur sagen, was es darauf erkennt, sondern es soll uns zeigen, welche Bereiche des Bildes wichtig waren, um diese Entscheidung zu treffen,“ so Prof. Arnrich. Ein Sichtbarmachen des Entscheidungsprozesses hilft uns, zu prüfen, ob wir dem Ergebnis vertrauen können.

Um das Bewusstsein dafür zu schärfen, warum vertrauenswürdige KI wichtig ist und wie sie möglich wird, veranstaltet das HPI vom 14.-17.03. die WideHealth Winter School on Trustworthy AI. Die Registrierung für die Veranstaltung, in denen es in Vorträgen und Übungen rund um das Thema KI und Vertrauen geht, ist kostenlos möglich unter https://widehealth.eu/widehealth-winter-school-on-trustworthy-ai/.

Fundiertes Wissen über die digitale Welt, anschaulich und verständlich erklärt – das bietet der Wissenspodcast „Neuland“ mit Experten des Hasso-Plattner-Instituts (HPI) unter: https://podcast.hpi.de, bei iTunes und Spotify. Einmal im Monat sprechen sie bei Neuland über aktuelle und gesellschaftlich relevante Digitalthemen, ihre Forschungsarbeit und über Chancen und Herausforderungen digitaler Trends und Entwicklungen.

Lesen Sie auch: Dieses Überwachungsvideo stammte nicht aus Berlin