Vertrauenswürdige Künstliche Intelligenz
Prof. Dr. Ute Schmid
online
Beginn 20:15 Uhr
Am nächsten Donnerstag, den 19. September (ab 20.15 Uhr), lädt der HVD Bayern wieder herzlich zu seinem Online-Format "Humanistischer Campus" ein.
Vertrauenswürdige Künstliche Intelligenz
Wissens-informiertes, nachvollziehbares und korrigierbares maschinelles Lernen
Die großen Fortschritte bei der Entwicklung von leistungsstarken Methoden der Künstlichen Intelligenz, insbesondere in den Bereichen Deep Learning und Generative KI, eröffnen ein breites Spektrum von Anwendungsmöglichkeiten in vielen Bereichen von Medizin über Industrie bis Bildung. Insbesondere, wenn KI-Systeme in kritische Entscheidungen involviert sind, ist es unverzichtbar, dass sie vertrauenswürdig sind. Im Rahmen des EU AI Acts werden sieben Anforderungen an Vertrauenswürdigkeit definiert: Vorrang menschlichen Handelns und menschliche Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Qualitätsmanagement, Transparenz und Nachvollziehbarkeit, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht. Im Vortrag wird aufgezeigt, wie eine Auswahl dieser Kriterien durch die Entwicklung neuer Methoden für partnerschaftliche KI-Systeme adressiert werden können. Hierzu gehören Ansätze der erklärbaren KI, interaktives Lernen für Modellrevision sowie die Einbeziehung von menschlichem Wissen in datengetriebene Ansätze des maschinellen Lernens.
Prof. Dr. Ute Schmid ist Inhaberin des Lehrstuhls für Kognitive Systeme an der Universität Bamberg und geschäftsführende Direktorin des Bamberger Zentrums für KI (BaCAI). Seit mehr als 20 Jahren forscht und lehrt sie im Bereich Künstliche Intelligenz. Sie ist Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation (bidt) und Mitglied im Bayerischen KI-Rat. Seit vielen Jahren engagiert sie sich für Frauen in der Informatik und hat für ihre Universität den Minerva Gender Equality Award der Informatics Europe gewonnen. Zudem engagiert sie sich in der Vermittlung von Informatik- und KI-Kompetenzen für Kinder, Jugendliche und die breite Öffentlichkeit und wurde hierfür mit dem Rainer-Markgraf-Preis ausgezeichnet.
Vertrauenswürdige Künstliche Intelligenz
Wissens-informiertes, nachvollziehbares und korrigierbares maschinelles Lernen
Die großen Fortschritte bei der Entwicklung von leistungsstarken Methoden der Künstlichen Intelligenz, insbesondere in den Bereichen Deep Learning und Generative KI, eröffnen ein breites Spektrum von Anwendungsmöglichkeiten in vielen Bereichen von Medizin über Industrie bis Bildung. Insbesondere, wenn KI-Systeme in kritische Entscheidungen involviert sind, ist es unverzichtbar, dass sie vertrauenswürdig sind. Im Rahmen des EU AI Acts werden sieben Anforderungen an Vertrauenswürdigkeit definiert: Vorrang menschlichen Handelns und menschliche Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Qualitätsmanagement, Transparenz und Nachvollziehbarkeit, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht. Im Vortrag wird aufgezeigt, wie eine Auswahl dieser Kriterien durch die Entwicklung neuer Methoden für partnerschaftliche KI-Systeme adressiert werden können. Hierzu gehören Ansätze der erklärbaren KI, interaktives Lernen für Modellrevision sowie die Einbeziehung von menschlichem Wissen in datengetriebene Ansätze des maschinellen Lernens.
Prof. Dr. Ute Schmid ist Inhaberin des Lehrstuhls für Kognitive Systeme an der Universität Bamberg und geschäftsführende Direktorin des Bamberger Zentrums für KI (BaCAI). Seit mehr als 20 Jahren forscht und lehrt sie im Bereich Künstliche Intelligenz. Sie ist Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation (bidt) und Mitglied im Bayerischen KI-Rat. Seit vielen Jahren engagiert sie sich für Frauen in der Informatik und hat für ihre Universität den Minerva Gender Equality Award der Informatics Europe gewonnen. Zudem engagiert sie sich in der Vermittlung von Informatik- und KI-Kompetenzen für Kinder, Jugendliche und die breite Öffentlichkeit und wurde hierfür mit dem Rainer-Markgraf-Preis ausgezeichnet.
19.09.2024
Views: 5
