Vertrauen in fachgetriebene Ad-hoc-KI-Lösungen - TrustAdHocAI (TAHAI)

Forschungsprojekt

Im Mittelpunkt des vom IFAF Berlin geförderten Projektes TAHAI stehen fachliche Anwendungsszenarien (Sicht der Endanwender), die mit Hilfe von Ansätzen einer „schwachen“ Künstlichen Intelligenz (kurz KI) weitergehend untersucht werden sollen. Im Kern wird es sich bei den einzusetzenden KI-Algorithmen um Klassifikationen, Prognosen oder auch Text- beziehungsweise Bild- und Mustererkennungen handeln.

Bewusst sollen für die Untersuchungen Anwendungsszenarien aus unterschiedlichen Fachdomänen herangezogen werden, um so Mehrwertpotentiale, Synergien und Skillbedürfnisse hinsichtlich unterschiedlicher Einsatzbereiche erkennen zu können. Die einzusetzenden KI-Algorithmen sollen von potentiellen Anbietern als fertige API-Service aus der Cloud (kurz KI-Web-APIs) bezogen werden.

Dem entsprechend handelt es sich um vordefinierte zumeist aber dennoch trainierbare KI-Modelle. Mit Hilfe dieser ad hoc einsetzbaren Services, sollen prototypische Tests (im Sinne des experimentellen Software Engineerings) fachlicher Anwendungsszenarien durchgeführt werden. Korrespondierende Tests implizieren den Bedarf einer softwaretechnischen Umsetzung, im Detail handelt es sich dabei um die Integration zu verarbeitender Rohdaten, einzusetzender KI-Web-APIs, zu implementierender Analysesteuerungen, Komponenten zur Darstellung und Visualisierung oder auch von zu unterstützenden Schnittstellen für eine potentielle Weiterverarbeitung der gewonnenen Analyseergebnisse.

Auf der Basis einführender Quellenrecherchen, empirischer Untersuchungen und kontrollierter Experimente (Tests) sollen Erkenntnisse im Zusammenhang mit den folgenden Sachverhalten gewonnen werden:

  • Anforderungen an die Auswahl und Verwendung von KI-Web-APIs.
  • Anforderungen an mögliche Datenquellen beziehungsweise das Datenmanagement.
  • Automatische Tests von KI-Web-APIs bezüglich Robustheit und Prädiktionsqualität.
  • Implikationen bezüglich rechtlicher und ethischer Aspekte.
  • Implikationen hinsichtlich der benötigten Engineering-Prozesse.
  • Bewertung, Validierung und gegebenenfalls Zertifizierung konkreter KI-Lösungen.
  • Ansätze zur Bewertung des Aufwands- und Nutzenverhältnisses.

Die fachübergreifende und interdisziplinäre Betrachtung von prototypisch eingesetzter KI-Lösungen soll letztendlich die Grundlage für eine mögliche Bewertung der Vertrauenswürdigkeit entsprechender Lösungen schaffen. Dabei soll auch auf Grenzen einer solchen Bewertung eingegangen werden, die gegebenenfalls nur auf der Grundlage einer Risikobetrachtung erfasst werden können.

Projektlaufzeit

01.04.2023 - 31.03.2025

Projektleitung

Projektmitarbeiter_innen

Mittelgeber

Land IFAF

Kooperationspartner

  • Hochschule für Wirtschaft und Recht Berlin (HWR)
  • AURISCON GmbH
  • Bundes-Arbeitsgemeinschaft für Familien-Mediation e. V.
  • DB Station&Service AG
  • Landesforstamt Berlin
  • Fraunhofer IESE - Smart Digital Solutions (Wissenschaftlicher Partner)

Förderprogramme

IFAF VERBUND

Homepage

https://www.ifaf-berlin.de/projekte/tahai/