Projekt 1023: Prüfkriterien für Reinforcement Learning (RL-Criteria)

Oficiali santrauka · Deutsch

Kas perkama?

Das Projekt erarbeitet einen Katalog von Anforderungen, die der Bewertung der Sicherheit und Vertrauenswürdigkeit von Reinforcement Learning nutzenden KI-Anwendungen dienen. Die Anforderungen haben das Ziel, ein möglichst breites Spektrum an Anwendungen abzudecken. Dabei werden grundsätzlich alle Techniken und Ausprägungen von Reinforcement Learning, insbesondere auch im Zusammenhang mit großen und aktuellen generativen Modellen (Stichworte: RLHF, RLAIF), berücksichtigt. Die Anforderungen werden in der konkreten Ausarbeitung jeweils durch Erklärungen, begleitende Informationen, Umsetzungshinweise (z.B. Erläuterungen zum Einsatz geeigneter Testmethoden) u.ä. ergänzt. Der Katalog bildet damit eine Grundlage zur Selbsteinschätzung und zur Prüfung entsprechender KI-Systeme. Die im Projekt erst