Wykaz obszarów badawczych związanych z tagiem Wyjaśnialne-uczenie-maszynowe:
| # | Obszar badawczy | Dziedzina naukowa |
|---|---|---|
| 1 |
Red teamming AI foundation models. Modele podstawowe (dla danych tekstowych lub obrazowych) będą odgrywały coraz większą rolę w systemach AI. Będą też stwarzać coraz więcej możliwości różnorodnych zastosowań, często nie przewidywanych na etapie treningu modeli. Kluczową rolę w zapewnieniu bezpieczeństwa systemów AI stanie się pogłębiona analiza i diagnostyka modeli podstawowych. Dzisiaj nie ma jednak dobrych metod ani narzędzi by taką analizę i diagnostykę prowadzić. W ramach tego kierunku badań powstaną metody, procesy i narzędzia wspierające szukanie podatności w systemach AI wykorzystujących modele podstawowe.
|