Wykaz obszarów badawczych:
| Obszar badawczy | Dziedzina naukowa |
Red teamming AI foundation models. Modele podstawowe (dla danych tekstowych lub obrazowych) będą odgrywały coraz większą rolę w systemach AI. Będą też stwarzać coraz więcej możliwości różnorodnych zastosowań, często nie przewidywanych na etapie treningu modeli. Kluczową rolę w zapewnieniu bezpieczeństwa systemów AI stanie się pogłębiona analiza i diagnostyka modeli podstawowych. Dzisiaj nie ma jednak dobrych metod ani narzędzi by taką analizę i diagnostykę prowadzić. W ramach tego kierunku badań powstaną metody, procesy i narzędzia wspierające szukanie podatności w systemach AI wykorzystujących modele podstawowe.
|
Informatyka Techniczna i Telekomunikacja |
|---|