Szkoła doktorska Politechniki Warszawskiej

Red teamming AI foundation models. Modele podstawowe (dla danych tekstowych lub obrazowych) będą odgrywały coraz większą rolę w systemach AI. Będą też stwarzać coraz więcej możliwości różnorodnych zastosowań, często nie przewidywanych na etapie treningu modeli. Kluczową rolę w zapewnieniu bezpieczeństwa systemów AI stanie się pogłębiona analiza i diagnostyka modeli podstawowych. Dzisiaj nie ma jednak dobrych metod ani narzędzi by taką analizę i diagnostykę prowadzić. W ramach tego kierunku badań powstaną metody, procesy i narzędzia wspierające szukanie podatności w systemach AI wykorzystujących modele podstawowe.

• Słowa kluczowe: Wyjaśnialne uczenie maszynowe |

Polireprezentacje w systemach AI. Systemy AI wykorzystują wiele podejść do trenowania reprezentacji. Często jednak te podejścia oparte są o jedną wybraną perspektywę związaną z funkcją strony użytą do trenowania reprezentacji. Szukając modeli uniwersalnych korzystne może być łącznie perspektyw w szerszą reprezentację - polireprezentację.
W ramach tego kierunku badań przeprowadzona zostanie analiza jakie reprezentacje dają komplementarne perspektywy i w jaki sposób budować i analizować takie perspektywy. Prace dotyczyć mogą jednej modalności (tekstu lub obrazu) lub różnych modalności.

• Słowa kluczowe: Sztuczna inteligencja | Modele podstawowe | Red teamming |