3/11/2025 Seminář: Mario Chacón Falcón, ICMAT, Spain

Abstrakt: Umělá inteligence čelí bezpečnostním výzvám na mnoha úrovních – od rizika odhalení citlivých dat, přes zranitelnost distribuovaných systémů učení, až po nutnost navrhovat robustní strategie v prostředí s protivníky a nejistotou. V tomto semináři budou představeny dva přístupy ke zlepšení bezpečnosti umělé inteligence. První se zaměřuje na federativní učení, což je oblast strojového učení, která usiluje o trénování modelů napříč distribuovanými zdroji dat při zachování soukromí. Druhá část je věnována analýze rizika v nepřátelském prostředí (Adversarial Risk Analysis, ARA), která nabízí rozhodovací teoretický rámec pro obranné plánování v situacích strategické nejistoty, kdy jsou útočníci modelováni jako stochastičtí agenti s neznámými záměry. Společně tyto přístupy přispívají k budování bezpečnějších a spolehlivějších systémů umělé inteligence.

Kdo: Mario Chacón Falcón, doktorand, PhD student, ICMAT, Spain

Profil: https://mchacon28.github.io/

Kdy: 3. listopadu 2025, 14:00

Kde: Ústavu teorie informace a automatizace místnost 474

Jazyk: Angličtina