Enkeltfag Engelsk 5 ECTS

Ansvarlig AI: ALgoritmisk fairness og forklarbarhed

Overordnede kursusmål

I dette kursus bliver de studerende introducedet til etiske udfordringer forbundet med kunstig intelligens, samt værktøjer til at forstå og undersøge dem. Hovedtemaer i kurset inkluderer paradigmer for og begrænsninger ved maskinlæring (epistemologi), fairness og bias, samt forklarbar kunstig intelligens. Aktuelle state-of-the-art emner og nye publikationer fra relevante ML-konferencer og -tidsskrifter bliver udvalgt og diskuteret i detaljer. Deltagerne implementerer prototyper af diskuterede algoritmer og præsenterer sine observationer og resultater til kurset.

Kursets mål er et etablere og forstærke de studerendes know-how indenfor tre vigtige emner for ansvarlig AI. En studerende, der opfyldets kursets læringsmål, vil være i stand til at:

See course description in English

Læringsmål

  • forklare hvad kunstig intelligens betyder, diskutere og identificere almindelige antagelser vi ofte laver, samt identificere hvilke vi bør undgå for at bygge AI ansvarligt,
  • undersøge, identificere og diskutere problemer ved AI-systemer på en ansvarlig måde i og udenfor vores eget fagdomæne,
  • give en oversigt over udfordringer og state-of-the-art metoder til fairness og bias der kan opstå når man udvikler og deployer AI,
  • diagnosticere bias i prædiktiv og generativ AI,
  • være bekendt med almindelige kilder til bias, og kunne mitigere bias i prædiktiv og generativ AI ved enten at tilpasse modelleringen, eller ved at anvende mitigations-teknikker fra algoritmisk fairness,
  • forstå de mest almindelige typer af explainable AI modeller, og diskutere deres styrker og svagheder,
  • anvende explainable AI-modeller i reelle scenarier for prædiktiv og generativ AI, og fortolke deres forklaringer,
  • læse forskningsartikler med både teknisk og etisk indhold, forstå dem, og præsentere deres indhold,
  • præsentere analyser og resultater skriftlig.

Kursusindhold

Kurset vil bestå af tre dele:
Den første del af kurset vil handle om epistemologi i maskinlæring, model-fitting versus kunstig intelligens, Bayesianske problemer og generativ AI. Fairness-delen vil gennemgå klassiske metoder fra algorithmic fairness og deres begrænsninger og mulige løsninger. Til sidst vil vi lære om forskellige paradigmer for forklarbar AI, så som saliency og prototype-baserede metoder, deres anvendelsesområder, og deres validering, Vi vil diskutere og eksperimentere med forklarbarhed i generativ AI. Som en del af dette, vil vi diskutere de filosofiske antagelser der laves i forklarbar AI og lave en gennemgang af AI-etik.

Anbefalede forudsætninger

02450/02456, Vi forventer at de studerende er i stand til at implementere og træne maskinlæringsmodeller fra udleveret data, inkluderet deep learning modeller.

Undervisningsform

Kurset vil bestå af forelæsninger, diskussioner, og praktiske øvelser, Det bliver struktureret omkring tre emner, som alle starter med en introduktion af etablerede metoder, som gpr videre til at læse og diskutere state-of-the-art forskningsartikler, og til sidst en praktisk case-implementation baseret på de besøgte metoder.

Fakultet

Se kurset i kursusbasen

Tilmelding

Sprog

Engelsk

Varighed

13 uger

Institut

Compute

Sted

DTU Lyngby Campus

Kursus ID 02517
Kursustype Kandidat
Semesterstart Uge 36
Semester slut Uge 49
Dage tors 8-12
Pris

9.250,00 kr.

Tilmelding