Настройки на записването
Отговорното разработване на системи, основани на изкуствен интелект (ИИ), изисква съобразяването на редица етични, правни, социално-когнитивни и социално-икономически предизвикателства. Дисциплината „Отговорен изкуствен интелект“ е мултидисциплинарна и има за цел да изследва обществените последици от разработването и използването на ИИ и да предложи практически разрешения за преодоляване на предизвикателствата от етично, правно, социално и икономическо естество.
В рамките на три модула курсът изследва широк кръг от практически и теоретични въпроси, свързани с разработването и използването на ИИ, в търсене на адекватни технологични, етични, правни, социално-икономически и социално-когнитивни рамки, насоки и технологични решения. Целта на курса е да предостави обхватен преглед на проблемите, като същевременно се фокусира върху конкретни практически проблеми през призмата на 5 сценария: автономни дронове; автономни автомобили; домашни роботи; ботове; персонализирана (прецизна) медицина. Курсът търси отговори на някои от следните въпроси:
a) Кой е отговорен за вреди, причинени от автономен дрон – дизайнерът на алгоритмите, софтуерният инженер или операторът на дрона?
б) Защо Google смята(ше), че изпълнителните директори са основно (бели) мъже, а някои цветнокожи хора - горили?
в) Как да сме сигурни, че, предавайки ключовете от най-интимни области на личния си живот (напр. здравословно състояние, религиозна и политическа принадлежност и убеждения) на системи с ИИ, те ще бъдат оценявани и държани отговорни спрямо съществуващите етични и правни стандарти на социална отговорност?
г) Как да проектираме системи с ИИ, които носят ползи за цялото общество, без да ги превръщаме в „оръжия за математическо унищожение“ („weapons of math destruction“)?
Учебният курс започва с уводен модул, посветен на запознаване с проблемите на мултидисциплинарния подход към разработването на отговорен ИИ. Тази част представлява въведение в основните принципи на кибернетиката и разбирането за „интелект“ и „обучение“. В този модул студентите се запознават със значимостта на отделните аспекти на отговорното разработване на ИИ. Модулът включва кратко въведение в дисциплината философия на морала и разяснява основни етични понятия. От юридическа гледна точка модулът въвежда основни понятия като „правна норма“ и „правова държава“, разлика между политика, регулация и право, системната идея за правото и взаимодействието между различните правопорядъци на международно, европейско и национално ниво. От социално-икономическо и социално-когнитивно гледище модулът въвежда основни понятия от когнитивната психология, значението на социалните науки за ИИ и икономическите ефекти от нарастващото му използване, свързани със загубата на работни места, промените в баланса на работната сила и произтичащото социално неравенство.
Вторият модул е посветен на етичните въпроси, свързани с разработването и използването на ИИ. Модулът съчетава теоретична дискусия с практически упражнения, решаване на казуси и задачи за програмиране. Модулът включва преглед на съществуващите кодификации на етични принципи и етични кодекси, като напр. Асиломарските принципи за развитие на ИИ, IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, ACM Code of Ethics and Professional Conduct, G-7 Draft AI R&D Principles и др. Модулът отделя специално внимание на въпросите за „машинната етика“ (machine ethics) и „моралните машини“ (moral machines) и използването на похвати от логическото програмиране и машинното самообучение за моделиране и аргументиране на различни морални аспекти. Модулът разглежда практическите въпроси, свързани с алгоритмичната справедливост (fairness), отчетност (accountability) и прозрачност (transparency). В тази част са предвидени практически упражнения (напр. с методи за апроксимация на black-box модели като LIME и др.), свързани с (а) установяване на склонности (bias), (б) съотношението между обяснение (explainability) и оптимизация, (в) проблеми, свързани с неравенство и принципа на неприкосновеност на личния живот и (в) безопасността (safety and non-maleficence) на ИИ във връзка с нови развития в машинното самообучение, като напр. генеративни конфликтни мрежи (GANs) и др. Последната част от този модул се фокусира върху етичните принципи за отговорна научноизследователска и развойна дейност (Responsible Research & Innovation, RRI) в областта на ИИ, с фокус върху методологии за въвеждане на етичните аспекти на етапа на проектирането („ethics by design“) и проектиране чрез дискусия („designing by debate“).
Третият модул разглежда правните аспекти на отговорния ИИ. Накратко се разглеждат съществуващите законодателни предложения на ниво ЕС за правно регулиране на предизвикателствата на ИИ. Представят се различните подходи към уреждане на правните последици от нововъзникващи технологични явления (антиципаторен, реактивен и проактивен) и се разглеждат различията между правни стандарти за дължимо поведение и правила, които установят конкретни дължими резултати или поведение. Модулът разглежда процеса на възникване на правни субекти, като напр. юридическите лица, и поставя въпроса за необходимостта от законодателно уреждане на правосубектността и делегирането на задачи на автономни агенти с ИИ. След запознаване с тези общи въпроси, модулът се фокусира върху правния режим на защита на личните данни в контекста на ИИ, с фокус върху машинното самообучение. Разглежда се правото на възражение срещу автоматизирано вземане на индивидуални решения по чл. 22 от Общия регламент относно защитата на данните (GDPR) и съответстващото му „право на обяснение“ („right to an explanation“) на използваната логика, както и значението и предвидените последствия от такова обработване за субекта на данните. Наред с това се разглеждат и проблемите, свързани с режима на юридическа отговорност, приложим спрямо правонарушения, извършени от автономни агенти. Във връзка с отговорността за вреди и безопасното използване на ИИ, модулът отделя внимание и на различни правни въпроси, свързани с киберсигурността на системите с ИИ, по-специално адаптирането и еволюцията на мулти-агентни системи в хетерогенни екосистеми. В последната тема се разглеждат и някои специфични въпроса, свързани с правата върху интелектуална собственост в случаите, когато са използвани системи с ИИ, както и правата върху набори от данни под контрола на различни субекти и закриляни от различни по обхват права.
В рамките на три модула курсът изследва широк кръг от практически и теоретични въпроси, свързани с разработването и използването на ИИ, в търсене на адекватни технологични, етични, правни, социално-икономически и социално-когнитивни рамки, насоки и технологични решения. Целта на курса е да предостави обхватен преглед на проблемите, като същевременно се фокусира върху конкретни практически проблеми през призмата на 5 сценария: автономни дронове; автономни автомобили; домашни роботи; ботове; персонализирана (прецизна) медицина. Курсът търси отговори на някои от следните въпроси:
a) Кой е отговорен за вреди, причинени от автономен дрон – дизайнерът на алгоритмите, софтуерният инженер или операторът на дрона?
б) Защо Google смята(ше), че изпълнителните директори са основно (бели) мъже, а някои цветнокожи хора - горили?
в) Как да сме сигурни, че, предавайки ключовете от най-интимни области на личния си живот (напр. здравословно състояние, религиозна и политическа принадлежност и убеждения) на системи с ИИ, те ще бъдат оценявани и държани отговорни спрямо съществуващите етични и правни стандарти на социална отговорност?
г) Как да проектираме системи с ИИ, които носят ползи за цялото общество, без да ги превръщаме в „оръжия за математическо унищожение“ („weapons of math destruction“)?
Учебният курс започва с уводен модул, посветен на запознаване с проблемите на мултидисциплинарния подход към разработването на отговорен ИИ. Тази част представлява въведение в основните принципи на кибернетиката и разбирането за „интелект“ и „обучение“. В този модул студентите се запознават със значимостта на отделните аспекти на отговорното разработване на ИИ. Модулът включва кратко въведение в дисциплината философия на морала и разяснява основни етични понятия. От юридическа гледна точка модулът въвежда основни понятия като „правна норма“ и „правова държава“, разлика между политика, регулация и право, системната идея за правото и взаимодействието между различните правопорядъци на международно, европейско и национално ниво. От социално-икономическо и социално-когнитивно гледище модулът въвежда основни понятия от когнитивната психология, значението на социалните науки за ИИ и икономическите ефекти от нарастващото му използване, свързани със загубата на работни места, промените в баланса на работната сила и произтичащото социално неравенство.
Вторият модул е посветен на етичните въпроси, свързани с разработването и използването на ИИ. Модулът съчетава теоретична дискусия с практически упражнения, решаване на казуси и задачи за програмиране. Модулът включва преглед на съществуващите кодификации на етични принципи и етични кодекси, като напр. Асиломарските принципи за развитие на ИИ, IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, ACM Code of Ethics and Professional Conduct, G-7 Draft AI R&D Principles и др. Модулът отделя специално внимание на въпросите за „машинната етика“ (machine ethics) и „моралните машини“ (moral machines) и използването на похвати от логическото програмиране и машинното самообучение за моделиране и аргументиране на различни морални аспекти. Модулът разглежда практическите въпроси, свързани с алгоритмичната справедливост (fairness), отчетност (accountability) и прозрачност (transparency). В тази част са предвидени практически упражнения (напр. с методи за апроксимация на black-box модели като LIME и др.), свързани с (а) установяване на склонности (bias), (б) съотношението между обяснение (explainability) и оптимизация, (в) проблеми, свързани с неравенство и принципа на неприкосновеност на личния живот и (в) безопасността (safety and non-maleficence) на ИИ във връзка с нови развития в машинното самообучение, като напр. генеративни конфликтни мрежи (GANs) и др. Последната част от този модул се фокусира върху етичните принципи за отговорна научноизследователска и развойна дейност (Responsible Research & Innovation, RRI) в областта на ИИ, с фокус върху методологии за въвеждане на етичните аспекти на етапа на проектирането („ethics by design“) и проектиране чрез дискусия („designing by debate“).
Третият модул разглежда правните аспекти на отговорния ИИ. Накратко се разглеждат съществуващите законодателни предложения на ниво ЕС за правно регулиране на предизвикателствата на ИИ. Представят се различните подходи към уреждане на правните последици от нововъзникващи технологични явления (антиципаторен, реактивен и проактивен) и се разглеждат различията между правни стандарти за дължимо поведение и правила, които установят конкретни дължими резултати или поведение. Модулът разглежда процеса на възникване на правни субекти, като напр. юридическите лица, и поставя въпроса за необходимостта от законодателно уреждане на правосубектността и делегирането на задачи на автономни агенти с ИИ. След запознаване с тези общи въпроси, модулът се фокусира върху правния режим на защита на личните данни в контекста на ИИ, с фокус върху машинното самообучение. Разглежда се правото на възражение срещу автоматизирано вземане на индивидуални решения по чл. 22 от Общия регламент относно защитата на данните (GDPR) и съответстващото му „право на обяснение“ („right to an explanation“) на използваната логика, както и значението и предвидените последствия от такова обработване за субекта на данните. Наред с това се разглеждат и проблемите, свързани с режима на юридическа отговорност, приложим спрямо правонарушения, извършени от автономни агенти. Във връзка с отговорността за вреди и безопасното използване на ИИ, модулът отделя внимание и на различни правни въпроси, свързани с киберсигурността на системите с ИИ, по-специално адаптирането и еволюцията на мулти-агентни системи в хетерогенни екосистеми. В последната тема се разглеждат и някои специфични въпроса, свързани с правата върху интелектуална собственост в случаите, когато са използвани системи с ИИ, както и правата върху набори от данни под контрола на различни субекти и закриляни от различни по обхват права.
- Преподавател: Александра Цветкова