人工智能伦理与安全 ¶

学习内容 ¶

• 伦理部分（摘自潘恩荣老师课件）
  • 第 1 次 人工智能与伦理
  • 第 2 次 人工智能伦理谱系
  • 第 3 次 人工智能如何以人为本？
  • 第 4 次 人工智能伦理研究与设计方法
  • 第 5 次 应用场景与伦理：自动驾驶专题
  • 第 6 次 数据与伦理：隐私保护专题
  • 第 7 次 算法与伦理：“人工智能 +”专题
  • 第 8 次 算力与伦理：机器换人专题
• 安全部分
  • 包括概论、介绍对抗样本攻击与 AI 隐私相关攻击

安全部分内容与 IS 专业人工智能安全课程完全相同。估计学院没想到会有人把这俩门课都选了……

授课老师 ¶

伦理部分由马院的潘恩荣老师授课。根据查老师以及笔者本人体验 , 大家对他评价普遍较低。

安全部分由计院的杨子祺老师授课。杨老师还是很不错的 , 授课比较清晰 , 他本人也是从事 AI 安全方面研究。

分数构成 ¶

课堂表现占 20% , 作业占 80%。作业仅包括一篇伦理论文和一篇安全论文 , 由小组组队完成。2-5 人自由组队。 课堂表现包括

• 潘老师上课点名，
• 关于 AI 论题的一次辩论。两个小组组成辩论组 , 自行寻找辩题。
• 《人工智能伦理》网课 , 以看完网课占一半考勤分数。

2023-24 春夏选题如下 :

• 伦理方面
  • 根据辩论内容 , 提出一个伦理问题的应对方案 , 可用课程中的理论与方法进行分析 , 从技术角度提出应对伦理问题的思路。
• 安全方面
  • 完成一份对抗样本攻防或者人工智能数据隐私保护的调研报告。
    • CV、NLP、语音、LLM 方面的对抗样本生成、检测、防御等均可。 参考主题包括鲁棒性研究、对抗性训练、大模型越狱攻击等。
    • 数据窃取、隐私防御等隐私保护方向均可。参考主题 : ML 模型隐私攻防、大模型数据隐私推断。

报告内容、结构会给出具体的模板。

学习建议 ¶

本课程有一种 " 思政课和专业课 " 强行拼成一节课的割裂感 , 给笔者的体验较差 , 尤其伦理部分。对杨老师安全部分若有感兴趣的同学不妨一听。建议水过。