5 为什么不直接使用AI，第1部分
在AI领域，第二个极端立场是不加区分地使用或滥用技术。人工智能与人类智能的工作方式不同。无论是由于情境的本质特征、其设计还是数据，AI系统的工作方式可能与预期不同。
例如，使用一组数据用于一个目的而开发的应用程序，将无法在用于另一个目的的其他数据上运行良好。了解人工智能的局限性并加以纠正是有值得的；不仅去研究AI，同时还能去了解它的优点和局限性，这是件很好的事。
刻板印象的固化
谷歌翻译是通过互联网去学习如何进行翻译的。它的“数据挖掘者”通过在公共网络上搜索数据来学习。除了语言，AI还学到男性机械师的人数多于女性机械师，女性护士的人数超过男性护士。它无法区分哪些是“真实”的，哪些是因为刻板印象和其他偏见造成的结果。谷歌翻译最终将它所学到的进行传播，因此进一步巩固了刻板印象1：
每当个别案例与大多数案例不同时（无论这是真实地反映了现实世界中的大多数，还是仅代表了互联网所代表的大多数），AI就会出现问题。在课堂上，教师必须弥补系统带来的失误，并在必要时将学生的注意力引向备选的文本。
探索
你能在谷歌翻译中找到一个刻板印象吗？尝试用不同的语言进行翻译。通过点击两个翻译框之间的双箭头，你可以交换源语言和翻译目标语言（这就是我们在上面示例中所做的）。
像土耳其语这样的语言对于“他”和“她”的词语使用相同。当从土耳其语翻译回来时，许多刻板印象就显现出来。请注意，许多语言都有男性偏见——未知性别的人被假定为男性。这并不是应用程序的偏见。令人震惊的是，在上面我们展示的例子中男性护士被改成了女性。
多种准确性度量
AI系统能预测学生接下来应该学习什么，他或她是否理解了一个主题，班级如何进行分组更好，或者学生何时有辍学的风险。这些预测通常会附有一个百分比值。这个数字告诉我们系统对其预测的准确性如何高。
本质上，预测可能是错误的。在许多应用中，这种错误是可以接受的，在某些情况下，这是不可接受的。而且，对这种错误的计算方式并不固定。有不同的度量方法，程序员来选择他或她认为最合适的。通常，准确性会根据输入本身而变化。
在课堂上，这些系统会对儿童进行预测，教师需要判断什么是可接受的，并在AI做出不适当的决定时采取行动。为此，了解AI技术的背景知识及其常见的错误将大有裨益。
1 Barocas, S., Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities, MIT Press, 2023.
