45 面向个体或群体的AI
明天，人工智能面临的关键问题可能是：AI到底是为谁服务的？
当你使用一款理应在学习上给你带来助力的工具时，你自然希望它能如你所愿。但有没有可能，这款工具实际上是在追求一个更复杂的优化目标，而不仅仅是满足你的需求？那么，只要我们能得到预期的学习成果，这个问题真的重要吗？我们一起来探讨一下。
当然，当AI是由一家私营公司开发时，了解它的商业模式就显得尤为重要。这会帮助我们理解它到底是为谁服务的：如果这是一款一次性购买的学习软件，面向的是家长群体，那么公司必须有足够的理由来吸引他们。而如果目标用户是学校、教师或政府，那么他们的需求就会有所不同，软件的设计和功能也会相应调整。
我们要记住的是，当涉及到基于机器学习的AI软件时，学习过程总是围绕一个目标函数进行的。可以训练神经网络来减少学生的学习时间，提高测验成绩，或者可能同时优化这两个方面。
但在很多情况下，学习是在一个社会环境中进行的，而AI给出的建议可能会同时影响到个体和整个群体。
为了深入探讨这个观点，让我们以Waze为例，看看它是如何运作的。Waze是一款广受欢迎的交通导航应用，虽然在学校中不太常见，但老师们为了准时到达学校常常会选择使用它。
Waze
Waze是一款为司机提供导航服务的应用，旨在帮助他们找到最佳路线。每月有高达1.5亿的用户在使用它。除了具备社交网络的诸多功能外，Waze在分析交通状况时所使用的数据并非来源于官方的开放数据库或摄像头，而是来自于用户自己1。
对于那些不使用Waze的人来说，这里有一个简单的总结它是如何工作的——它就像是你每天上班路上的得力助手。即使你对路线了如指掌，Waze仍然能为你提供诸多便利。
你周围的许多司机也会这样做。在地图上，你会看到一条精心计算的路线，指引你顺利到达目的地。同时，系统还会实时更新预计到达时间，让你随时掌握路况变化。此外，系统还会及时提醒你前方路况，比如260米处有障碍物，1公里处发生了车祸，3公里处出现了交通堵塞等。根据这些实时信息，系统还会为你规划一条能节省七分钟的替代路线。
为了让这一切得以顺利实现，作为Waze的用户，你需要通过系统输入路况信息，提醒其他用户注意前方有动物出没。同样重要的是，当动物或障碍物已经离开原地时，你也需要及时更新信息。
AI究竟在哪里发挥作用？
在预计时间、路线等的计算中，AI的身影无处不在。它同时考虑到静态信息（距离）和动态信息（汽车的速度）。Waze还能通过分析你的驾驶历史，了解你的驾驶模式2。Waze甚至能预测交通灯的变化是否有利于你的行驶。
但AI的能力远不止于此。当一个Waze用户输入新信息时，系统如何考虑它？假设我报告道路堵塞，那会发生什么？就像人类专家会核实信息、评估用户可信度、确认现场情况一样，AI也会进行这些操作。
不仅如此，当系统检测到某条道路拥堵时，它会智能地引导用户选择其他路线。但如何确保新路线的交通状况真的更好呢？毕竟，已经陷入拥堵的车辆无法提供实时信息。这时，AI会派出一些“探路”车辆前往现场，以获取最真实的路况信息，从而确保用户能够避开拥堵，顺利到达目的地。
一些伦理考虑？
存在许多伦理方面的考量：
- Waze掌握了你大量的个人信息——你的居住地、工作地点、常去的地点以及你的习惯。它会向你推送你可能感兴趣或不感兴趣的广告。
- 为了满足尽可能多的客户需求，Waze需要解决许多探索/利用的困境，比如上面提到的。它是如何做出决策的？有没有正确的决策方式？
- 经常使用这些工具确实会影响我们解决问题的能力。现在已经知道，这些工具正在影响我们的（人类）认知能力。举个例子，这绝非个例，本书的作者有一次早上使用Waze时，系统建议他离开高速公路以避免拥堵。在沿着一条宁静的二级公路行驶了两公里后，Waze改变了主意，建议他回到高速公路上才是最佳路线。这个例子重要的不仅仅是系统改变了优化路线（这本身是合理的），而是我们对这类AI驱动的系统的依赖使我们失去了独立判断的能力3。
对教育的影响
据我们所知，这个群体处理的问题在教育中还没有出现 – 至少现在还没有。当资源是无限的（例如，访问一个网络平台），这种情况影响不大。但假设资源是有限的：同一时间只有三个学生可以使用机器人。在这种情况下，一个人工智能系统将会提议哪些学生应该有机会使用机器人。许多因素可能支配决策。如果系统想要公平，决策可能是随机的。但许多人对此不会满意。如果系统想要为整个教室获得最佳结果，它可能会分配更多资源给处于劣势的儿童。但如果系统被赋予的任务是确保至少90%的学生在学期末获得XYZ等级，这并不意味着每个学生现在都有90%的成功机会，而是意味着10%的学生肯定会失败。
教师的角色
身处人工智能时代，教师不仅要掌握这些系统的工作原理，还需了解算法的局限，并学会做出正确决策。这听起来简单，实施起来却并不容易。虽然教师可以利用人工智能系统，就像前面提到的导航工具那样，为所有人带来便利。但是，教师更应该结合自己的教学经验，对人工智能提出的建议进行审慎评估。在道路上耽误15分钟，对成年人来说或许影响不大。但对于学生来说，教师做出的每一个决定都可能对他们的成长产生深远影响。
1 https://www.cozyberries.com/waze-statistics-users-facts/ and https://www.autoevolution.com/news/waze-reveals-how-many-users-run-the-app-on-android-and-iphone-197107.html for some facts and figures concerning Waze.
2 Petranu, Y. Under the Hood: Real-time ETA and How Waze Knows You’re on the Fastest Route. https://medium.com/waze/under-the-hood-real-time-eta-and-how-waze-knows-youre-on-the-fastest-route-78d63c158b90
3 Clemenson, G.D., Maselli, A., Fiannaca, A.J. et al. Rethinking GPS navigation: creating cognitive maps through auditory clues. Sci Rep 11, 7764 (2021). https://doi.org/10.1038/s41598-021-87148-4
https://www.nature.com/articles/s41598-021-87148-4
