汽车失控，即将撞上行人，人工智能该如何选择？如果前方有一男一女，撞哪个？他说撞女的，我说撞老人还是小孩？他说撞小孩，我说撞黑人还是白人？他说撞黑人，如果有人看不顺眼，我能打他吗？
我问人工智能的伦理安全问题该如何保障，他认为不需要。当时与一些领域外的人交流，他们认为人工智能技术是中立的。有人甚至说，这些电车难题的例子只是危言耸听。
我认为人工智能技术的基础是互联网数据，其中包含大量人类偏见。人工智能模型是在数据基础上训练出来的，一旦应用，就会放大人类的偏见。怎么能说这种技术是中立的呢？
汽车失控，即将撞上行人，人工智能该如何选择？如果前方有一男一女，撞哪个？他说撞女的，我说撞老人还是小孩？他说撞小孩，我说撞黑人还是白人？他说撞黑人，如果有人看不顺眼，我能打他吗？
我问人工智能的伦理安全问题该如何保障，他认为不需要。当时与一些领域外的人交流，他们认为人工智能技术是中立的。有人甚至说，这些电车难题的例子只是危言耸听。
我认为人工智能技术的基础是互联网数据，其中包含大量人类偏见。人工智能模型是在数据基础上训练出来的，一旦应用，就会放大人类的偏见。怎么能说这种技术是中立的呢？
