No es un libro de un autor: son las lecciones de un curso avanzado, agrupadas en cinco partes —aprendizaje automático centrado en las personas, explicabilidad, ética y derecho, argumentación y simulación social—. Como todo volumen colectivo, la calidad sube y baja de capítulo en capítulo.
Qué saqué de él
La parte de ética es la que me sirve de verdad, y no por la parte declarativa. Hay un capítulo dedicado a por qué los principios éticos abstractos no se aplican solos, y otro a cómo se hace una evaluación sociotécnica de un sistema concreto. La diferencia entre las dos cosas es enorme: un listado de principios se firma y se archiva; una evaluación pregunta quién responde por una respuesta equivocada, por dónde se reclama y qué pasa mientras se resuelve.
De ahí me llevé la pregunta que hago cuando alguien quiere poner un modelo a decidir sobre personas o sobre dinero: qué decisión queda en manos del sistema, cuál queda en manos de alguien con nombre, y cómo se entera esa persona de que tiene que intervenir. Si las tres respuestas no existen, no hay sistema, hay un experimento con usuarios reales.
Los capítulos de explicabilidad me dejaron algo parecido: «explicable» no es una propiedad del modelo, es una relación con alguien. Explicarle a quien programa, a quien audita y a quien recibe la decisión son tres trabajos distintos, y confundirlos es la manera más común de entregar una explicación que no le sirve a nadie.
Qué dejé fuera
Casi toda la primera parte, que es un curso de redes neuronales bastante estándar, y las partes de robótica interactiva y simulación social, que están lejos de lo que hago. Hay incluso un capítulo sobre escribir ciencia ficción como forma de divulgar la investigación: simpático, y sin ningún uso en mi oficio.