Le diste el visto bueno: La IA actúa. Tú firmas. Tú respondes. - Tapa blanda

Sinopsis

Es jueves, a última hora de la tarde, y hay cuarenta y un asuntos en la cola. Un sistema que los revisa mejor que tú ya ha comprobado cada uno. Todos llevan una pequeña marca verde que lo indica. Apruebas los cuarenta y uno. Tardas menos de dos minutos.

Tres semanas después, alguien ha impreso el asunto número diecinueve.

Quiere entender tus razones. Y dices lo único que puedes decir, porque es verdad. Llegó marcado como correcto. El sistema ya lo había revisado. Aprobaste lo que te pusieron delante.

Esto tiene nombre

Sesgo de automatización. Se mide desde los años noventa en cabinas de avión, en hospitales y en radiología, y el hallazgo se repite. Quien sabe que una máquina ya revisó algo lo revisa menos. No por descuido. Es lo que le pasa a cualquier persona cuando le toca revisar lo que ya revisó una máquina.

La investigación tiene una segunda mitad que apunta en la dirección contraria. La gente también rechaza el consejo de una máquina, a menudo después de verla fallar una sola vez. Las dos cosas son ciertas. La frase que las une es la tesis de este libro. La aversión es lo que hace la gente cuando ve el error. El sesgo es lo que ocurre cuando no lo ve.

Qué es este libro

Una descripción de cómo la aprobación ocupó en silencio el lugar de la decisión, y de lo que cuesta cuando la firma es tuya y el juicio no lo fue. Veinticinco capítulos en cinco partes, basados en la investigación y en casos documentados en los que un sistema actuó, una persona firmó y esa persona tuvo que responder.

Qué no es este libro

No es una advertencia sobre el futuro ni un alegato contra la tecnología. No te pide que apagues nada. No hay predicciones ni escenarios a diez años ni villanos. Su tema es un gesto de dos segundos que haces varias veces al día sin darte cuenta.

Léelo si

• dices «El sistema lo había señalado»
• tu nombre figura en decisiones que ya estaban tomadas cuando llegaron a ti
• te piden supervisar un trabajo que no habrías podido hacer por tu cuenta
• recibes una decisión sobre tu familia sin que te expliquen cómo se tomó
• quieres conocer las tres condiciones en las que la supervisión se vuelve una formalidad

"Sinopsis" puede pertenecer a otra edición de este libro.