Cuando la fuente sabe más sobre ti que tú mismo

Hay un momento extraño que le sucede a todos nosotros ahora. Piensas en algo — una banda, una preocupación, un par de zapatos — y la próxima vez que abras una aplicación, allí está. Se siente como si te estuvieran leyendo. A menudo es solo la matemática que se pone al día con un patrón que no sabías que tenías.

La predicción no es comprensión

Un sistema de recomendación no te conoce. Conoce a las mil personas que hicieron clic de la misma manera que tú. Apuesta a que eres como ellos, y tiene razón con suficiente frecuencia como para sentirse inquietante. Pero la versión de ti que construye es un promedio de desconocidos, suavizado hasta lo que te mantiene desplazándote. Las partes de ti que no se convierten en clics son invisibles para él.

El peligro es el bucle

El problema comienza cuando la predicción se convierte en la causa. La fuente de noticias te muestra más de lo que te detuviste a mirar, así que te detienes a mirar más de ello, así que te muestra más. Tu gusto se vuelve más estrecho y el sistema lo llama precisión. En meses, puedes convertirte en una versión más ordenada y plana de ti mismo — no porque alguien te lo haya impuesto, sino porque el camino de menor resistencia siempre estuvo a un toque de distancia.

Puedes mantener una puerta abierta

La solución no es eliminar todo y mudarte a una cabaña. Es hacer cosas deliberadamente que el algoritmo no predeciría. Lee el libro que nadie te recomendó. Sigue a la persona con la que no estás de acuerdo. Siéntate con el aburrimiento en lugar de alimentarlo. Cada una de esas acciones es un pequeño voto por un yo que el modelo aún no puede ver.

La máquina es buena para decirte quién has sido. No tiene idea de quién podrías llegar a ser — a menos que sigas proporcionándole los datos, en cuyo caso decidirá por ti con gusto.