En un hermoso relato del escritor Ted Chiang, en el futuro los humanos se relacionan con “digientes”, una especie de mascotas virtuales que pueden ser cuidadas y educadas, lo que les permite crecer, aprender y tener autonomía, la que se desarrolla de acuerdo a esos parámetros de crecimiento. El que una relación -con humanos o no- sea real, explica Chiang, está dada por nuestra disposición a dedicarle esfuerzos a mantenerla.

La historia de la tecnología digital reciente está plagada de metáforas. Desde la supercarretera de la información o la aldea global pasando por referirnos a piratería a asuntos que poco tienen que ver con robos en ultramar o nube para referirnos a esos galpones llenos de máquinas donde alojamos nuestros datos. Una forma de verlo es que usamos las metáforas como una forma de asociar asuntos complejos con aquellas con las que tenemos familiaridad. Otra, es que, al hacerlo, traemos clandestinamente todos los prejuicios del ejemplo hacia el asunto que queremos mejor comprender.

La investigadora Kate Darling lo tiene clarísimo. Acaba de publicar un nuevo libro llamado The New Breed, donde argumenta que una forma útil para prepararnos mejor ante el futuro es pensar en los procesos automatizados, robots e inteligencia artificial tal como pensamos en nuestras mascotas. Suena extraño, pero tiene sentido si pensamos en cómo tratar, por ejemplo, la responsabilidad (extracontractual, para mejor precisión) derivada de acciones derivadas de algoritmos. Hoy parecemos estar tentados en indicar que los problemas de discriminación, privacidad o falta de imparcialidad no son culpa de estos procesos. Los procesos son fórmulas, que los defectos son productos “del sistema”. Si seguimos la idea de Darling, en casos como estos hay una responsabilidad directa en quien tiene el deber de cuidado de dichos sistemas.