Cómo un algoritmo mandó a un hombre a prisión por asesinato

lo alimentan con datos incompletos o incorrectos.

lo alimentan con datos incompletos o incorrectos.

Estoy un poco horrorizada, dijo Clare Garvie, asociada senior del Centro sobre Privacidad y Tecnología (Center on Privacy and Technology) en la escuela de derecho de la Universidad Georgetown. Usted está creando una incertidumbre inherente en ese sistema y le está diciendo a ese sistema que está bien. Está contaminando la confiabilidad de su sistema.

ShotSpotter dijo que entre más datos recibe de la policía, mas preciso se vuelve su modelo, que dice es acertado el 97% de las veces.

En el pequeño número de casos en los que ShotSpotter es incorrecto, proporcionar retroalimentación al algoritmo puede mejorar su precisión, dijo la empresa.

Más allá del algoritmo de ShotSpotter, se han planteado otras cuestiones sobre cómo opera la empresa.

Los registros judiciales muestran que, en algunos casos, los empleados han cambiado sonidos detectados por el sistema para decir que son disparos.

Durante el testimonio en un juicio por tiroteo en Rochester, Nueva York, en 2016, en el que participaron oficiales de la policía, presionaron al ingeniero Paul Greene de ShotSpotter para explicar por qué uno de sus empleados reclasificó los sonidos de un helicóptero como bala. ¿La razón? Dijo que su cliente, en este caso el departamento de policía de Rochester, les dijo que lo hicieran.

El abogado defensor en ese caso quedó estupefacto: ¿Es eso algo que ocurre en el curso regular del negocio en ShotSpotter?, preguntó.

Sí, lo es. Pasa todo el tiempo, dijo Greene. Típicamente, usted sabe, confiamos en que nuestros clientes encargados del cumplimiento de la ley sean verdaderamente francos y honestos con nosotros.

Al testificar en un juicio por asesinato en San Francisco en 2017, Greene dio un testimonio similar sobre que un analista había cambiado la ubicación de su alerta inicial a una cuadra de distancia, con lo que repentinamente coincidía con la escena del crimen.

No es perfecto. El punto en el mapa es solo un punto de partida, dijo.

En el caso de Williams, la evidencia en las audiencias previas muestra que ShotSpotter inicialmente dijo que el ruido captado por el sensor era un petardo, que el algoritmo de la compañía determinó con un 98% de confianza. Pero un empleado de ShotSpotter volvió a etiquetar el ruido como un disparo.

Más tarde, Walter Collier, ingeniero senior de soporte técnico de ShotSpotter, cambió la dirección reportada del sonido a la calle por donde Williams conducía, a más o menos 1.6 km de distancia, según los documentos judiciales. ShotSpotter dijo que Collier corrigió el informe para que coincidiera con la ubicación real que los sensores habían identificado.

Collier había trabajado para el Departamento de Policía de Chicago durante más de dos décadas antes de unirse a la empresa, de acuerdo con su perfil en LinkedIn. Después de que Williams fuera sentenciado a prisión, su abogado solicitó más información sobre la capacitación de Collier usando el sistema de ShotSpotter. El abogado, Brendan Max, dijo que le sorprendió la respuesta de la empresa.

En los documentos judiciales, ShotSpotter reconoció: Nuestros expertos son capacitados usando una variedad de sesiones de entrenamiento ˜en el trabajo™, y la transmisión de conocimiento de nuestros científicos y otros empleados experimentados. Como tales, no existen materiales de capacitación oficiales o formales para nuestros expertos forenses.

Los funcionarios encargados del cumplimiento de la ley en Chicago aún apoyan su uso de ShotSpotter. El contrato de Chicago, de tres años y 33 millones de dólares, firmado en 2018, convierte a la ciudad en el principal cliente de ShotSpotter. Ahora, ShotSpotter se encuentra en el corazón del ciclo de inteligencia-acción del departamento de policía para la vigilancia predictiva que utiliza alertas de disparos para identificar áreas de riesgo, según una presentación de 2019 obtenida por la AP.

A fines del mes pasado, el 22 de julio, el fiscal general Merrick Garland voló a Chicago para anunciar una nueva iniciativa para combatir la violencia con armas de fuego. El día siguiente recorrió un recinto policial y observó a los funcionarios mostrarle cómo usaban ShotSpotter.

____

EVIDENCIA INSUFICIENTE

Al siguiente día, Williams entró cojeando a la Sala 500, apoyado en su bastón de madera, vestido con un atuendo de prisión color marrón claro y sandalias, con un ayudante de sheriff casi sobre él. Había estado encerrado durante 11 meses.

Williams levantó la cabeza hacia el famoso juez irascible Vincent Gaughan. El veterano de Vietnam de 79 años lo miró desde lo alto de su estrado y dijo a Williams que su caso había sido desestimado. La razón: evidencia insuficiente.

ShotSpotter mantiene que había advertido a los fiscales que no confiaran en su tecnología para detectar disparos realizados dentro de vehículos o edificios. La compañía dijo que el descargo de responsabilidad se puede encontrar en las letras pequeñas de su contrato con la policía de Chicago.

Sin embargo, la compañía se rehusó a decir en qué punto durante el encarcelamiento de casi un año de Williams se puso en contacto con los fiscales, o por qué preparó un informe forense de un disparo que supuestamente fue realizado en el vehículo de Williams, dado que el sistema tenía problemas para identificar disparos en espacios cerrados. El mismo informe tenía información contradictoria que sugería que la tecnología funcionaba, de hecho, en el interior de los automóviles. Clark, el director ejecutivo de la empresa, se negó a comentar sobre el caso, pero en un comunicado de seguimiento, la empresa fue ambigua y dijo a la AP que bajo ciertas condiciones el sistema puede de hecho detectar disparos dentro de los vehículos.

Max, el abogado de Williams, dijo que los fiscales jamás le revelaron nada de esta información a él, y optaron por retirar los cargos dos meses después de que presentó un citatorio para ShotSpotter por la correspondencia de la compañía con los abogados estatales.

El juez acordó programar una audiencia en las próximas semanas sobre si divulgar el protocolo operativo de ShotSpotter y otros documentos que la empresa quiere mantener en secreto. Max, quien lo solicitó, dijo que dicho material podría ser utilizado para poner en duda la validez y confiabilidad de la evidencia de ShotSpotter en casos de todo el país.

Mi cliente no merecía ser privado de su libertad en base a evidencia que no era científica y que no fue comprobada, dijo Max. A juzgar por el historial de evidencia forense defectuosa en nuestros tribunales, no podemos permitir que ShotSpotter sea el que produce condenas equivocadsa ahora.

A las 9 p.m., del 23 de julio, Williams salió de la cárcel del Condado Cook hacia la calurosa noche de Chicago. No tenía teléfono móvil, ni cartera, ni identificación. Las autoridades no le permitieron realizar una llamada ni le devolvieron nada.

Un vocero de la oficina del sheriff del condado de Cook, que gestiona la cárcel, dijo el jueves que el personal había entregado toda la ropa y los objetos personales de Williams que había en esa instalación y que Williams tenía fácil acceso a teléfonos.

Fue recogido por su abogado.

Anderson, su esposa desde hace 20 años, lo esperaba en casa. Cuando su esposo bajó del automóvil de su abogado, lo tomó en sus brazos y lloró.

La primera noche en casa, Anderson cocinó costillas y pollo, pan de maíz y pasta con queso americano.

Pero Williams no podía comer por sí mismo. Había vencido el COVID-19 dos veces en prisión, pero había desarrollado un temblor incontrolable en la mano que le impedía sostener una cuchara. Así que Anderson lo alimentó. Y sentados juntos en el sofá, se aferró a su brazo para tratar de impedir el temblor.

Por su parte, Samona Nicholson, la madre de Herring, cree que la policía tenía al sospechoso correcto en Williams. Culpa a ShotSpotter por arruinar el caso al transmitir y después retirar lo que llama datos poco sólidos.

Williams sigue conmocionado por su experiencia. Dijo que ya no se siente seguro en su ciudad natal. Cuando camina por el vecindario busca los pequeños micrófonos que casi lo mandan a prisión de por vida.

Los únicos lugares donde se instalan estos dispositivos son en comunidades negras pobres, en ningún otro lugar, dijo. ¿Cuántos de nosotros terminaremos en esta misma situación?.

____

Mendoza reportó desde Newark, California. La periodista de The Associated Press Roselyn Romero, en San Luis Obispo, California, contribuyó con este reporte.

____

Contacte al equipo global de investigación de la AP en investigative@ap.org