La conversación de ética que se evita con respecto a los datos
La ciencia de análisis de datos está creciendo tan rápidamente que pocos trabajadores consideran las implicancias éticas de sus acciones, advierte el autor.
Por: Redacción Gestion.pe
Kaiser Fung
En la ciencia de los datos ha emergido un patrón de escándalos. El manoseo de los datos de emisiones de Volkswagen es el ejemplo más reciente.
En julio, el CEO de Whole Foods Market emitió un mea culpa después que se descubriera que el supermercado había manipulado datos de productos, sobreestimando el peso de artículos y carnes preempaquetadas. General Motors también informó que ocultó información sobre un interruptor de encendido defectuoso vinculado con más de 100 muertes.
Aunque los altos gerentes asumen los costos de estos escándalos, ninguna de las dudosas actividades habría sucedido sin la participación activa de los equipos técnicos. Además de los ingenieros, desarrolladores de software y gerentes de productos, la floreciente comunidad de científicos de datos también es cómplice en la elaboración de conceptos, algoritmos y software que posibilitan el engaño.
Esta narrativa sigue recurriendo porque la industria la trata como un problema técnico que requiere solución tecnológica. Los gerentes comerciales están pasando por alto el verdadero problema: la gente que recaba, almacena, maneja y procesa nuestros datos no está siendo sujeta a ningún estándar ético. La emergente disciplina de la ciencia de datos se está expandiendo tan rápidamente que pocos trabajadores piensan en las implicaciones éticas de sus acciones cotidianas.
En estos escándalos, la causa del problema es más humana que ética. Por ejemplo, la información de tarjetas de crédito no aparece sin invitación en una empresa de almacenamiento de datos. Luego que los datos son guardados, se escribe software para establecer el vínculo entre el seudónimo de un usuario y su nombre y dirección. El personal técnico está involucrado tanto en el diseño de los algoritmos de vinculación como en el desarrollo del código de implementación.
En varias compañías he formado parte de estas conversaciones. Los gerentes comerciales y técnicos debaten tópicos como innovación de productos, experiencia del usuario, requerimientos de recursos, estrategias competitivas y retorno de inversión. Con excepción de raros casos, nunca se aborda la ética detrás de estas decisiones. Este descuido, típicamente, se debe a falta de atención, consciencia o sensibilidad.
Los escándalos recientes deberían traer una conversación seria en la comunidad empresarial sobre la ética de los datos. La gente puede tener distintos estándares éticos, pero ignorar el tema por completo ya no es viable.
Entonces, ¿qué puede hacerse? Para empezar, todos los equipos técVVnicos y de datos deberían tener una capacitación que cubra la ética del uso de datos. Exponer a los ingenieros y científicos de datos a las obligaciones legales expuestas en varios términos y condiciones es un buen punto de inicio, pero las prácticas éticas deben ir más allá de eso. Se necesita desarrollar una cultura donde los miembros del equipo se sientan cómodos presentando discusiones sobre ética.
(Kaiser Fung dirige el programa de maestría en analítica aplicada de la Universidad de Columbia)