Nuestro plan de ejecución de estrategia ética
Esta página no pretende ser un plan de ejecución detallado, sino ofrecer una descripción básica de cómo se está ejecutando nuestra estrategia ética y de lo que hemos aprendido hasta la fecha, para quien le pueda interesar. Detallaremos nuestro progreso de acuerdo con nuestro plan, en una auditoría externa anual de nuestra estrategia ética.
Aplicar nuestra estrategia ética
Nuestros principios y compromisos éticos están diseñados para aplicarse a todos los productos y equipos de Koa Health. Por lo tanto, hemos organizado su ejecución en cuatro líneas de trabajo para una mejor integración en las funciones de nuestros equipos.
Línea de trabajo 1: Ética en el diseño
Esta línea de trabajo cubre los siguientes compromisos: - sesgo y desigualdad; otorgarle el control al usuario; explicar cómo funcionan nuestros servicios.
El objetivo de este flujo de trabajo es integrar totalmente la ética en el diseño del producto, por lo que se divide en cinco partes:
1. Crear herramientas sencillas que el equipo pueda utilizar en su día a día.
2. Redactar un manual de orientación para guiar el uso de las herramientas descritas anteriormente.
3. Nombrar “embajadores” que sean responsables de fomentar el uso de las herramientas, y concretamente, de identificar el momento adecuado para usarlas y cómo hacerlo.
4. Dar formación sobre cómo emplear las herramientas y el manual.
5. Realizar una sencilla encuesta trimestral para comprender si nuestra estrategia ética es fácil de integrar en el trabajo de los equipos de diseño y producto, si las herramientas son útiles y qué se puede mejorar
En términos de progreso: se han creado plantillas de diseño para el consentimiento; se están desarrollando herramientas para un lenguaje sencillo e inclusivo; y se están revisando, con nuestro equipo legal interno, los borradores de la política de privacidad y los términos y condiciones para mantener un lenguaje claro.
Además, vale la pena señalar que todas nuestras decisiones de diseño se basan en evidencia clínica y científica, lo que mejora la eficacia y el compromiso de nuestros productos. El contenido lo crea una combinación de expertos internos y colaboradores como el Hospital General de Massachusetts y el profesor Paul Dolan de la London School of Economics and Political Science. Esta fuerte base en la evidencia contribuye a nuestro primer compromiso de gestionar el bienestar y la felicidad.
Línea de trabajo 2: Ética en tecnología
Esta línea de trabajo cubre los siguientes compromisos: sesgo y desigualdad; funcionamiento de nuestros servicios; y creación de productos que preserven la privacidad.
De manera similar a la línea de trabajo 1, el objetivo, aquí, es realmente integrar la ética en el trabajo de nuestro equipo de I + D, que también se divide en cinco partes:
1. Crear herramientas sencillas que el equipo pueda utilizar en su día a día.
2. Redactar un manual de orientación detallado para respaldar el uso de las herramientas descritas anteriormente.
3. Nombrar “embajadores” que sean responsables de fomentar el uso de las herramientas, concretamente de identificar el momento adecuado para usarlas y cómo hacerlo.
4. Dar formación sobre cómo usar las herramientas y el manual.
5. Realizar una sencilla encuesta trimestral para comprender si nuestra estrategia ética es fácil de integrar en el trabajo del equipo de I+D, si las herramientas son útiles y qué se podría mejorar
Además de incorporar la ética en los métodos de trabajo del equipo de I + D, la estrategia ética también fomenta dos áreas importantes del desarrollo tecnológico. La primera es la creación de la Inteligencia Artificial Explicable (IAE), en la que el equipo tiene como objetivo ofrecer explicaciones tanto locales como globales para cualquier tipo de sistema automatizado de toma de decisiones y modelos de aprendizaje automático.
La segunda área de desarrollo tecnológico es la Inteligencia Artificial para la Preservación de la Privacidad (IAPP), en la que el equipo pretende ofrecer servicios de toma de decisiones automatizada sin que Koa Health pueda acceder a los datos personales de nuestros usuarios, de modo que nunca tenga que enviarse ningún dato personal a Koa Health.
En términos de progreso: se ha creado una prueba de concepto IAE que ofrece explicaciones globales de algunas redes neuronales; para la IAPP se ha creado una prueba de concepto para redactar un protocolo seguro de múltiples partes en nuestro entorno tecnológico; y se ha elaborado la primera versión de un manual para evitar sesgos algorítmicos (incluida la formación).
Línea de trabajo 3: Ética e I+D
Esta línea de trabajo cubre los siguientes compromisos: 1 - Apoyar un bienestar y felicidad óptimos; y 4 - Evitar la adicción.
Con el fin de apoyar un bienestar y felicidad óptimos, la mayor parte de nuestro trabajo se centra en poder medir y mejorar el bienestar, la felicidad y el control. Este es el núcleo del trabajo de Koa Health, tanto en términos de creación de productos que satisfagan las diferentes necesidades de bienestar, como en I + D, ya que buscamos crear nuevas soluciones de bienestar y mejorar la efectividad de las que ya existen.
En términos de nuestra estrategia ética, el trabajo adicional que se requiere consiste en comprender cómo las personas hacen concesiones entre bienestar, felicidad y control. Aunque esto varíe según la persona, en última instancia, queremos averiguar si existe suficiente similitud entre grupos como para sustentar las recomendaciones que ofrecen nuestros productos a los usuarios. Con este fin, trabajamos con el profesor Paul Dolan de la London School of Economics and Political Science (LSE) para realizar un estudio sobre cómo las poblaciones representativas de personas en España, el Reino Unido y EE. UU. buscan el equilibrio entre bienestar, felicidad y control.
También queremos abordar el tema de la adicción. A medida que los smartphones van ganando terreno, aumenta la preocupación de que las aplicaciones puedan diseñarse de tal manera que sean adictivas y, por lo tanto, perjudiciales para el bienestar de las personas. Está claro que, para Koa Health, fomentar la participación del usuario hasta llegar a la adicción iría en contra de nuestros objetivos. Por lo tanto, esta línea de trabajo examinará cómo identificar la adicción en el uso de aplicaciones, y pondremos en marcha medidas para gestionarla o moderarla. Este trabajo se encuentra en fase inicial y tenemos previsto empezar revisando lo que ya se sabe sobre las aplicaciones y la adicción, por ejemplo, extrayendo aprendizajes de los juegos de apuestas online.
Línea de trabajo 4: Responsabilidad y comunicación ética
Esta línea de trabajo cumple con los siguientes compromisos: publicación de nuestro trabajo; y auditorías externas. Koa Health ya ha encargado y publicado una auditoría externa (completada antes de cambiar de nombre y lanzar nuestra marca actual).
Los objetivos de este flujo de trabajo son garantizar que el equipo tenga las habilidades para respaldar nuestra estrategia de ética en general y poner en marcha procesos para garantizar la rendición de cuentas. Se divide en cuatro partes:
1. Establecer el proceso de auditorías que incluye realizar una auditoría interna para ofrecer una base para una auditoría externa y nombrar a un auditor externo.
2. Introducir un proceso de aprobaciones éticas para la investigación que llevamos a cabo internamente, y para garantizar que cuando llevamos a cabo investigaciones con socios externos se utilicen sus procesos de aprobación ética.
3. Introducir un proceso para asegurar que estemos publicando de manera regular y consistente nuestras auditorías, aprobaciones éticas y otros documentos relacionados con nuestra investigación.
4. Desarrollar habilidades en equipo mediante la creación de un curso de formación al que debe asistir todo el equipo.
Koa Health ya ha encargado una auditoría externa de nuestro trabajo y encargará otra auditoría durante 2020. Por último, realizamos nuestra primera sesión de formación general en ética en marzo de este año y estamos revisando los comentarios para incluir mejoras.
En cuanto a nuestra ética de investigación, todas nuestras colaboraciones están sujetas a la aprobación del CIR (Comité Institucional de Revisión) / CEI (Comité de Ética de Investigación) y se adhieren a la Declaración de Helsinki1. Actualmente estamos explorando con nuestros colaboradores la mejor manera de publicar dichas aprobaciones.
Ética en el trabajo general de Koa Health
Los cuatro flujos de trabajo anteriores no cubren los diez compromisos porque algunos de ellos se abordan en la propia actividad de Koa Health. Esto, ni mucho menos, significa que no sea parte de nuestra estrategia ética, ni que no vayan a ser auditados; tan solo significa que no requieren establecer flujos de trabajo específicos para garantizar su cumplimiento. Consulta el anexo para obtener más información al respecto.
Lo que hemos aprendido
Koa Health trabaja en nuestra estrategia ética desde 2016. Durante ese tiempo, hemos estado desarrollando y probando un abanico de ideas y ya hemos experimentado con una serie de retos. En esta sección destacamos tres.
En primer lugar, los principios pueden estar en conflicto. Vimos esto de manera más clara cuando realizamos una auditoría algorítmica de uno de nuestros prototipos durante 2018/19. Puedes leer la historia completa en el artículo que está publicado aquí como parte de las actas de Ética y sociedad de la IA en 2020. En resumen, durante la creación del prototipo de la aplicación, nos centramos tanto en la privacidad que no teníamos evidencia directa a la que recurrir más adelante cuando queríamos comprender si el algoritmo de recomendación de la aplicación podría tener un sesgo hacia alguno de los grupos. Afortunadamente, Eticas y la Universidad Pompeu Fabra realizaron la auditoría y pudieron usar evidencia indirecta para demostrar que la aplicación no estaba sesgada. Sin embargo, nos demostró que, en el caso de nuestros productos, es necesario tener en cuenta previamente cómo los principios pueden solaparse.
En segundo lugar y hasta cierto punto, la implementación de una estrategia ética es todo o nada. Es decir que no es realmente posible afirmar que somos éticos en un 60 % o en un 80 %. Si establecemos cinco principios éticos debemos abordar los cinco al mismo tiempo, no se puede trabajar en cascada. Esto es más obvio en el enfoque de comprensibilidad y transparencia que hemos adoptado, donde inicialmente ponemos más énfasis en lo primero que en lo segundo. La publicación de esta estrategia es un ejemplo de cómo ahora estamos ajustando ese equilibrio.
Por último, y en relación con la segunda lección, es un reto dar el equilibrio adecuado entre ambición y realismo. Aunque queremos ser ambiciosos, también sabemos que no tiene sentido establecer compromisos que ahora mismo no podemos cumplir sin que se cuestione nuestra credibilidad. De igual manera, si solo nos centramos en lo que a día de hoy sí se puede conseguir con certeza, puede parecer que no nos tomamos en serio la ética y que solo hacemos lo mínimo requerido. Para conseguir encontrar el equilibrio adecuado, nuestros compromisos combinan ideas que podemos implementar actualmente, junto con otras que son más desafiantes y que requerirán más investigación y un mayor esfuerzo.
Más información: