El rol del análisis de género en la reducción de los sesgos algorítmicos

Sara Degli-Esposti

El análisis recogido en este artículo estudia el papel del análisis de género en combatir los sesgos algorítmicos derivados de la falta de inclusión y visibilidad de la mujer tanto en los macrodatos (big data) como en los algoritmos de inteligencia artificial (IA). Al fin de analizar esta problemática, se estima el número de mujeres matriculadas en áreas de estudios relacionados con la informática, la ingeniería y la ciencia de datos y se analizan las barreras a la interdisciplinariedad que pueden facilitar la difusión de sesgos algorítmicos y limitar el progreso de la economía digital.

Article Details

Palabras clave:
género, innovación, inteligencia artificial, big data, sesgos algorítmicos

Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. There's software used across the county to predict future criminals. And it's biased against blacks. ProPublica, 23, 77-91. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. In S. A. Friedler, & C. Wilson (eds.), Conference on Fairness, Accountability and Transparency, 81 (pp, 77-91). PMLR.

Caldas-Coulthard, C. R., & Moon, R. (2010). ‘Curvy, hunky, kinky’: Using corpora as tools for critical analysis. Discourse & Society, 21(2), 99-133.

Carter, P. M., Flannagan, C. A., Reed, M. P., Cunningham, R. M., & Rupp, J. D. (2014). Comparing the effects of age, BMI and gender on severe injury (AIS 3+) in motor-vehicle crashes. Accident Analysis & Prevention, 72, 146-160.

Clayton, A., O'Brien, D. Z., & Piscopo, J. M. (2019). All male panels? Representation and democratic legitimacy. American Journal of Political Science, 63(1), 113-129.

De Saá?Pérez, P., Díaz?Díaz, N. L., Aguiar?Díaz, I., & Ballesteros?Rodríguez, J. L. (2017). How diversity contributes to academic research teams performance. R&d Management, 47(2), 165-179.

Degli Esposti, S., Ball, K., & Dibb, S. (2021). What's In It For Us? Benevolence, National Security, and Digital Surveillance. Public Administration Review, 1-12. https://doi.org/10.1111/puar.13362.

Del Giudice, M. (2017). Pink, blue, and gender: An update. Archives of sexual behavior, 46(6), 1555-1563.

Dencik, L., Hintz, A., Redden, J., & Treré, E. (2019). Exploring Data Justice: Conceptions, Applications and Directions. Information, Communication & Society, 22(7), 873-881. https://doi.org/10.1080/1369118X.2019.1606268

Dwork, C., Immorlica, N., Kalai, A. T., & Leiserson, M. (2018). Decoupled Classifiers for Group-Fair and Efficient Machine Learning. In Proceedings of the 1st Conference on Fairness, Accountability and Transparency (pp. 119-133).

EDUCAbase. (2021a). 1.2 Alumnado matriculado en Ciclos formativos de FP básica por ciclo formativo, titularidad y sexo. Ministerio de Educación y Formación Profesional, Ministerio de Universidades. http://estadisticas.mecd.gob.es/EducaJaxiPx/Tabla.htm?path=/no-universitaria/alumnado/matriculado/2019-2020-rd/general_ciclosfp//l0/&file=ciclosfp12.px&type=pcaxis&L=0

EDUCAbase. (2021b). 2.3 Alumnado matriculado en Ciclos formativos de grado medio presencial (1) por ciclo formativo, titularidad y sexo. Ministerio de Educación y Formación Profesional, Ministerio de Universidades. http://estadisticas.mecd.gob.es/EducaJaxiPx/Tabla.htm?path=/no-universitaria/alumnado/matriculado/2019-2020-rd/general_ciclosfp//l0/&file=ciclosfp23.px&type=pcaxis&L=0

EDUCAbase. (2021c). 3.2 Alumnado matriculado en Ciclos formativos de grado medio a distancia por ciclo formativo, titularidad y sexo. Ministerio de Educación y Formación Profesional, Ministerio de Universidades. http://estadisticas.mecd.gob.es/EducaJaxiPx/Tabla.htm?path=/no-universitaria/alumnado/matriculado/2019-2020-rd/general_ciclosfp//l0/&file=distancia32.px&type=pcaxis&L=0

EDUCAbase. (2021d). 5.2 Alumnado matriculado en Ciclos formativos de grado superior a distancia 1) por ciclo formativo, titularidad y sexo. Ministerio de Educación y Formación Profesional, Ministerio de Universidades. http://estadisticas.mecd.gob.es/EducaJaxiPx/Tabla.htm?path=/no-universitaria/alumnado/matriculado/2019-2020-rd/general_ciclosfp//l0/&file=distancia52.px&type=pcaxis&L=0

EIGE, European Institute for Gender Equality. (2020). Gender Equality Index. European Institute for Gender Equality. https://eige.europa.eu/gender-equality-index/2020/ES

European Commission. (2018). Communication From The Commission To The European Parliament, The European Council, The Council, The European Economic And Social Committee And The Committee Of The Regions. Coordinated Plan on Artificial Intelligence. COM(2018) 795 final.

European Commission. (2020a). Digital Economy and Society Index (DESI). https://digital-agenda-data.eu/datasets/desi/visualizations.

European Commission. (2020b). Gendered Innovations 2: How inclusive analysis contributes to research and innovation. http://genderedinnovations.stanford.edu/GI%202%20How%20Inclusive%20Analysis%20Contributes%20to%20R&I.pdf

Fernández Sastre, J. (2015). The impact of R&D teams' gender diversity on innovation outputs. International Journal of Entrepreneurship and Small Business, 24(1), 142-162.

Flores, A. W., Bechtel, K., & Lowenkamp, C. T. (2016). False Positives, False Negatives, and False Analyses: A Rejoinder to Machine Bias: There's Software Used across the Country to Predict Future Criminals. And It's Biased against Blacks. Federal Probation, 80(2), 38.

Fundación COTEC. (2021). Ejecución presupuestaria de la I+D pública (2019). Informe COTEC. https://cotec.es/observacion/ejecucion-presupuestaria-de-la-i-d-publica/d70ea91f-2d30-cb54-67d7-bd13e676ee28

Gagne, J. F. (2019). Global AI Talent Report 2019. https://jfgagne.ai/talent-2019/

Horwitz, S. K., & Horwitz, I. B. (2007). The effects of team diversity on team outcomes: A meta-analytic review of team demography. Journal of management, 33(6), 987-1015.

Jasanoff, S. (2004). States of knowledge: the co-production of science and the social order. Routledge.

Jonauskaite, D., Sutton, A., Cristianini, N., & Mohr, C. (2021). English colour terms carry gender and valence biases: A corpus study using word embeddings. PLoS ONE, 16(6), e0251559.

Lambrecht, A., & Tucker, C. (2019). Algorithmic bias? an empirical study of apparent gender-based discrimination in the display of stem career ads. Management Science, 65(7), 2966-2981.

Leavy, S. (2018). Gender bias in artificial intelligence: The need for diversity and gender theory in machine learning. In Proceedings of the 1st international workshop on gender equality in software engineering (pp. 14-16).

Nielsen, M. W., Bloch, C. W., & Schiebinger, L. (2018). Making gender diversity work for scientific discovery and innovation. Nature Human Behaviour, 2(10), 726-734.

O'Neil, C. (2017). Weapons of math destruction: How big data increases inequality and threatens democracy. Broadway Books.

Paoletti, J. B. (2012). Pink and blue: Telling the boys from the girls in America. Indiana University Press.

Sáinz, M., Arroyo, L., & Castaño, C. (2020). Mujeres y digitalización. De las brechas a los algoritmos. Instituto de la Mujer y para la Igualdad de Oportunidades. Ministerio de Igualdad. https://www.inmujeres.gob.es/diseno/novedades/M_MUJERES_Y_DIGITALIZACIONDE_LAS_BRECHAS_A_LOS_ALGORITMOS_04.pdf.

Serrano, J., Vizcaíno Delgado, D., & Kalinichenko, B. (2021). Transición digital en la industria europea. Información Comercial Española (ICE), Revista de Economía, 919, 105-117. https://doi.org/10.32796/ice.2021.919.7175

SIIU, Sistema Integrado de Información Universitaria. (2020a). Estadística de Estudiantes Universitarios (EEU) Curso 2019-20* (Avance). Sistema Integrado de Información Universitaria (SIIU) y Ministerio de Universidades. Accessed 03/06/2021. https://www.unversidades.gob.es/stfls/MICINN/Universidades/Ficheros/Estadisticas/Principales_resultados_EEU_19-20.pdf

SIIU, Sistema Integrado de Información Universitaria. (2020b). Matriculados por tipo y modalidad de la universidad, sexo, dedicación al estudio y campo de estudio (solo Grado), curso 2018-2019. Sistema Integrado de Información Universitaria (SIIU), Secretaría General de Universidades. Accessed 03/06/2021. http://estadisticas.mecd.gob.es/EducaJaxiPx/Tabla.htm?path=/Universitaria/Alumnado/Nueva_Estructura/GradoCiclo/Matriculados//l0/&file=Mat_Grad_Sex_Ded_Campo_Tot.px&type=pcaxis&L=0

Simonite, T. (2018). AI Is the Future—But Where Are the Women? WIRED, 08/17/2018.

Srnicek, N. (2017). Platform capitalism. John Wiley & Sons.

Sun, T., Gaut, A., Tang, S., Huang, Y., ElSherief, M., Zhao, J., Mirza, D., Belding, E., Chang, K. W., & Wang, W. Y. (2019). Mitigating gender bias in natural language processing: Literature review. arXiv preprint arXiv:1906.08976.

Tannenbaum, C., Ellis, R. P., Eyssel, F., Zou, J., & Schiebinger, L. (2019). Sex and gender analysis improves science and engineering. Nature, 575(7781), 137-146. https://doi.org/10.1038/s41586-019-1657-6

Triana, M. C., Richard, O. C., & Su, W. (2019). Gender diversity in senior management, strategic change, and firm performance: Examining the mediating nature of strategic change in high tech firms. Research Policy, 48(7), 1681-1693.

Urbinati, N. (2008). Representative democracy. University of Chicago Press.

USGAO, United States General Accounting Office. (2001). Drug Safety: Most Drugs withdrawn in Recent Years had Greater Health Risks for Women. United States General Accounting Office (Washington, DC: Government Publishing Office). https://www.gao.gov/products/gao-01-286r.

Wachter-Boettcher, S. (2017). Technically wrong: Sexist apps, biased algorithms, and other threats of toxic tech. WW Norton & Company.

Weiser, M. (1991, September). The computer of the 21st century. Scientific American, 265(3), 94-105.

West, S. M., Whittaker, M., & Crawford, K. (2019). Discriminating systems. AI Now Institute. https://ainowinstitute.org/discriminatingsystems.pdf

Whittaker, M., Crawford, K., Dobbe, R., Fried, G., Kaziunas, E., Mathur, V., Mysers West, S., Richardson, R., Schultz, J., & Schwartz, O. (2018). AI now report 2018. AI Now Institute at New York University New York.

Zuboff, S. (2015). Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, 30(1), 75-89. https://doi.org/10.1057/jit.2015.5

Zweben, S., & Bizot, B. (2020). 2020 Taulbee Survey. Computing Research Association (CRA). https://cra.org/wp-content/uploads/2021/05/2020-CRA-Taulbee-Survey.pdf