ARTIFICIAL INTELLIGENCE AND NON-NEUTRALITY OF ALGORITHMS ABOUT “DOCILE BODIES”
DOI:
https://doi.org/10.31994/rvs.v12i2.776Keywords:
Keywords: Artificial Intelligence; human rights; surveillance; personal data.Abstract
Abstract: The contemporary world has been altered by technological advances, mainly by the development of new tools based on Artificial Intelligence (AI). The present work seeks to highlight that, in this context of great changes, the incorrect use of AI can often increase the scenario of human rights violations. Thus, the study will have as a point of inference the assertion that the algorithms do not always have points of neutrality, since they reflect the cultural aspects of programmers who, in turn, are at the service of hegemonic culture - white, heteronormative, sexist. and marked by great social stratifications.
Downloads
Download data is not yet available.
References
ARBULU, Rafael. Microsoft recusou oferta em reconhecimento facial em favor dos direitos humanos. Canaltech, 2020. Disponível em: <https://canaltech.com.br/apps/microsoft-se-recusa-a-vender-reconhecimento-facial-a-policia-nos-eua-166337/#:~:text=Na%20%C3%A9poca%2C%20Brad%20Smith%20afirmou,de%20interpreta%C3%A7%C3%A3o%20e%2C%20consequentemente%2C%20pris%C3%B5es>. Acesso em:03 abr 2021.
BIFULCO, Raffaele. Intelligenza artificiale, regole e diritti: alla riscoperta di von Hayek, 2018. Disponível em: < https://www.agendadigitale.eu/cultura-digitale/intelligenza-artificiale-regole-e-diritti-alla-riscoperta-di-von-hayek/>. Acesso em: 03 fev. 2020.
BIONI, Bruno; LUCIANO, Maria. O princípio da precaução na regulação da inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? In: FRAZÃO, Ana; MULHOLLAND, Caitlin; SILVEIRA, Alessandra et al. (coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. São Paulo: Revista dos Tribunais, 2019.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 22.337/RS. Relator: Ministro Ruy Rosado de Aguiar. Diário da Justiça, Brasília, DF, 20 mar. 1995.
BRASIL. Lei Geral de Proteção de Dados, LEI Nº 13.709, DE 14 DE AGOSTO DE 2018. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 07 fev. 2020.
CASTRO-GÓMEZ, Santiago. Ciências sociais, violência epistêmica e o problema da “invenção do outro”, 2005. Disponível em: < http://biblioteca.clacso.edu.ar/clacso/sur-sur/20100624102434/9_CastroGomez.pdf>. Acesso em: 07 jan. 2019.
CORVALÁN, Juan. Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista de Investigações Constitucionais, vol. 5 | n. 1, 2017. Disponível em: < https://revistas.ufpr.br/rinc/article/view/55334/35014>. Acesso em: 07 jan. 2020.
DONEDA, Danilo et.al Considerações iniciais sobre a inteligência artificial, éticae autonomia pessoal. Pensar, Fortaleza, v.23, n.4, p1-17, 2018.
FOUCAULT, Michel. Vigiar e Punir. 37 ed. Rio de Janeiro: Vozes, 2009.
FOUCAULT, Michel. Microfísica do Poder. 10ª ed. Rio de Janeiro: Paz & Terra, 2019.
FOX, Chris. Face recognition police tools 'staggeringly inaccurate', 2018. Disponível em:<https://www.bbc.com/news/technology-44089161>. Acesso em: 04 abr. 2021.
HAUGELAND, John. Artificial Intelligence: The Very Idea. Massachusetts: The MIT Press, 1985.
INTERVOZES. Reconhecimento facial no Carnaval: riscos tecnológicos nada divertidos. Carta Capital, 2019. Disponível em: <https://www.cartacapital.com.br/blogs/intervozes/reconhecimento-facial-no-carnaval-riscos-tecnologicos-nada-divertidos/>/. Acesso em: 07 abri. 2021.
KURZWEIL, Ray. The Age of Spiritual Machines. Massachusetts: The MIT Press, 1990.
LIMA FILHO, Maxwell Morais de. O experimento de pensamento do quarto chinês: a crítica de John Searle à inteligência artificial forte. Argumentos Revista de Filosofia, Fortaleza, v. 2, n. 3, p. 51-58, 2010.
LOBO, Muniz. Por que a regulamentação do uso do reconhecimento facial é necessária? 2019.
Disponível em: <https://cio.com.br/o-reconhecimento-facial-e-a-lei/>. Acesso em: 10 fev. 2020
LOPES, André. Inteligência artificial pode reproduzir racismo, homofobia e misoginia, 2019. Disponível em: <https://veja.abril.com.br/tecnologia/inteligencia-artificial-pode-reproduzir-racismo-homofobia-e-misoginia/>. Acesso em: 10 jan, 2020.
LYON, David. Surveillance Studies: An Overview. Cambridge: Polity Press, 2007.
LYON, David. Surveillance, Snowden, and big data: Capacities, consequences, critique. Big Data & Society, v. 1, n. 2, 2014. Disponível: http://journals.sagepub.com/doi/pdf/10.1177/2053951714541861 Acesso em: 09 abr. 2021.
MAGALHÃES, Thayana Calmon Leitão. Inimigo e Direito Penal, 2010 Disponível em: http://jus.com.br/artigos/17032/inimigo-e-direito-penal/2. Acesso em: 29 jan. 2020.
MCCARTHY, J. What is artificial intelligence?. Stanford, 2000. Disponível em:
<http://www.formal.stanford.edu/jmc/whatisai.pdf>. Acesso em: 10 jan. 2020
MELO, Paulo; HERCOG, Alex. O racismo que estrutura as tecnologias digitais de informação e comunicação, 2019. Disponível em: <https://www.brasildefato.com.br/2019/12/03/artigo-or-o-racismo-que-estrutura-as-tecnologias-digitais-de-informacao-e-comunicacao/>. Acesso em: 13 fev. 2020.
MONARD, Maria; BARANAUSKAS, José. Conceitos sobre aprendizado de máquina. In: REZENDE, Solange Oliveira (Org.). Sistemas inteligentes: fundamentos e aplicações.Barueri, SP: Manole, 2003.
NUNES, Pablo. Exclusivo: levantamento revela que 90,5% dos presos por monitoramento facial no Brasil são negros. The Intercept Brasil, 21 nov. 2019. Disponível em: https://theintercept.com/2019/11/21/presos-monitoramento-facial-brasil-negros/. Acesso em: 09 abr. 2021.
RODOTà, Stefano. Transformações do corpo. Revista Trimestral de Direito Civil, Ano 5, vol. 19, jul/set 2004
RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Editora: Renovar, Rio de Janeiro, 2008.
SCHAEFFER, Cesar. A inteligência artificial vai identificar futuros criminosos no Reino Unido. Disponível em: <https://olhardigital.com.br/noticia/inteligencia-artificial-vai-identificar-futuros-criminosos-no-reino-unido/97208>. Acesso em: 25 fev. 2020
SEARLE, John. Mentes, cérebros e programas. Tradução de Cléa Regina de Oliveira Ribeiro. In: TEIXEIRA, João de Fernandes (Org.). Cérebros, máquinas e consciência: uma introdução à Filosofia da Mente. São Carlos: Editora da UFSCar, 1996.
SEARLE, John. A Redescoberta da mente. Tradução de Eduardo Pereira Ferreira. São Paulo: Martins Fontes, 1997.
SHAH, H. Algorithmic accountability.Phil. Trans. R. Soc. A 376: 20170362, 2018. Disponível em: <http://dx.doi.org/10.1098/rsta.2017.0362>. Acesso em: 07 abri. 2021.
STANCIOLI, Brunello; CARVALHO, Nara. Da Integridade Física ao Livre Uso do Corpo: Releitura de um Direito da Personalidade. Disponível em: < http://www.ufjf.br/siddharta_legale/files/2014/07/Da-Integridade-F%C3%ADsica-ao-Livre-Uso-do-Corpo.pdf>. Acesso em: 22 set. 2018.
TEIXEIRA, João de Fenandes. O que é inteligência artificial, 1990. Disponível em: < https://repositorio.ufsc.br/bitstream/handle/praxis/395/o%20que%20e%20inteligencia%20artificial.pdf?sequence=1&isAllowed=y>. Acesso em: 14 abr 2021.
TURING, Alan. Computação e Inteligência. Tradução de Fábio de Carvalho Hansem. Cérebros, Máquinas e Consciência: uma introdução à filosofia da mente. São Carlos: EdUFScar, 1996.
VIEIRA, Kauê. Reconhecimento facial vira ameaça para negros; maioria entre presos. Disponível em: https://www.hypeness.com.br/2019/11/reconhecimento-facial-vira-ameaca-para-negros-maioria-entre-presos/. Acesso em: 01 fev. 2020
WAKEFIELD, Jane. Are you scared yet? Meet Norman, the psychopathic AI, 2018. Disponível em: < https://www.bbc.com/news/technology-44040008>. Acesso em: 09 abr. 2021.
WEYNE, Bruno. A concepção de direitos humanos como direitos morais. Revista de Direitos Humanos e Democracia, vol.6, 2009.
WHITBY, Blay. Inteligência artificial: um guia para iniciantes; tradução de Cláudio Blanc. São Paulo: Madras, 2004.
ZAFFARONI, Eugenio Raúl. A palavra dos mortos: conferências de criminologia cautelar. São Paulo: Saraiva, 2003.
ZAFFARONI, Eugenio Raúl. O inimigo no direito penal. Tradução de Sérgio Lamarão. 2. ed. Rio de Janeiro: Revan, 2007.
BIFULCO, Raffaele. Intelligenza artificiale, regole e diritti: alla riscoperta di von Hayek, 2018. Disponível em: < https://www.agendadigitale.eu/cultura-digitale/intelligenza-artificiale-regole-e-diritti-alla-riscoperta-di-von-hayek/>. Acesso em: 03 fev. 2020.
BIONI, Bruno; LUCIANO, Maria. O princípio da precaução na regulação da inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? In: FRAZÃO, Ana; MULHOLLAND, Caitlin; SILVEIRA, Alessandra et al. (coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. São Paulo: Revista dos Tribunais, 2019.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 22.337/RS. Relator: Ministro Ruy Rosado de Aguiar. Diário da Justiça, Brasília, DF, 20 mar. 1995.
BRASIL. Lei Geral de Proteção de Dados, LEI Nº 13.709, DE 14 DE AGOSTO DE 2018. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 07 fev. 2020.
CASTRO-GÓMEZ, Santiago. Ciências sociais, violência epistêmica e o problema da “invenção do outro”, 2005. Disponível em: < http://biblioteca.clacso.edu.ar/clacso/sur-sur/20100624102434/9_CastroGomez.pdf>. Acesso em: 07 jan. 2019.
CORVALÁN, Juan. Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista de Investigações Constitucionais, vol. 5 | n. 1, 2017. Disponível em: < https://revistas.ufpr.br/rinc/article/view/55334/35014>. Acesso em: 07 jan. 2020.
DONEDA, Danilo et.al Considerações iniciais sobre a inteligência artificial, éticae autonomia pessoal. Pensar, Fortaleza, v.23, n.4, p1-17, 2018.
FOUCAULT, Michel. Vigiar e Punir. 37 ed. Rio de Janeiro: Vozes, 2009.
FOUCAULT, Michel. Microfísica do Poder. 10ª ed. Rio de Janeiro: Paz & Terra, 2019.
FOX, Chris. Face recognition police tools 'staggeringly inaccurate', 2018. Disponível em:<https://www.bbc.com/news/technology-44089161>. Acesso em: 04 abr. 2021.
HAUGELAND, John. Artificial Intelligence: The Very Idea. Massachusetts: The MIT Press, 1985.
INTERVOZES. Reconhecimento facial no Carnaval: riscos tecnológicos nada divertidos. Carta Capital, 2019. Disponível em: <https://www.cartacapital.com.br/blogs/intervozes/reconhecimento-facial-no-carnaval-riscos-tecnologicos-nada-divertidos/>/. Acesso em: 07 abri. 2021.
KURZWEIL, Ray. The Age of Spiritual Machines. Massachusetts: The MIT Press, 1990.
LIMA FILHO, Maxwell Morais de. O experimento de pensamento do quarto chinês: a crítica de John Searle à inteligência artificial forte. Argumentos Revista de Filosofia, Fortaleza, v. 2, n. 3, p. 51-58, 2010.
LOBO, Muniz. Por que a regulamentação do uso do reconhecimento facial é necessária? 2019.
Disponível em: <https://cio.com.br/o-reconhecimento-facial-e-a-lei/>. Acesso em: 10 fev. 2020
LOPES, André. Inteligência artificial pode reproduzir racismo, homofobia e misoginia, 2019. Disponível em: <https://veja.abril.com.br/tecnologia/inteligencia-artificial-pode-reproduzir-racismo-homofobia-e-misoginia/>. Acesso em: 10 jan, 2020.
LYON, David. Surveillance Studies: An Overview. Cambridge: Polity Press, 2007.
LYON, David. Surveillance, Snowden, and big data: Capacities, consequences, critique. Big Data & Society, v. 1, n. 2, 2014. Disponível: http://journals.sagepub.com/doi/pdf/10.1177/2053951714541861 Acesso em: 09 abr. 2021.
MAGALHÃES, Thayana Calmon Leitão. Inimigo e Direito Penal, 2010 Disponível em: http://jus.com.br/artigos/17032/inimigo-e-direito-penal/2. Acesso em: 29 jan. 2020.
MCCARTHY, J. What is artificial intelligence?. Stanford, 2000. Disponível em:
<http://www.formal.stanford.edu/jmc/whatisai.pdf>. Acesso em: 10 jan. 2020
MELO, Paulo; HERCOG, Alex. O racismo que estrutura as tecnologias digitais de informação e comunicação, 2019. Disponível em: <https://www.brasildefato.com.br/2019/12/03/artigo-or-o-racismo-que-estrutura-as-tecnologias-digitais-de-informacao-e-comunicacao/>. Acesso em: 13 fev. 2020.
MONARD, Maria; BARANAUSKAS, José. Conceitos sobre aprendizado de máquina. In: REZENDE, Solange Oliveira (Org.). Sistemas inteligentes: fundamentos e aplicações.Barueri, SP: Manole, 2003.
NUNES, Pablo. Exclusivo: levantamento revela que 90,5% dos presos por monitoramento facial no Brasil são negros. The Intercept Brasil, 21 nov. 2019. Disponível em: https://theintercept.com/2019/11/21/presos-monitoramento-facial-brasil-negros/. Acesso em: 09 abr. 2021.
RODOTà, Stefano. Transformações do corpo. Revista Trimestral de Direito Civil, Ano 5, vol. 19, jul/set 2004
RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Editora: Renovar, Rio de Janeiro, 2008.
SCHAEFFER, Cesar. A inteligência artificial vai identificar futuros criminosos no Reino Unido. Disponível em: <https://olhardigital.com.br/noticia/inteligencia-artificial-vai-identificar-futuros-criminosos-no-reino-unido/97208>. Acesso em: 25 fev. 2020
SEARLE, John. Mentes, cérebros e programas. Tradução de Cléa Regina de Oliveira Ribeiro. In: TEIXEIRA, João de Fernandes (Org.). Cérebros, máquinas e consciência: uma introdução à Filosofia da Mente. São Carlos: Editora da UFSCar, 1996.
SEARLE, John. A Redescoberta da mente. Tradução de Eduardo Pereira Ferreira. São Paulo: Martins Fontes, 1997.
SHAH, H. Algorithmic accountability.Phil. Trans. R. Soc. A 376: 20170362, 2018. Disponível em: <http://dx.doi.org/10.1098/rsta.2017.0362>. Acesso em: 07 abri. 2021.
STANCIOLI, Brunello; CARVALHO, Nara. Da Integridade Física ao Livre Uso do Corpo: Releitura de um Direito da Personalidade. Disponível em: < http://www.ufjf.br/siddharta_legale/files/2014/07/Da-Integridade-F%C3%ADsica-ao-Livre-Uso-do-Corpo.pdf>. Acesso em: 22 set. 2018.
TEIXEIRA, João de Fenandes. O que é inteligência artificial, 1990. Disponível em: < https://repositorio.ufsc.br/bitstream/handle/praxis/395/o%20que%20e%20inteligencia%20artificial.pdf?sequence=1&isAllowed=y>. Acesso em: 14 abr 2021.
TURING, Alan. Computação e Inteligência. Tradução de Fábio de Carvalho Hansem. Cérebros, Máquinas e Consciência: uma introdução à filosofia da mente. São Carlos: EdUFScar, 1996.
VIEIRA, Kauê. Reconhecimento facial vira ameaça para negros; maioria entre presos. Disponível em: https://www.hypeness.com.br/2019/11/reconhecimento-facial-vira-ameaca-para-negros-maioria-entre-presos/. Acesso em: 01 fev. 2020
WAKEFIELD, Jane. Are you scared yet? Meet Norman, the psychopathic AI, 2018. Disponível em: < https://www.bbc.com/news/technology-44040008>. Acesso em: 09 abr. 2021.
WEYNE, Bruno. A concepção de direitos humanos como direitos morais. Revista de Direitos Humanos e Democracia, vol.6, 2009.
WHITBY, Blay. Inteligência artificial: um guia para iniciantes; tradução de Cláudio Blanc. São Paulo: Madras, 2004.
ZAFFARONI, Eugenio Raúl. A palavra dos mortos: conferências de criminologia cautelar. São Paulo: Saraiva, 2003.
ZAFFARONI, Eugenio Raúl. O inimigo no direito penal. Tradução de Sérgio Lamarão. 2. ed. Rio de Janeiro: Revan, 2007.
Downloads
Published
2021-09-03
How to Cite
Souza Mello, B. C. de. (2021). ARTIFICIAL INTELLIGENCE AND NON-NEUTRALITY OF ALGORITHMS ABOUT “DOCILE BODIES”. Revista Vianna Sapiens, 12(2), 24. https://doi.org/10.31994/rvs.v12i2.776
Issue
Section
Artigos Direito
License
Copyright (c) 2021 Revista Vianna Sapiens
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
