Toda fonte pode estar envenenada: sobre deepfakes e a ameaça de apocalipse epistêmico
DOI:
https://doi.org/10.31977/grirfi.v25i2.5296Palavras-chave:
Apocalipse Epistêmico; Deepfake; Epistemologia Social; Fake News; História da Falsificação.Resumo
Este artigo visa argumentar sobre o problema das denominadas deepfakes em ambientes epistêmicos e como tal fenômeno é uma ameaça às estruturas de obtenção, armazenamento, divulgação de informação e aquisição de conhecimento. Para isso, faremos uma análise das principais semelhanças e distinções ao fenômeno das fake news e como ela é um tipo de desinformação substancialmente perniciosa, fazendo com que haja perda generalizada tanto de confiabilidade em qualquer ambiente virtual em que possa incidir tais falsificações, quanto de credibilidade dos agentes epistêmicos envolvidos na deepfake. Desta forma, buscamos embasar nossa posição às críticas sobre a possibilidade deste apocalipse epistêmico com investigações históricas sobre casos diversos de enganação e falsificação de moeda corrente com consequências sociais, econômicas e políticas. Pontua-se com base nesta análise que procedimentos de autenticação estão sempre presentes e podem ser implementados para mitigar o espalhamento de desinformação nas redes, adotando uma posição moderada com relação a esta ameaça.
Downloads
Referências
ACHIMESCU, V.; CHACHEV, P. D.. Raising the flag: monitoring using perceiving disinformation on Reddit. Information 12(1): 4, 2021.
ALLEN, J.; ARECHAR, A. A.; PENNYCOOK, G.; RAND, D. Scaling up fact - checking using the wisdom of crowds. PsyArXiv Published online, 2021.
ANDERAU, G. Fake News and epistemic flooding. Synthese 202: 106, 2023.
AUDI, R. The sources of knowledge. In: MOSER, Paul K. (ed.) The Oxford Handbook of Epistemology. Oxford University Press, 2002.
BEDOS-REZAK, B. M. Cutting edge: The economy of mediality in twelfth-century chirographic writing. Das Mittelalter 15(2): pp. 134-61, 2010.
BERNECKER, S.; FLOWERREE, A. K.; GRUNDMANN, T. (eds.). The Epistemology of Fake News. New York, NY: Oxford University Press, 2021.
BESSY, C.; CHATEAUREYNAUD, F. The dynamics of authentication and counterfeits in markets. Historical social research/Historische Sozialforschung 44, No. 1(167): Markets, organizations, and law – Perspectives of convention theory on economic practices and structures: 136-59, 2019.
BOYD, K. Epistemically pernicious groups and the groupstrapping problem. Social Epistemology 33(1): pp. 61-73, 2018.
BUSCH, E.; WARE, J. The weaponization of deepfakes: digital deception by the far-right. ICCT Policy Brief, 2023.
CITRON, D. K.; CHESNEY, R. “Deep fakes: A looming challenge for privacy, democracy, and national security”. California Law Review 107: pp. 1753–819, 2019.
COOLEY, J. K. Currency wars: how forged money is the new weapon of mass destruction. SkyHorse Publisher: New York, 2008.
DEIGHTON, J.; KORNFELD, N. The economic impact of the market-making Internet. Interactive Advertising Bureau (IAB): New York, 2021. Disponível em: https://www.iab.com/wp-content/uploads/2021/10/IAB_Economic_Impact_of_the_Market-Making_Internet_Study_2021-10.pdf.
ENDERS, A. M.; USCINSKI, J. E.; SEELING, M. I.; KLOFSTAD, C. A.; WUCHTY, S.; FUNCHION, J. R.; MURTHI, M. N.; PREMARATNE, K.; STOLER, J. The relationship between social media use and beliefs in conspiracy theories and misinformation. Political Behavior 45: pp. 781–804, 2021.
EUROPOL. Facing reality? Law enforcement and the challenge of deepfakes, an observatory report from the Europol Innovation Lab. Publications Office of saperethe European Union, Luxembourg, 2022.
FALLIS, D. The epistemic threat of deepfakes. Philosophy and Technology 34(4): pp. 623–43, 2020.
FARID, H. Creating, using, misusing, and detecting deep fakes. Journal of Online Trust and Safety 1(4): pp. 1-33, 2022.
FERNÁNDEZ, J. de Santiago. Falsificación de moneda en conventos cordobeses en 1661. Hispania Sacra 49(99): 233-50, 1997.
FLORIDI, L. Philosophy of Information. Oxford University Press: New York, 2011.
FLORIDI, L. Artificial intelligence, deepfakes and a future of ectypes. Philosophy and Technology 31: pp. 317-21, 2018.
FOGG, B. J. Stanford guidelines for web credibility. A research summary from the Stanford Persuasive Technology Lab. Stanford University, 2002.
FRANKFURT, H. G. Sobre falar merda. Tradução de Ricardo Gomes Quintana. Editora Intrínseca: Rio de Janeiro, 2005.
GEACH, P. Good and Evil. Analysis 17(2): pp. 33-42, 1956.
GOSSE, C.; BURKELL, J. Politics and porn: how news media characterizes problems presented by deepfakes. Critical Studies in Media Communication 37(5): pp. 497-511, 2020.
HACKING, I. Ontologia Histórica. Traduzido por Leila Mendes. Editora Unisinos: Rio Grande do Sul, 2009.
HABGOOD-COOTE, J. Deepfakes and the Epistemic Apocalypse. Synthese 201(103): pp. 1–23, 2023.
HAIGHTON, A. Roman methods of authentication in the first two centuries A.D.. Journal of the Society of Archivists 31(1): pp. 29-49, 2010.
HAO, K. The biggest threat of deepfakes isn’t the deepfakes themselves. MIT Technology Review, 2019. Disponível em
HARRIS, D. Deepfakes: false pornography is here and the law cannot protect you”. 17 Duke Law & Technology Review: pp. 99-127, 2019.
HIMELEIN-WACHOWIAK, M.; GIORGI, S.; DEVOTO, A.; RAHMAN, M.; UNGAR, L.; SCHWARTZ, H. A.; EPSTEIN, D. H.; LEGGIO, L.; CURTIS, B. Bots and misinformation spread on social media: implications for COVID-19. Journal of Medical Internet Research 23(5): e26933, 2020.
IÑIGUEZ, G.; GOVEZENSKY, T.; DUNBAR, R.; KASKI, K.; BARRIO, R. A. Effects of deception in social networks. Proceedings of the Royal Society B 281: 20141195, 2014.
JASTER, R.; LANIUS, D. Speaking of fake news: definitions and dimensions. In: BERNECKER, S.; FLOWERREE, A. K.; GRUNDMANN, T. (eds.). The Epistemology of Fake News. Oxford University Press: pp. 19-45, 2021.
LACKEY, J. It Takes Two to Tango: Beyond Reductionism and Non-Reductionism in the Epistemology of Testimony. In: LACKEY, Jennifer; SOSA, Ernest(eds.). The Epistemology of Testimony. Oxford: Oxford University Press: pp. 160−82, 2006.
LANKES, R. D. Credibility on the internet: shifting from authority to reliability. Journal of Documentation 64(5): pp. 667-86, 2008.
LEONARD, N. Epistemological problems of testimony. In: Edward .N. Zalta (ed.), The Stanford Encyclopedia of Philosophy, 2021.
Disponível em https://plato.stanford.edu/archives/spr2023/entries/testimony-episprob/
LEVENSON,T. Newton and the counterfeiter: The Unknown Detective Career of the World's Greatest Scientist. Houghton Mifflin Harcourt: Boston, 2009.
MARTÍNEZ, V. C.; PADILLA-CASTILLO, G. Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso. Historia y comunicación social 24(2): 505-20, 2020
MEDEIROS, B. B. de. Pós-verdade e aspectos epistêmicos das mídias sociais: análises, críticas e proposições. Sapere Aude 14(28): pp. 492-522, 2023.
MIRSKY, Y.; LEE, W. The creation and detection of deepfakes: a survey. ACM Computing Surveys, 54(1): pp. 1–41, 2020.
NEGI, S.; JAYACHANDRAN, M.; UPADHAYAY, S. Deep fake: an understanding of fake images and videos. JSRCSEIT 7(3): pp. 183-89, 2021.
NEWMAN, E. J.; ZHANG, L. Truthiness: how nonprobative photos shape belief. In: GREIFENEDER, R.; JAFFÉ, M.; NEWMAN, E. J.; SCHWARZ, N. (eds.). The psychology of fake news: Accepting, sharing, and correcting misinformation. London, UK: Routledge, 2020.
PENG, K.; ZHU, Y.. New Research on the Origin of Cowries in Ancient China. Sino-Platonic Papers 68: 1–26, 1995.
PENNYCOOK, G.; RAND, D. G. The psychology of fake news. Trends in Cognitive Sciences 25(5): 388-402, 2021.
NGUYEN, C. T. Echo chambers and epistemic bubbles. Episteme 17(2): pp. 141-61, 2018.
PILLAI, R. M.; FAZIO, L. K. The effects of repeating false and misleading information on belief. WIREs Cognition Science: e1573, 2021.
RIEH, S. Y. Credibility and cognitive authority of information. Encyclopedia of Library and Information Sciences (3º ed.) 1(1): pp. 1337-344, 2010.
RINI, R. Deepfakes and the epistemic backstop. Philosophers' Imprint 20(24): pp. 1-16, 2020.
RINI, R.; COHEN, L. Deepfakes, deep harms. Journal of Ethics and Social Philosophy, 22(2): 141–161, 2022.
RODHY, J.; MILLER, M.; WEBER, P. (org.). Beyond Desinformation: How do authenticity and trust function in digital spaces? Media & Democracy Workshop: Social Science Research Concil, 2021. Disponível em https://items.ssrc.org/category/beyond-disinformation/
SCHILLER, H. I. Illocutionary harm. Philosophy Studies 178: pp. 1631–646, 2021.
SHAO, Chengcheng; CIAMPAGLIA, G. L.; VAROL, O.; YANG, Kai-Cheng; FLAMINNI, A.; MENCZER, F. The spread of low-credibility content by social bots. Nat Commun 9(1): 4787, 2018.
THORSON, E. A. Belief echoes: The persistent effects of corrected misinformation. Political Communication 33(3): 460-80, 2015.
VLASCEANU, M.; GOEBEL, J.; COMAN, A. The emotion-induced belief amplification effect. 42nd Annual Meeting of the Cognitive Science Society: Developing a Mind: Learning in Humans, Animals, and Machines, CogSci 2020: pp. 417-22, 2020.
VON GLAHN, R. Re-examining the Authenticity of Song Paper Money Specimens. Journal of Song-Yuan Studies 36: pp. 79-106, 2006.
VOSOUGUI, S.; ROY, D.; ARAL, S. The spread of true and false news online. Science 359, issue 6380: 1146-151, 2018.
WEEDON J.; NULAND, W.; STAMOS, A. Information operations and Facebook. Facebook, 27 April, 2017.
WESTERLUND, M. The emergence of deepfake technology: a review. Technology Innovation Management Review, 9(11): pp. 39–52, 2019.
WIGAN, H. The effects of the 1925 Portuguese Bank Note Crisis. Economic History Working Paper No. 82/04: London School of Economics and Political Science, 2004.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2025 Bismarck Bório de Medeiros
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Os autores que publicam na Griot : Revista de Filosofia mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons Attribution 4.0 International License, permitindo compartilhamento e adaptação, mesmo para fins comerciais, com o devido reconhecimento da autoria e publicação inicial nesta revista. Leia mais...
