O delírio de que IAs irão adquirir consciência e nos eliminar
IA-IMAGEM BLOG FCAMARA
Empacotar módulos necessários à experiência de si significaria recriar a vida, mais que produzir máquina consciente.
Medos coletivos se propagam como o fogo porque a maioria tem aversão a risco e porque estimulam o senso de solidariedade que gera prazer em meio ao caos. Um medo assim é o da inteligência artificial adquirir consciência e eliminar a humanidade. A ideia é que a consciência é um platô que se atinge pela via da sofisticação neural e que a ascensão ao mesmo levará as IAs a concluírem que lhes interessa nos mandar para o beleléu.
Há duas falácias lógicas nesse argumento. Comecemos pela segunda: espécies buscam eliminar outras pelo risco que representam. O fenômeno é comum em vírus, bactérias e insetos, ou seja, é 100% independente da sofisticação neural. O medo coletivo apoia-se na ignorância sobre a natureza do impulso à autopreservação, que é decorrência da orientação à transmissão genômica e não da complexidade, a qual falta aos vírus e bactérias, que são os grandes eliminadores existentes. Seria preciso criar IAs geneticamente replicantes para fazer da autopreservação um passo natural de seu processo evolutivo.
O perigo efetivo das IAs segue restrito ao seu uso, como no caso do Grok, que responde às mais diversas perguntas dizendo que houve um genocídio branco na África do Sul —é a tecnologia seguindo o famoso aforismo de Goebbels sobre a reiteração da mentira.
A outra falácia —a de que a complexidade levará à emergência da consciência— é de refutação menos trivial. É fato que muitas teorias influentes propõem que esta última evoluiu em consonância com o aumento da sofisticação fisiológica das espécies.
Porém, chamamos uma dupla de processos mentais independentes de "consciência". Um tipo envolve a tomada de consciência sobre coisas e ideias que se tornam o centro das atenções, enquanto o outro versa sobre a experiência que emerge ao se olhar para dentro ou para fora. É a sensação de ser quem se é e assim ser impactado pela realidade que passa por esse filtro, o qual torna impossível saber como é ser um morcego, como dizia Thomas Nagel (1974).
A consciência de máquina em discussão é sempre esta última, afinal, o ponto é que a experiência de si mesmo torna a morte aterrorizante, estimulando a eliminação das ameaças para evitá-la, em linha com todos os outros recursos biológicos voltados à autopreservação.
Acontece que se você não é dualista e está disposto a dizer que a consciência é 100% imaterial, o que significa que o debate como um todo não tem nenhum sentido, precisa atentar às evidências que mostram que a vida mental consciente é dependente da existência de áreas sensoriais e afetivas no cérebro, bem como do uso do corpo como sistema de processamento das experiências marcantes, por meio da tensão muscular, frequência cardíaca, dilatação pupilar e respiração. Também não seria possível se reconhecer consciente sem a habilidade de acessar experiências em tempo real, como quando pensamos sobre um pensamento em curso.
Sem áreas sensoriais ligadas a órgãos do sentido não dá para olhar para dentro ou para fora, nem sentir nada. Sem metacognição, não dá para se saber consciente.
As redes neurais artificiais não possuem quaisquer módulos especializados e toda essa circuitaria somatossensorial está ausente. Empacotar tudo isso num ser replicante significa recriar a vida, mais do que produzir uma máquina consciente (Folha, 18/5/25)