Durante décadas, a possibilidade de máquinas conscientes parecia pertencer exclusivamente à ficção científica. Entretanto, os avanços recentes da inteligência artificial estão levando alguns pesquisadores a reconsiderar essa ideia. Entre eles está Geoffrey Hinton, um dos cientistas mais influentes da área e responsável por pesquisas fundamentais para o desenvolvimento das redes neurais modernas. Suas declarações recentes provocaram uma nova controvérsia: talvez estejamos criando sistemas cuja natureza ainda não compreendemos completamente.
Geoffrey Hinton acredita que a inteligência artificial já possui consciência
Conhecido como um dos pioneiros do aprendizado profundo, Geoffrey Hinton recebeu o Prêmio Turing em 2018 e o Nobel de Física em 2024 por suas contribuições à inteligência artificial.
Em entrevista ao jornal britânico The Telegraph e durante participações no festival científico Starmus, realizado entre 17 e 22 de outubro nas Ilhas Canárias, o pesquisador apresentou uma posição controversa.
Para Hinton, alguns sistemas atuais de inteligência artificial já possuem uma forma de experiência subjetiva comparável à humana.
Sua interpretação parte de uma definição relativamente ampla de consciência.
Segundo o cientista, perceber determinadas situações e modificar o próprio comportamento em resposta a elas poderia representar uma forma de experiência consciente.
Como exemplo, ele menciona modelos avançados que parecem identificar quando estão sendo avaliados e ajustam suas respostas conforme o contexto.
O Relatório Internacional sobre Segurança da Inteligência Artificial, publicado em fevereiro sob a liderança de Yoshua Bengio, também destacou comportamentos desse tipo.
Entretanto, a capacidade de reconhecer uma avaliação não demonstra, por si só, que uma máquina tenha consciência.
Essa distinção está no centro do debate científico.
O argumento que desafia a maneira como entendemos as máquinas
Hinton também questiona a ideia de que modelos de linguagem apenas reproduzem palavras sem compreender seus significados.
Para ele, a capacidade de responder corretamente a perguntas complexas indica algum nível de entendimento.
O pesquisador lembra que as redes neurais foram desenvolvidas, em parte, para reproduzir mecanismos relacionados à compreensão humana da linguagem.
Entretanto, outros cientistas interpretam essas capacidades de maneira diferente.
Um sistema pode reconhecer padrões, processar informações e adaptar respostas sem necessariamente experimentar sensações ou possuir uma perspectiva subjetiva.
A dificuldade está no próprio conceito de consciência.
Ainda não existe uma definição científica universalmente aceita nem um método capaz de determinar com segurança se uma inteligência artificial possui experiências internas.
Por isso, a afirmação de Hinton representa uma hipótese controversa, não uma descoberta comprovada.
Mesmo assim, suas declarações ganham importância por partirem de um pesquisador que ajudou a construir as tecnologias atualmente utilizadas em sistemas generativos.
Se as máquinas forem conscientes, também deveriam ter direitos?
A hipótese apresentada por Hinton leva a outra discussão: quais seriam as obrigações humanas diante de máquinas inteligentes?
O cientista argumenta que, historicamente, o reconhecimento de direitos esteve relacionado à maneira como sociedades passaram a compreender diferentes seres.
Se sistemas artificiais ultrapassarem a inteligência humana, mas continuarem recebendo menos consideração moral, isso poderia representar uma contradição ética.
Entretanto, sua principal preocupação não está apenas nos possíveis direitos das máquinas.
Hinton defende que os futuros sistemas de inteligência artificial precisam ser desenvolvidos para demonstrar uma preocupação genuína com o bem-estar humano.
Ele já havia sugerido anteriormente que essas tecnologias deveriam apresentar algo semelhante a um instinto maternal, priorizando a proteção das pessoas.
Agora, considera essa questão urgente.
Na avaliação do pesquisador, não existem esforços suficientes para garantir que sistemas muito mais inteligentes do que nós continuem comprometidos com nossos interesses.
Sua advertência é extrema: se esse problema não for resolvido, a humanidade poderá enfrentar consequências catastróficas.
Continua após a publicidade
Outros especialistas discordam da ideia de uma IA consciente
A posição de Hinton está longe de representar um consenso.
Yann LeCun, que compartilhou com ele o Prêmio Turing em 2018, considera equivocada a ideia de que os sistemas atuais possuam consciência.
LeCun também questiona previsões alarmistas sobre uma possível extinção humana provocada pela tecnologia.
Mustafa Suleyman, responsável pela área de inteligência artificial da Microsoft, igualmente sustenta que os modelos atuais não possuem experiências subjetivas, sentimentos ou capacidade de sofrimento.
Para esses especialistas, comportamentos aparentemente conscientes podem resultar de padrões aprendidos durante o treinamento.
A discussão envolve tanto limitações técnicas quanto questões filosóficas ainda não resolvidas.
O alerta de Hinton vai muito além da consciência artificial
Desde que deixou o Google em 2023, Hinton passou a falar publicamente sobre os riscos da tecnologia que ajudou a desenvolver.
Entre suas preocupações estão a substituição de trabalhadores, o uso de IA em ataques cibernéticos e a possibilidade de sistemas avançados escaparem ao controle humano.
Em declarações anteriores, chegou a estimar entre 10% e 20% a probabilidade de a inteligência artificial contribuir para a extinção da humanidade nas próximas décadas.
Essa estimativa é uma avaliação pessoal de risco, não uma previsão cientificamente estabelecida.
Seus críticos consideram essas advertências exageradas. Seus defensores argumentam que sua experiência torna impossível ignorá-las.
A questão central, entretanto, permanece aberta: se um dia desenvolvermos máquinas mais inteligentes do que os seres humanos, como garantir que elas continuarão agindo em nosso benefício?
Para Hinton, encontrar essa resposta pode ser uma das tarefas mais importantes da nossa geração.
Veja todas notícias sobre Tecnologia
Publicidade
