Alvo de debates acirrados e intermináveis, a inteligência artificial (IA) e a preocupação com seus impactos na sociedade, na verdade, são notícias antigas. Com mais de meio século de vida, a IA sempre avançou sob uma densa nuvem de incertezas quanto a seu potencial de melhorar ou piorar o mundo. O fascínio e o temor pela máquina que emula os humanos nos perturbam há décadas.
A novidade aqui faz lembrar a história do Dr. Frankenstein, horrorizado com sua própria criatura, artificialmente gerada, e logo por ele próprio rejeitada. Em um discutível mea-culpa, alguns cientistas, agora, seguem um caminho parecido: assinam manifestos contra o suposto “monstro” que eles mesmos ajudaram a criar e aperfeiçoar.
Essa e outras polêmicas são analisadas por Dora Kaufman, professora da PUC-SP, doutora pela USP, Pós-doutora na COPPE-UFRJ e no TIDD PUC-SP, e pesquisadora dos impactos éticos e sociais da IA. Na entrevista a seguir, Kaufman desmistifica crenças alarmistas e ingênuas sobre a IA e fala de seus efeitos no mercado de trabalho, na educação, na criatividade, e comenta a situação do Brasil quanto à regulação e inovação digital.
Parepense – Como você acha que a Inteligência Artificial (IA) irá impactar a desigualdade social?
Dora Kaufman – Vejo três níveis de desigualdade em andamento. O primeiro deles é entre países. A China e os Estados Unidos estão liderando a pesquisa, o desenvolvimento, a implementação e o uso da IA, sendo a IA a tecnologia de propósito geral do século XXI, logo mudando a lógica e funcionamento da economia e da sociedade, essa liderança gera uma desigualdade em relação aos demais países. O segundo nível diz respeito à desigualdade entre empresas. Aquelas que estão avançadas no processo de transformação digital tendem a conquistar fatias maiores de market share. E temos ainda a desigualdade entre as pessoas, que tem consequências danosas para o desenvolvimento igualitário e sustentável da sociedade.
PP – Quais seriam essas consequências?
DK – O maior impacto social, me parece, é sobre o mercado de trabalho. Primeiramente, temos o deslocamento do trabalhador pela automação inteligente, ou seja, automatização baseada em inteligência artificial. Essa nova forma de automação expande a automação programada em curso desde meados do século passado como, por exemplo, na indústria automobilística onde temos máquinas produzindo máquinas, o que afeta a taxa de empregabilidade dos trabalhadores, principalmente os de baixa qualificação. Isso gera um segundo efeito negativo sobre a renda, pela competição das funções reservadas exclusivamente aos humanos; se muita gente perde o emprego e passa a atuar como cuidador de idosos, por exemplo, a faixa salarial tende a cair. E, por fim, há um efeito sobre a qualificação e requalificação. É falacioso o argumento de que as novas funções são quantitativamente equivalentes às funções automatizadas. Além do número ser significativamente menor, exercê-las requer conhecimento especializado. Não se trata de treinamento, mas de formação que é algo que adquirimos ao longo da vida e não só na educação formal, tem a ver igualmente com as experiências que permitem compor um repertório. Um dos maiores impactos deriva de inéditas interfaces homem-máquina, presentes em todas as atividades. Um dos componentes do sucesso imediato do ChatGPT deve-se à interface por meio de diálogo, do uso de linguagem, que é como nós humanos nos comunicamos (claro que não só, as expressões faciais, a linguagem corporal e o contexto também fazem parte da comunicação).
PP – Como enfrentar essa situação?
DK – Acredito que o caminho de enfrentamento passa por formulação de políticas públicas consistentes por parte do Estado. As estratégias dos governos têm que ser pensadas no longo prazo, têm que ter continuidade, é difícil lidar com as causas e consequências da desigualdade focando apenas no período de quatro anos de cada governante. Entre as políticas públicas, a educação é crítica, não se constrói um país igualitário e sustentável sem educação de qualidade. É mandatório capacitar as novas gerações – e as “velhas” gerações também pela requalificação – para ser relevante profissional e socialmente nesse novo ambiente de trabalho, de comunicação, de sociabilidade.
PP – Como você acha que o ChatGPT e similares, cada vez mais inseridos no dia a dia, deverão impactar a educação?
DK – Ainda estamos nos primórdios dos modelos de IA generativa, que diferentemente dos modelos de IA preditiva, geram textos, imagens, vídeos e códigos. O lançamento do ChatGPT dividiu a comunidade de educação: parte alegando preocupação com o impacto negativo no aprendizado, em um primeiro momento baniu o chatbot da sala de aula; em outra direção, outra parte dos educadores reagiu empenhando-se em identificar como integrar as novas tecnologias digitais nas práticas educativas, reestruturando os cursos, reformulando os sistemas de avaliação de desempenho do aluno e tomando ações preventivas para combater a “cola” (que sempre existiu, mas que o ChatGPT facilita). É interessante observar, por exemplo, que em janeiro o departamento de educação da cidade de Nova York proibiu o uso do ChatGPT na sua rede de escolas, e em 18 de maio reverteu a decisão porque identificou melhorias nas tarefas administrativas, na comunicação e no ensino/aprendizagem. Antes de mais nada, é preciso experimentar o ChatGPT e os demais modelos de IA generativa e identificar como elas podem contribuir positivamente no exercício da profissão. Um professor habituado a pedir resumos, por exemplo, terá que propor outro tipo de atividade, mais desafiadora, que envolva o raciocínio do aluno. É fundamental, a meu ver, que as escolas sejam um espaço de aprender a aprender, e que as universidades ofereçam uma experiência multidisciplinar, rompendo com a estrutura obsoleta criada para atender a economia industrial (compartimentalizada, e não integrada, multidisciplinar). Algumas iniciativas recentes têm potencial de contribuir efetivamente na transformação do setor, como o relatório do Escritório de Tecnologia Educacional do Departamento de Educação dos EUA “Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations” e o evento da Unesco, reunindo 40 ministros da Educação que, junto com uma pesquisa em 450 escolas e universidades, resultará em um conjunto de diretrizes políticas, bem como estruturas de competências de IA para alunos e professores, a ser lançado na “Digital Learning Week”, entre 4 e 7 de setembro próximo, em Paris.
A recomendação aos professores é não proibir o uso do ChatGPT ou soluções congêneres na sala de aula, é preciso educar os alunos para usar de forma criativa e consciente; crie avaliações de desempenho personalizadas; familiarize-se com as oportunidades de estimular o pensamento crítico dos alunos e, por fim, identifique as possibilidades do ChatGPT apoiá-lo administrativa e pedagogicamente.
“É necessário ter familiaridade com a lógica do ChatGPT para fazer um bom uso dele”
PP – O ChatGPT tem uma característica que é apresentar respostas aparentemente muito boas, mas que, se analisadas com critério e cuidado, mostram-se equivocadas. Como lidar com isso?
DK – As vantagens dessa solução de IA generativa, como já comentei, é a interface por meio de linguagem e sua natureza multitarefa (os modelos de IA preditivos são desenvolvidos para tarefas específicas). O ChatGPT é baseado na técnica de redes neurais profundas, que é um modelo estatístico de probabilidade, logo seus algoritmos identificam a probabilidade de uma determinada palavra se encaixar melhor em uma sentença para oferecer a melhor resposta ao usuário. O ChatGPT não é recomendado como alternativa de pesquisa; melhor o Google porque oferece os links das fontes permitindo ao usuário fazer sua própria curadoria de conteúdo. As respostas do ChatGPT contêm muita imprecisão, em determinadas situações chega, por exemplo, a inventar livros que nunca foram escritos. O melhor uso do ChatGPT está em domínios que o usuário tenha certo conhecimento — nesse caso, é grande o potencial de contribuir positivamente no seu trabalho.
PP – Você acha que a IA generativa “rouba” nosso esforço e prazer de pensar, imaginar e criar narrativas e hipóteses?
DK – Não creio, verdadeiramente não criamos nada do zero, sempre partimos de referências, de contribuições criadas por outros. Fazemos parte de um ecossistema, de um contexto social, familiar e histórico que molda profundamente o que pensamos e criamos. Ninguém tem uma ideia genial do nada. A produção de conhecimento é uma atividade coletiva, e ocorre ao longo do tempo. Somos influenciados de inúmeras maneiras por livros, filmes, produções artísticas, experiências, pessoas, acontecimentos. O ChatGPT, se usado corretamente, pode ser um bom parceiro, que ajuda nas tarefas profissionais. Vale observar que o avanço recente da IA, particularmente com os modelos de IA generativa, coloca em xeque valores e pressupostos estabelecidos. Um deles é o próprio conceito de criatividade. O que é afinal a criatividade humana? O que é “originalidade” no contexto de que tudo que produzimos está baseado em referências anteriores? Além disso, criatividade não é um termo que possa ser considerado genericamente, você pode ser criativo na arte, no desenvolvimento de código, pode ser criativo em determinadas atividades e não ser em outras.
“Tecnologias disruptivas alimentam o medo das pessoas de um futuro sombrio; os filmes de ficção científica mostram isso”
PP – Você concorda que o alarmismo tem papel de suavizar resistências ao impacto da IA e à eventual adoção de políticas públicas crescentemente autoritárias?
DK – Temos que enfrentar os diversos desafios trazidos pela IA por meio de regulamentação e autorregulação, com governança e diretrizes éticas. Desde o lançamento do ChatGPT, sucedem-se alertas sobre o “risco existencial” da inteligência artificial; não vejo consistência nesses alertas apocalípticos que, contudo, encontram respaldo no imaginário popular moldado pela ficção científica, e no medo de uma tecnologia poderosa e obscura. Entre os signatários misturam-se preocupações honestas a meras estratégias de desviar a atenção dos problemas reais e/ou aplicar a “doutrina do choque” denunciada por Naomi Klein em livro de mesmo nome. Com menos repercussão na mídia, outros eminentes especialistas declaram-se céticos em relação à AGI. O fato é que precisamos de regulamentação, e não de alarmismo.
PP – Como você vê os esforços no Brasil para a regulação do emprego da IA?
DK – Em 3 de maio, o Presidente do Senado, Rodrigo Pacheco, transformou o substitutivo para instituir o Marco Legal da IA no Brasil, elaborado pela comissão de juristas do Senado, em projeto de lei, o PL 2338. Esse PL precisa ser amplamente debatido na sociedade, incluindo agências regulatórias setoriais e Ministérios, especialistas acadêmicos tanto da tecnologia quanto das humanidades, organizações da sociedade civil. O futuro não é inexorável, depende do que fizermos no presente, em como direcionarmos a IA para um desenvolvimento sustentável. Desde maio a IA está entrando na pauta dos Governos. A IA foi tema da 49.ª Cúpula dos Países Desenvolvidos; a Casa Branca se reuniu com executivos de big tech; representantes da UE e dos EUA firmaram pacto de elaborar diretrizes comuns; o Primeiro Ministro inglês Sunak anunciou a pretensão de promover um “pacto de IA” com o Presidente Biden; o Presidente Macron promoveu uma sessão de trabalho com a presença de ministros sobre os impactos éticos da IA, e os efeitos sobre a indústria, o meio ambiente e a soberania nacional. Espero que a IA entre na pauta igualmente do governo do Presidente Lula.
PP – Você acha que o Brasil apresenta reais condições de contribuir com a agenda tecnológica, de inovação e IA? Ou a gente vai ser mais uma vez importador e usuário de tecnologias cujo controle está na mão de empresas globais, como ocorreu com as redes sociais?
DK – Hoje, a comunicação e a sociabilidade do brasileiro são mediadas pela IA, que está na essência dos modelos de negócio das plataformas e aplicativos que a gente usa no cotidiano. Não falta capacidade ao brasileiro, o que carecemos é de infraestrutura apropriada, de financiamento para pesquisa, de apoio efetivo ao empreendedorismo. Precisamos, como nos países desenvolvidos, criar ecossistemas favoráveis à inovação, envolvendo o setor público e privado, as universidades, os investidores. Não vejo o Brasil competindo internacionalmente, mas podemos desenvolver soluções de IA específicas para a realidade brasileira, temos potencial de competir em alguns setores como, por exemplo, o agronegócio. O futuro sustentável depende de políticas públicas.
Parepense
A revista eletrônica ParePense desafia a compreensão do nosso tempo através de um olhar diversificado que abrange desde a Filosofia até as Artes. Com reflexões profundas, críticas e sensíveis à realidade, buscamos promover uma visão de mundo plural, ética e responsável. Nossa linguagem é simples, mas nossos assuntos são complexos. Nossa equipe trabalha com autores de diversas partes do mundo para fornecer um conteúdo relevante, interessante e impactante.
