Nos últimos tempos, a Inteligência Artificial (IA) tem avançado rapidamente, suscitando debates sobre os riscos e benefícios dessa tecnologia. Carlo Martinucci, matemático e divulgador, ressalta que não se trata de deter o progresso, mas de criar mecanismos de controle adequados para garantir um desenvolvimento seguro e responsável.
O desafio dos freios na IA
Martinucci lembra que mais de 1.300 funcionários de empresas que desenvolvem modelos avançados de IA aderiram ao apelo “Pacing the Frontier”, que não pede a paralisação da pesquisa, mas a implementação de medidas para controlar seu avanço. A velocidade da competição econômica e geopolítica, especialmente entre Estados Unidos e China, impulsiona o desenvolvimento acelerado, muitas vezes sem que as ferramentas de controle acompanhem esse ritmo.
Uma das iniciativas para aumentar a segurança são os “avaliadores embutidos”, profissionais independentes que examinam os modelos e sistemas de segurança dentro dos laboratórios. Contudo, Martinucci alerta para o risco do “safety washing”, quando medidas aparentam ser eficazes, mas são apenas certificações superficiais, sendo necessário garantir a independência real desses controles.
IA cultivada e o controle humano
Segundo a encíclica Magnifica humanitas, as inteligências artificiais modernas são mais “cultivadas” do que “construídas”, pois os programadores criam arquiteturas sobre as quais a IA cresce, sem controlar todos os detalhes. Isso dificulta o controle sobre o que a IA pode se tornar.
Martinucci destaca que, conforme o princípio de Leão XIV, decisões críticas, como o uso de força letal por armas autônomas, devem permanecer sob controle humano efetivo, consciente e responsável. Esse princípio pode ser aplicado de forma mais ampla para orientar o desenvolvimento e uso da IA.
Benefícios e prudência na aplicação da IA
Apesar dos riscos, a IA oferece benefícios em áreas como medicina, inclusão de pessoas com deficiência e comunicação. Exemplos recentes incluem a contribuição da IA para resolver problemas matemáticos complexos, demonstrando seu potencial para ampliar capacidades humanas.
Martinucci enfatiza que a IA não deve ser vista como uma salvação ou substituto para soluções humanas, mas como uma ferramenta que deve ser usada com prudência, equilibrando riscos e oportunidades, assim como ocorre em outras áreas da pesquisa científica.
Responsabilidade coletiva
A competição entre grandes potências e as pressões comerciais tornam o cenário desafiador. Martinucci destaca que nenhuma empresa ou laboratório pode conduzir sozinho essa transformação, sendo necessária a colaboração entre governos, comunidade científica, organismos internacionais, sociedade civil e cidadãos.
Ele alerta para o perigo de reduzir o debate a extremos entre catastrofismo e otimismo exagerado, defendendo o discernimento e a participação ativa da sociedade para orientar a evolução da IA de forma responsável.
Conteúdo informativo. Cada situação deve ser analisada individualmente por profissional habilitado.
Para mais informações e suporte em contabilidade e gestão empresarial, converse com a Irmãos Resende Contabilidade.