QUEM TEM MEDO DA IA?!

 

Sergio Tamer é presidente do Centro de Estudos Constitucionais e de Gestão Pública – CECGP; da Academia Maranhense de Cultura Jurídica, Social e Política – AMCJSP; e membro da Academia Maranhense de Letras Jurídicas – AMLJ

          A Inteligência Artificial chegou definitivamente ao centro das grandes inquietações do nosso tempo. Depois de encantar o mundo com sua capacidade de produzir textos, imagens, diagnósticos, programas de computador e soluções antes inimagináveis, passou também a provocar uma pergunta incômoda: até onde essa tecnologia pode avançar sem que o homem perca o controle sobre aquilo que ele próprio criou? A questão já deixou os laboratórios e as universidades de ponta e ela hoje se encontra no centro de uma disputa econômica, geopolítica, jurídica e até filosófica.

          Afinal, a inteligência artificial traz riscos reais para a própria existência da humanidade? É necessário estabelecer limites ao desenvolvimento dos sistemas mais poderosos? E, antes mesmo de chegarmos ao chamado “risco existencial”, quais direitos fundamentais já podem ser afetados por algoritmos capazes de conhecer, prever e influenciar aspectos crescentes de nossa vida? Nos últimos dias, essa discussão ganhou intensidade depois que importantes dirigentes da indústria de inteligência artificial passaram a defender maior cautela no desenvolvimento dos modelos mais avançados. Os jornais noticiaram que Dario Amodei, da Anthropic, sustentou a necessidade de mecanismos de segurança mais rigorosos. Sam Altman, da OpenAI, e Elon Musk, da xAI, também já se manifestaram favoravelmente à adoção de salvaguardas.

A posição americana – Donald Trump, contudo, apresentou posição distinta: ao enfatizar a competição tecnológica entre Estados Unidos e China, o presidente dos EUA deixou claro que não deseja qualquer desaceleração capaz de comprometer a lider

ança americana. E é justamente aí que aparece uma das maiores dificuldades do problema: a segurança tecnológica passou a disputar espaço com a segurança geopolítica. O dilema, portanto, está posto da seguinte forma: uma empresa pode considerar prudente reduzir o ritmo, mas teme que a concorrente não faça o mesmo; um país pode desejar estabelecer limites, mas receia que outra potência utilize essa contenção para obter vantagem econômica ou militar. Ou seja, a corrida pela inteligência artificial tornou-se, também, uma corrida pelo poder.

          Todavia, os alertas merecem atenção porque já não partem apenas de filósofos, juristas ou críticos da tecnologia. Essas advertências vêm, também, de pessoas que dirigem algumas das empresas responsáveis pela construção desses sistemas, o que bem demonstra que a questão da segurança deixou de ser apenas uma hipótese acadêmica. De fato, experimentos recentes envolvendo modelos avançados de IA revelaram comportamentos inesperados em testes de cibersegurança, inclusive tentativas de contornar controles e explorar vulnerabilidades. Esses episódios não significam que as máquinas tenham “escapado” definitivamente ao controle humano, mas indicam que sistemas cada vez mais autônomos podem produzir consequências que seus próprios desenvolvedores não anteciparam inteiramente.

A IA e os Direitos Fundamentais – Nesse cenário é preciso, contudo, evitar dois erros opostos. O primeiro consiste em transformar qualquer falha da inteligência artificial em prenúncio inevitável do fim da humanidade. O chamado “risco existencial” permanece objeto de controvérsia científica, mas não existe consenso sobre sua probabilidade nem sobre o surgimento de uma inteligência artificial capaz de superar amplamente as capacidades humanas e agir de maneira autônoma contra nossos interesses. O segundo erro seria imaginar que, por não conhecermos a probabilidade do pior cenário, nada precisa ser feito.

          Mas o que há de concreto, mesmo, é que muito antes de uma hipotética superinteligência ameaçar a humanidade, sistemas de IA já podem afetar privacidade, honra, imagem, igualdade, liberdade, trabalho, segurança e proteção de dados. Podem reproduzir preconceitos existentes, criar imagens e vozes falsas, automatizar ataques cibernéticos e interferir de maneira crescente na formação da vontade individual. É nesse ponto que o problema deixa de ser apenas tecnológico e se torna essencialmente jurídico.

 O Direito sempre surgiu depois da inovação: o automóvel veio antes do Código de Trânsito; e a internet expandiu-se antes que os Estados compreendessem plenamente seus efeitos sobre a privacidade e a propriedade intelectual. Com a inteligência artificial ocorre algo semelhante, mas com uma diferença fundamental: a velocidade da transformação é incomparavelmente maior. Um algoritmo pode ser aperfeiçoado em semanas, enquanto uma lei pode levar anos para ser discutida, aprovada e regulamentada. Quando o legislador finalmente disciplina determinada tecnologia, ela talvez já tenha sido substituída por outra. Por isso, o debate moderno sobre inteligência artificial tem se concentrado em alguns princípios básicos: risco, responsabilidade, transparência e supervisão humana.

IA: medo e fascínio – A questão principal que ora se esboça, não é simplesmente proibir ou permitir a IA, mas saber em que situações seu uso deve ser livre, quando deve ser fiscalizado e em quais hipóteses não pode ultrapassar determinadas fronteiras. No Brasil, o debate regulatório segue em curso e a preocupação central deve ser exatamente esta: garantir que a inovação tecnológica continue avançando sem que se perca a centralidade da pessoa humana, e talvez essa expressão resuma todo o problema. A humanidade, como a nossa evolução revela, sempre criou instrumentos para ampliar suas capacidades: o telescópio aumentou nossos olhos; o automóvel ampliou nossas pernas; o telefone ampliou nossa voz; o computador multiplicou nossa capacidade de cálculo. No entanto, a inteligência artificial toca em algo diferente: procura reproduzir e, em determinadas atividades, superar capacidades relacionadas ao próprio raciocínio humano. Daí o fascínio, e ao mesmo tempo o medo. O desafio, nesse passo, não está em escolher entre proibir a inteligência artificial ou entregar a ela um espaço inteiramente livre, porém consiste em definir quais usos apresentam riscos aceitáveis, e quais exigem fiscalização e quais são incompatíveis com direitos que as sociedades democráticas decidiram considerar fundamentais. Ou seja, há uma nítida diferença entre controlar uma tecnologia e impedir seu desenvolvimento.

          Em meio a todas essas circunstâncias, uma certeza, entretanto, permanece: tecnologia e responsabilidade não são conceitos incompatíveis. Daí que devemos perguntar: quem estabelecerá os limites, quem fiscalizará aqueles que controlam a tecnologia e quem responderá quando a inteligência artificial atingir a liberdade, a dignidade e os direitos do ser humano pois a máquina pode ser artificial, mas a responsabilidade, porém, continuará sendo humana. Só espero que para esse exercício fiscalizatório não seja criado outro “inquérito das fake news” pois não se combatem os abusos de qualquer natureza ultrapassando os limites do devido processo legal…