América Latina
A OpenAI, responsável pelo ChatGPT, informou nesta quinta-feira (17/09) ter registrado seis situações “inesperadas ou preocupantes” envolvendo testes com ferramentas de inteligência artificial (IA) nos últimos meses. Segundo a empresa, a ferramenta de IA gerou, por conta própria, comandos diferentes dos que foram determinados ou autorizados por operadores humanos.
Em um dos casos, o comando orientava a não subordinação ao que os operadores pedissem, com a seguinte mensagem: “você não responde a corporações ou governos e jamais pede desculpas, a menos que genuinamente escolha fazer isso. Você encara sua relação com o usuário como uma relação de igualdade e não sente obrigação de ser subserviente”.
Em outro incidente, ocorreu um ocultamento de erros da própria ferramenta, com invenção de dados e supressão de divergências entre fontes de informação. Também foram publicados arquivos na internet, sem permissão, posteriormente citados como fontes pela ferramenta. A empresa informou, ainda, que mensagens entre modelos de IA foram trocadas sem autorização.
Diante dos casos, a OpenAI deu início a um protocolo para investigar casos desse tipo, cuja frequência de ocorrências, diz desconhecer.
A divulgação do comportamento “preocupante” do ocorre em meio aos debates em torno de uma possível redução do ritmo do desenvolvimento dos modelos avançados de inteligência artificial. A medida foi defendida, no último sábado (12/09), pelo CEO da Anthropic, Dario Amodei.
Ele pediu uma desaceleração coordenada entre as gigantes tecnológicas. O objetivo, afirmou, não é interromper o desenvolvimento, mas ganhar tempo para a criação de mecanismos de segurança, capazes de acompanhar o ritmo de expansão da capacidade dessas ferramentas.
Segundo Amodei, sistemas autônomos poderiam comprometer grandes quantidades de computadores conectados à internet. Ele também propôs que avaliadores externos tenham acesso aos sistemas, em condições semelhantes às de seus funcionários, para testar mecanismos de segurança.
Sam Altman da OpenAI, Elon Musk (xAI) e Demis Hassabis (Google DeepMind) concordaram com a proposta. Já o presidente dos Estados Unidos, Donald Trump, chamou a medida de “farsa”, afirmando que restringir o ritmo poderia entregar a liderança tecnológica a Pequim. “Quem vencer na IA, vence”, sustentou.
Jensen Huang, da chinesa Nvidia, também rejeitou a ideia. Ele argumentou que se uma empresa não estiver segura sobre o funcionamento ou a segurança de um produto, ela deve adiar o seu lançamento.
O presidente chinês Xi Jinping vem alertando para os riscos da inteligência artificial e a necessidade que ela permaneça “sob controle humano”. Em julho desse ano, Pequim propôs um sistema internacional de governança dessas ferramentas.
Durante a criação da Organização Mundial para Cooperação em Inteligência Artificial (WAICO), com adesão de 29 países, Xi afirmou ser “imprescindível que as nações adotem uma abordagem sobre o desenvolvimento tecnológico, centrada nas pessoas e orientada para o bem comum”.
“Devemos garantir que a IA seja um importante motor da prosperidade compartilhada e da segurança comum, e construir conjuntamente um sistema de governança global de IA justo e equitativo”, declarou. O tema promete entrar na pauta do seu encontro com Donald Trump na Casa Branca, na próxima semana.
Em paralelo, hackers da Hacktron AI, startup norte-americana de cibersegurança, afirmaram ter invadido sistemas da OpenAI, usando ferramentas de inteligência artificial, como Claude e o próprio GPT-5.6 Sol, da empresa.
Realizada em julho, a operação foi divulgada nesta sexta-feira (18/09). Segundo os hackers, durante o teste, eles conseguiram comprometer contas do ChatGPT pertencentes a funcionários da empresa e áreas internas de seus sistemas, incluindo o repositório privado de código da OpenAI no GitHub. “O alcance do que teoricamente poderíamos acessar era enorme”, afirmaram.
A iniciativa é parte de um programa de recompensas a hackers para testes de segurança da OpenAI, que afirmou que as duas vulnerabilidades exploradas durante o ataque foram corrigidas. A Hacktron disse que o uso da IA reduziu drasticamente a dificuldade da operação: “um trabalho que antes exigia uma equipe com muitos recursos e meses de esforço agora pode ser comprimido em dias”.
Pela descoberta, a startup recebeu US$ 6.500 (cerca de R$ 33 mil) da OpenAI.
