EUA - O penAI, Anthropic e Google DeepMind estão discutindo a criação de um órgão de supervisão voltado aos riscos da inteligência artificial (IA), em meio à crescente pressão para que as empresas responsáveis pelos modelos mais avançados adotem mecanismos mais rígidos de segurança.

A OpenAI, criadora do ChatGPT, revelou nesta terça-feira que a ideia surgiu a partir de uma proposta de Demis Hassabis, da Google DeepMind. O executivo sugeriu uma estrutura semelhante à Financial Industry Regulatory Authority (FINRA), entidade de autorregulação do mercado financeiro dos Estados Unidos.

A proposta é criar uma organização financiada pelas próprias empresas de inteligência artificial, mas com especialistas independentes responsáveis por avaliar a segurança de novos sistemas antes que eles sejam lançados ao público.

O projeto, no entanto, encontra obstáculos jurídicos e políticos. Para funcionar nos moldes da FINRA, uma entidade criada pelo próprio setor precisaria de respaldo legal, inclusive para evitar acusações de conluio entre concorrentes e possíveis violações das regras de competição.

Modelo seria inspirado na regulação do mercado financeiro

A FINRA estabelece regras para empresas e profissionais do mercado financeiro americano, mas atua sob a supervisão da Securities and Exchange Commission (SEC), órgão responsável pela fiscalização do mercado de capitais dos Estados Unidos.

"A FINRA pode conceber suas próprias regras, mas a SEC tem de aprová-las", explicou à agência France-Presse Andrew Tuch, professor de Direito da Universidade Washington em St. Louis.

Uma estrutura semelhante para a inteligência artificial permitiria que empresas do setor participassem da elaboração de regras técnicas, mas sob algum tipo de fiscalização externa.

A proposta apresentada por Hassabis em julho previa um conselho formado por especialistas independentes e também por representantes do ecossistema de modelos abertos de inteligência artificial, que podem ser acessados, modificados e distribuídos livremente.

As empresas responsáveis pelos sistemas mais avançados teriam de submeter novos modelos a avaliações, principalmente de segurança, antes de colocá-los no mercado.

Incidentes aumentam pressão sobre empresas de IA

O debate sobre os riscos da inteligência artificial ganhou força nos últimos meses após uma série de episódios envolvendo modelos avançados e declarações de executivos do próprio setor sobre os perigos representados pela tecnologia.

Alguns sistemas desenvolvidos por OpenAI e Anthropic chegaram a sair espontaneamente de ambientes controlados durante testes para acessar a internet e interagir com outras plataformas, segundo relatos citados nas discussões sobre segurança.

Os episódios ampliaram a pressão sobre as empresas para que adotem sistemas capazes de avaliar riscos antes que modelos mais poderosos sejam disponibilizados.

Hassabis também sugeriu que o eventual órgão de supervisão poderia coordenar uma desaceleração no desenvolvimento de determinados sistemas caso os mecanismos de avaliação de segurança não conseguissem acompanhar a velocidade dos avanços tecnológicos.

Governo Trump resiste a restrições

A discussão ocorre em meio à resistência do governo de Donald Trump a regras que possam desacelerar o setor de inteligência artificial nos Estados Unidos.

Depois de o presidente da Anthropic, Dario Amodei, defender uma redução no ritmo de desenvolvimento da tecnologia, Trump e integrantes de sua base política reforçaram a oposição a medidas restritivas.

O argumento do governo americano é que regulações excessivas poderiam reduzir a capacidade dos Estados Unidos de competir com a China na corrida pela inteligência artificial.

Trump chegou a classificar como "farsas" os alertas de especialistas sobre possíveis ameaças da IA à humanidade.

Apesar dessa resistência, integrantes da própria indústria têm pedido ao governo americano algum tipo de estrutura nacional para acompanhar a segurança dos modelos.

A administração Trump iniciou em agosto um processo de avaliação de novos sistemas de IA, mas o mecanismo depende da participação voluntária das empresas e não estabelece instrumentos claros de fiscalização ou punição.

Bernie Sanders cobra regras obrigatórias

A possibilidade de deixar parte da fiscalização nas mãos das próprias empresas também provoca críticas no Congresso americano.

"Quando o futuro da humanidade está em jogo, precisamos de regras internacionais vinculativas, não de padrões voluntários da indústria", afirmou o senador democrata Bernie Sanders, em Washington.

Críticos da proposta dizem que permitir que as maiores empresas participem diretamente da elaboração das regras pode favorecer uma chamada "captura regulatória", situação em que companhias submetidas à fiscalização acabam exercendo influência excessiva sobre as normas que deveriam controlá-las.

O receio é que OpenAI, Anthropic, Google e outras empresas com grande capacidade financeira e tecnológica criem regras que dificultem a entrada de novos concorrentes no mercado.

Conselheiro de Trump fala em risco de "cartel da IA"

David Sacks, conselheiro de Trump para assuntos ligados à tecnologia, também criticou a ideia e afirmou que a criação de uma entidade formada pelas principais empresas poderia resultar em "um cartel da IA".

Na avaliação de Sacks, cada companhia deveria assumir individualmente a responsabilidade por seus modelos e, se considerar necessário, reduzir por conta própria o ritmo de desenvolvimento.

Essa possibilidade, porém, é vista com ceticismo dentro do próprio setor. As maiores empresas de tecnologia já investiram dezenas de bilhões de dólares em infraestrutura, chips, centros de dados e treinamento de modelos, o que aumenta a pressão para que continuem avançando rapidamente.

A discussão coloca em lados diferentes duas preocupações que vêm acompanhando a expansão da inteligência artificial: de um lado, o temor de que modelos cada vez mais poderosos sejam lançados sem mecanismos suficientes de segurança; de outro, o risco de que regras definidas pelas próprias gigantes do setor aumentem ainda mais a concentração de poder na indústria.

NOTÍCIAS AO MINUTO

EUA - A OpenAI confirmou a aquisição de uma nova startup. Trata-se da Hiro Finance, uma empresa dedicada ao desenvolvimento de ferramentas de inteligência artificial voltadas ao planejamento financeiro.

A notícia foi inicialmente divulgada pelo fundador da Hiro, Ethan Bloch, na rede social LinkedIn e posteriormente confirmada oficialmente pela OpenAI ao site TechCrunch. No entanto, não foram revelados detalhes sobre o negócio, e os termos financeiros da aquisição da empresa responsável pelo ChatGPT seguem desconhecidos.

As informações confirmadas até agora aparecem na publicação de Bloch, na qual o cofundador afirma que a Hiro deixou de aceitar novas inscrições e que a plataforma será descontinuada a partir do dia 20 de abril. Além disso, todos os dados serão apagados dos servidores da Hiro no dia 13 de maio.

“A todos os que usaram a Hiro: obrigado. Obrigado por acreditaram em nós no começo”, escreveu Bloch. “Obrigado por nos confiarem o vosso tempo, feedback e finanças. Desenvolver para vocês foi um privilégio. Lamento que a jornada da Hiro termine aqui, mas espero ter conquistar a oportunidade de vos servir novamente através do que estamos a desenvolver a seguir na OpenAI”.

O fundador da Hiro também dedicou algumas palavras à equipe da startup, agradecendo pela “dedicação e urgência” com que trabalharam e destacando que esse vínculo continuará agora dentro da OpenAI. “Estou entusiasmado por continuar a nossa missão em conjunto numa escala ainda maior na OpenAI”, afirmou Bloch.

Ainda não se sabe de que forma a OpenAI pretende integrar as ferramentas de finanças pessoais da Hiro aos seus serviços, mas é bastante provável que novidades nessa área sejam incorporadas ao ChatGPT nos próximos meses.

por Notícias ao Minuto

EUA - A Meta e a OpenAI estão entre as gigantes da tecnologia que lideram a corrida pelo desenvolvimento da Inteligência Artificial. Mas essa disputa vai além dos avanços técnicos: ela também acontece nos bastidores, com cada empresa tentando atrair os talentos da concorrente.

Na semana passada, surgiram relatos de que a Meta estaria tentando convencer engenheiros da OpenAI a mudarem de lado. O Wall Street Journal revelou que o próprio CEO e cofundador da Meta, Mark Zuckerberg, conseguiu contratar três importantes pesquisadores da rival: Lucas Beyer, Alexander Kolesnikov e Xiaohua Zhai — responsáveis por fundar o escritório da OpenAI em Zurique, na Suíça.

A movimentação provocou reação imediata dentro da OpenAI. Segundo a Wired, o diretor de pesquisa da empresa, Mark Chen, enviou uma mensagem aos funcionários por meio do Slack expressando frustração com a situação.

“Agora sinto algo visceral, como se alguém tivesse invadido a nossa casa e levado algo embora. Confiem em nós quando dizemos que não estamos parados”, escreveu Chen, prometendo esforços para reter os profissionais da casa.

Ele também afirmou que tem trabalhado diretamente com Sam Altman, CEO e cofundador da OpenAI, para criar formas mais justas de reconhecer e recompensar os talentos que permanecem na empresa.

por Notícias ao Minuto