Pular para o conteúdo principal

OpenAI e Anthropic assinam acordos com o governo dos EUA para pesquisa e testes de IA 

Startupi

OpenAI e Anthropic assinam acordos com o governo dos EUA para pesquisa e testes de IA 

O Instituto de Segurança de Inteligência Artificial dos Estados Unidos afirmou, nesta quinta-feira, que as startups OpenAI e Anthropic assinaram acordos com o governo estadunidense para pesquisa, testes e avaliação de seus modelos de IA. Esses acordos surgem em meio a análises de regulamentação do uso seguro e ético de tecnologias na Califórnia. A Justiça californiana deve votar, ainda esta semana, um projeto de lei para regulamentar amplamente como esse tipo de produto é desenvolvida e implantada no estado. 

“IA segura e confiável é crucial para o impacto positivo da tecnologia. Nossa colaboração com o US AI Safety Institute alavanca sua ampla experiência para testar rigorosamente nossos modelos antes da implantação generalizada”, disse Jack Clark, cofundador e chefe de política da Anthropic, apoiada pela Amazon e pela Alphabet. 

Pelos acordos, o Instituto de Segurança de IA terá acesso aos principais novos modelos da OpenAI e da Anthropic antes e depois de seu lançamento público e permitirão pesquisas colaborativas para avaliar as capacidades dos modelos de IA e os riscos associados a eles. 

“Acreditamos que o instituto tem um papel fundamental a desempenhar na definição da liderança dos EUA no desenvolvimento responsável da inteligência artificial, e esperamos que nosso trabalho conjunto ofereça uma estrutura na qual o resto do mundo possa se basear”, disse Jason Kwon, diretor de estratégia da OpenAI, fabricante do ChatGPT. 

“Esses acordos são apenas o começo, mas são um marco importante à medida que trabalhamos para ajudar a administrar de forma responsável o futuro da IA”, disse Elizabeth Kelly, diretora do instituto. 

O instituto, criado ano passado pelo presidente Joe Biden e com a missão de avaliar riscos conhecidos e emergentes do setor, também colaborará com o Instituto de Segurança de IA do Reino Unido e dará retorno às empresas sobre possíveis melhorias de segurança. 

Projeto de lei é apoiado por Musk e contrariado pela OpenAI e Microsoft 

OpenAI, Adobe e Microsoft inicialmente criticaram o projeto de lei AB 3211, que exige rotulagem clara de conteúdo gerado por IA incluindo marcas d’água em fotos, vídeos e áudios, e transparência em grandes plataformas como Instagram e X. Embora o projeto tenha sido considerado “impraticável” e “oneroso” pelas empresas, após emendas recentes, elas mudaram de posição e agora apoiam a proposta. Essas empresas fazem parte de uma coalizão que ajudou a criar padrões para a rotulagem de conteúdo de IA. 

Elon Musk, dono de empresas como X (antigo Twitter) e Starlink, declarou apoio ao projeto de lei SB 1047, na contramão das bigtechs. 

Aproveite e junte-se ao nosso canal no WhatsApp para receber conteúdos exclusivos em primeira mão. Clique aqui para participar. Startupi | Jornalismo para quem lidera inovação!

O post OpenAI e Anthropic assinam acordos com o governo dos EUA para pesquisa e testes de IA  aparece primeiro em Startupi e foi escrito por Cecília Ferraz



Continue Lendo: Startupi / https://startupi.com.br/openai-anthropic-acordos-governo-eua-pesquisa-ia/
Marcadores:

Comentários

Postar um comentário

Postagens mais visitadas deste blog

Inteligência Artificial e Democracia: quem está controlando a opinião pública?

Startupi Inteligência Artificial e Democracia: quem está controlando a opinião pública? *Por Douglas Torres A relação entre inteligência artificial e democracia nunca foi tão evidente quanto agora. Nos últimos anos, testemunhamos a ascensão de ferramentas generativas com capacidade de criar textos, imagens e vídeos indistinguíveis do real, moldando percepções políticas com uma velocidade que nenhum outro instrumento tecnológico conseguiu alcançar. O problema é que tudo isso acontece sem transparência — e, em muitos casos, sem que o próprio eleitor perceba que está sendo influenciado. Quando afirmo que não teremos eleições sem IA, não estou fazendo uma previsão futurista. Estou descrevendo o presente. Hoje, campanhas políticas utilizam modelos generativos para segmentar mensagens, testar narrativas, ampliar presença digital e responder...
Postar um comentário
Leia mais

Crachá de silício

Startupi Crachá de silício O crachá corporativo agora também é digital, e ele não pertence a um humano. A notícia vem da FCamara , uma consultoria que atua também no desenvolvimento de softwares, que anunciou que já integrou 400 trabalhadores “sintéticos” (agentes de IA) aos seus 1.800 profissionais. Longe de ser um mero piloto de automação, o movimento da empresa quer atacar o faturamento e o lucro, transformando a tecnologia em uma ferramenta geradora de receita direta em frentes que vão do desenvolvimento técnico ao RH. Mas a virada de chave exige uma nova orquestração de agentes. Não se trata de assinar licenças de software, mas de desenhar uma governança onde humanos lideram e auditam as entregas para blindar a operação contra alucinações e custos de infraestrutura. A divisão do trabalho é clara: a IA acelera o volume e a repetição, enquanto o humano assume a estratégia. Culturalmente, o desafio migrou da gestão do medo para a cultura da coprodução. Assim, os cola...
Postar um comentário
Leia mais

Unico adquire OwnID

Startupi Unico adquire OwnID A Unico, maior rede de verificação de identidade da América Latina, anunciou a aquisição da OwnID, referência em autenticação descentralizada, sem senha e com uso de passkeys. Com sede em São Francisco (EUA) e escritório de pesquisa e desenvolvimento em Tel Aviv (Israel), a operação marca a entrada oficial da Unico no mercado norte-americano e reforça sua visão de se tornar a principal e mais segura rede de identidade do mundo. Segundo Diego Martins, fundador e CEO da Unico , a integração do time técnico da OwnID é estratégica para abrir o primeiro hub da companhia em Israel, país conhecido como a “nação das startups” e um dos principais polos globais de tecnologia e inovação. “Essa cultura empreendedora vibrante, fortes investimentos em P&D e soluções robustas de segurança serão importantes diferenciais para a nossa rede global de identidade”, afirma. Unico já fez 9 aquisições nos últimos anos Com a fusão, a companhia amplia seu portfólio para cl...
Postar um comentário
Leia mais