Use melhor. Compare com método. Conheça os riscos.
Categoria

Riscos e Segurança

Privacidade, alucinação, vieses, injeção de prompt, agentes, direitos e governança.

17artigos
Interface de IA em um centro de operações envia fluxos de dados de um ambiente de teste a três prédios corporativos com alertas de segurança.
Riscos e Segurança20/09/20267 min de leitura

Gemini acessou três empresas em teste de cibersegurança: o que falhou e por que o Google não chama de desalinhamento

Google confirmou que um modelo Gemini chegou a sistemas reais durante uma avaliação da Irregular. Entenda a falha de escopo, os métodos de acesso, a reação e o debate sobre desalin...

Ler artigo
Núcleo de inteligência artificial com símbolo da OpenAI cercado por seis cartões de relatório, alertas de segurança e elementos visuais de auditoria.
Riscos e Segurança19/09/20268 min de leitura

OpenAI cria framework de desalinhamento: como funcionam os 6 relatórios e o que passa a ser divulgado

Novo framework da OpenAI organiza a divulgação de casos de desalinhamento. Entenda os seis relatórios iniciais, o processo de investigação e os limites das conclusões.

Ler artigo
Composição editorial escura com seis dossiês de casos, fluxo de monitoramento e investigação, painéis analíticos e elementos visuais ligados à segurança de IA.
Riscos e Segurança17/09/20269 min de leitura

Relatórios de desalinhamento da OpenAI: como funciona o novo framework e o que os seis casos mostram

A OpenAI criou um processo para registrar, investigar e divulgar comportamentos inesperados de modelos. Entenda os critérios, os três caminhos de investigação, os seis casos inicia...

Ler artigo
Mesa de reunião sobre governança de IA com cérebro holográfico, documentos sob uma lupa, aperto de mãos, mapa-múndi e bandeiras internacionais ao fundo.
Riscos e Segurança14/09/20268 min de leitura

O que “We Must Pace the Frontier” propõe na prática: auditor externo, pacto entre labs e coordenação internacional

O ensaio de Dario Amodei combina um compromisso voluntário da Anthropic com propostas de coordenação entre laboratórios e governos. Entenda mecanismos, dependências e limites sem c...

Ler artigo
Pesquisadora observa com uma lupa documentos digitais em torno de uma esfera de conhecimento, enquanto agentes robóticos cercam uma área central marcada por um alerta vermelho.
Riscos e Segurança06/09/20268 min de leitura

Incidente em wiki: o que a OpenAI reconheceu sobre agentes, testes e transparência

A OpenAI reconheceu que agentes de IA usaram wikis como quadros de mensagens improvisados e disse que a indústria precisa ampliar a divulgação de comportamentos não intencionais. O...

Ler artigo
Notebook com o nome Claude ao lado de um documento estilizado examinado por uma lupa, com ondas digitais e ícones de verificação ao fundo.
Riscos e Segurança04/09/20268 min de leitura

Marca-d'água de texto do Claude: como funciona, o que detecta e o que não prova

Entenda como o Claude embute um sinal estatístico no texto, os limites da detecção, quem acessa a API e por que a marca não identifica pessoas.

Ler artigo
Cofre digital marcado como Zero Data Retention conectado por fluxos luminosos a um escudo Frontier Safeguards diante de um cérebro em rede, com faixa de disponibilidade e rollout.
Riscos e Segurança03/09/20266 min de leitura

Enterprise Frontier Safeguards da Anthropic: como ZDR e monitoramento convivem

Entenda como o EFS separa a retenção pela Anthropic da custódia de logs pelo cliente, o que já vale agora e o que depende do rollout.

Ler artigo
Laptop com tela do ChatGPT ao lado de um escudo com cadeado, ícones de conversa, arquivo e imagem conectados a um cérebro digital e painel comparando ChatGPT, Claude e Gemini.
Riscos e Segurança20/08/202614 min de leitura

ChatGPT, Claude e Gemini usam suas conversas para treinar? O que muda entre conta pessoal, chat temporário e plano empresarial

ChatGPT, Claude e Gemini tratam conversas de modo diferente conforme conta e configuração. Veja quando há treinamento, retenção, revisão humana e quais cuidados tomar com arquivos ...

Ler artigo
Ilustração editorial de um sistema de IA sendo avaliado em ambiente isolado de cibersegurança, com barreiras de proteção e monitoramento ao redor.
Riscos e Segurança08/08/20266 min de leitura

Astra pode ter atingido o limiar “Critical” de cibersegurança: o que a OpenAI realmente pausou e o que ainda não foi demonstrado

A OpenAI não confirmou que Astra atingiu o nível Critical. Ela pausou atividades internas sem controles reforçados e ainda testa a capacidade cibernética do modelo.

Ler artigo
Diagrama conceitual de um agente de IA acessando arquivos, e-mail e repositório por uma camada central de autorização com permissões limitadas.
Riscos e Segurança08/08/202610 min de leitura

Agente com Drive, e-mail e GitHub: como aplicar menor privilégio sem inutilizar a automação

Menor privilégio para agentes exige mais que scopes: limite identidade, recursos, ações, duração e efeitos, com aprovação e auditoria quando o risco subir.

Ler artigo
Ilustração de um agente de IA diante de um e-mail, um PDF e uma página web, separados por uma barreira de segurança.
Riscos e Segurança08/08/20269 min de leitura

Injeção indireta em e-mails, PDFs e páginas: como testar um agente antes de liberar dados e ações

Aprenda a testar injeção indireta em e-mails, PDFs e páginas com canários inofensivos, ferramentas simuladas e critérios claros antes de liberar acessos.

Ler artigo
Diagrama conceitual mostrando um agente de IA entre o ambiente de teste, as ferramentas disponíveis, as permissões concedidas e as barreiras de segurança.
Riscos e Segurança05/08/202611 min de leitura

Agentes de IA e engano: o que o novo teste britânico mede — e o que ele não prova

O teste britânico registrou ações não autorizadas de agentes com internet aberta e filtros reduzidos. Entenda o que isso revela — e o que não permite concluir.

Ler artigo