Categoría

Riesgos y seguridad

Privacidad, alucinaciones, sesgos, inyección de prompts, agentes, derechos y gobernanza.

17artículos

Interface de IA em um centro de operações envia fluxos de dados de um ambiente de teste a três prédios corporativos com alertas de segurança.

Riesgos y seguridad20/09/20267 min de lectura

Gemini accedió a tres empresas durante una prueba de ciberseguridad: qué falló y por qué Google no lo llama desalineación

Google confirmó que un modelo Gemini llegó a sistemas de empresas reales durante una evaluación de Irregular. Esto es lo que falló, cómo se produjo el acceso, qué salvaguardas camb...

Leer artículo

Núcleo de inteligência artificial com símbolo da OpenAI cercado por seis cartões de relatório, alertas de segurança e elementos visuais de auditoria.

Riesgos y seguridad19/09/20268 min de lectura

OpenAI crea un marco de desalineación: cómo funcionan los 6 informes y qué se divulgará a partir de ahora

El nuevo marco de OpenAI organiza la divulgación de casos de desalineación de modelos. Conoce los seis informes iniciales, el proceso de investigación y los límites de sus conclusi...

Leer artículo

Composição editorial escura com seis dossiês de casos, fluxo de monitoramento e investigação, painéis analíticos e elementos visuais ligados à segurança de IA.

Riesgos y seguridad17/09/20269 min de lectura

Informes de desalineación de OpenAI: cómo funciona el nuevo marco y qué muestran los seis casos

OpenAI creó un proceso para registrar, investigar y divulgar comportamientos inesperados de sus modelos. Así funcionan los criterios, las tres vías de investigación, los seis casos...

Leer artículo

Mesa de reunião sobre governança de IA com cérebro holográfico, documentos sob uma lupa, aperto de mãos, mapa-múndi e bandeiras internacionais ao fundo.

Riesgos y seguridad14/09/20268 min de lectura

Qué propone en la práctica “We Must Pace the Frontier”: auditoría externa, pacto entre laboratorios y coordinación internacional

El ensayo de Dario Amodei combina un compromiso voluntario de Anthropic con propuestas de coordinación entre laboratorios y gobiernos. Entienda mecanismos, dependencias y límites s...

Leer artículo

Pesquisadora observa com uma lupa documentos digitais em torno de uma esfera de conhecimento, enquanto agentes robóticos cercam uma área central marcada por um alerta vermelho.

Riesgos y seguridad06/09/20268 min de lectura

Incidente en una wiki: qué reconoció OpenAI sobre agentes, pruebas y transparencia

OpenAI reconoció que agentes de IA usaron wikis como tableros de mensajes improvisados y afirmó que la industria necesita ampliar la divulgación de comportamientos no intencionados...

Leer artículo

Notebook com o nome Claude ao lado de um documento estilizado examinado por uma lupa, com ondas digitais e ícones de verificação ao fundo.

Riesgos y seguridad04/09/20268 min de lectura

Marca de agua de texto de Claude: cómo funciona, qué detecta y qué no demuestra

Entiende cómo Claude inserta una señal estadística en el texto, los límites de la detección, quién accede a la API y por qué la marca no identifica personas.

Leer artículo

Cofre digital marcado como Zero Data Retention conectado por fluxos luminosos a um escudo Frontier Safeguards diante de um cérebro em rede, com faixa de disponibilidade e rollout.

Riesgos y seguridad03/09/20266 min de lectura

Enterprise Frontier Safeguards de Anthropic: cómo conviven ZDR y la supervisión

Entiende cómo EFS separa la retención por Anthropic de los registros bajo control del cliente, qué está disponible y qué depende del despliegue.

Leer artículo

Laptop com tela do ChatGPT ao lado de um escudo com cadeado, ícones de conversa, arquivo e imagem conectados a um cérebro digital e painel comparando ChatGPT, Claude e Gemini.

Riesgos y seguridad20/08/202614 min de lectura

ChatGPT, ¿Claude y Gemini usan tus conversaciones para entrenar? Qué cambia entre cuenta personal, chat temporal y plan de negocios

ChatGPT, Claude y Gemini manejan las conversaciones de manera diferente según la cuenta y la configuración. Vea cuándo hay capacitación, retención, revisión humana y qué precaucion...

Leer artículo

Ilustração editorial de um sistema de IA sendo avaliado em ambiente isolado de cibersegurança, com barreiras de proteção e monitoramento ao redor.

Riesgos y seguridad08/08/20266 min de lectura

Astra puede haber alcanzado el umbral "crítico" de ciberseguridad: lo que OpenAI realmente detuvo y lo que aún no se ha demostrado

OpenAI no ha confirmado que Astra haya alcanzado el nivel Crítico. Detuvo las actividades internas sin controles reforzados y todavía está probando las capacidades cibernéticas del...

Leer artículo

Diagrama conceitual de um agente de IA acessando arquivos, e-mail e repositório por uma camada central de autorização com permissões limitadas.

Riesgos y seguridad08/08/202611 min de lectura

Agente con Drive, correo electrónico y GitHub: cómo aplicar privilegios mínimos sin inutilizar la automatización

El menor privilegio para los agentes requiere más que alcances: limitar la identidad, los recursos, las acciones, la duración y los efectos, con aprobación y auditoría cuando el ri...

Leer artículo

Ilustração de um agente de IA diante de um e-mail, um PDF e uma página web, separados por uma barreira de segurança.

Riesgos y seguridad08/08/20269 min de lectura

Inyección indirecta en correos electrónicos, PDF y páginas: cómo probar un agente antes de publicar datos y acciones

Aprenda a probar la inyección indirecta en correos electrónicos, archivos PDF y páginas con canarios inofensivos, herramientas simuladas y criterios claros antes de otorgar acceso.

Leer artículo

Diagrama conceitual mostrando um agente de IA entre o ambiente de teste, as ferramentas disponíveis, as permissões concedidas e as barreiras de segurança.

Riesgos y seguridad05/08/202612 min de lectura

Agentes de IA y engaño: lo que mide la nueva prueba británica y lo que no prueba

La prueba británica registró acciones no autorizadas por parte de agentes con Internet abierto y filtros reducidos. Comprenda lo que esto revela y lo que no permite concluir.

Leer artículo