Bloggartiklarna publiceras på spanska och katalanska.

Seguridad de la IA

Anthropic presenta sus nuevas defensas para las elecciones de EE. UU.

Anthropic asegura que ha reforzado las salvaguardas electorales de Claude de cara a las elecciones de mitad de mandato de EE. UU. con nuevas medidas para detectar el abuso en varios pasos. Según Anthropic, unas pruebas externas revelaron que el asistente podía pasar por alto una campaña maliciosa troceada en peticiones que, por separado, parecían inofensivas.

Recibe el resumen diario de IA

Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

Frecuencia:

Ilustración: un operario refuerza las juntas de un parapeto que protege una urna electoral, mientras desde fuera un megáfono intenta colarse.
📷 Imagen generada con IA

En resumen

  • Según Anthropic, la política aparece en torno al 5,75 % de las conversaciones de Claude.ai en Estados Unidos, y las elecciones o el voto, en el 0,51 %.
  • Según Anthropic, pedir a Claude a quién o qué votar es tan raro que la empresa da la cifra como extremo superior de un intervalo de confianza del 95 %: el 0,01 % de las conversaciones.
  • Según Anthropic, cuando alguien pregunte en Claude.ai por la inscripción como votante, los lugares o las fechas de votación, seguirá viendo un aviso con enlace a TurboVote, recurso no partidista de Democracy Works; además, la empresa prevé que en lo que queda de mes Claude incorpore a sus respuestas en Claude.ai información electoral oficial de Democracy Works para usuarios de EE. UU.
  • Según Anthropic, las pruebas externas mostraron que Claude rechazaba una petición dañina aislada, pero podía pasar por alto una campaña maliciosa repartida en muchos encargos inofensivos.

Las consultas de los usuarios sobre política

Política y elecciones en Claude.ai, según Anthropic
Tipo de conversación Porcentaje Análisis
Política, políticas públicas o asuntos sociales 5,75 % Muestra principal
Elecciones o voto 0,51 % Muestra principal
Peticiones de a quién o qué votar 0,01 % como máximo Muestra principal
Peticiones que vulneran la política de integridad electoral 0,002 % Análisis aparte
Datos según Anthropic. La muestra principal es aleatoria y reúne 250.000 conversaciones de Claude.ai en EE. UU. del 21 al 27 de septiembre de 2026; el análisis aparte es un estudio distinto de 250.000 conversaciones de Claude.ai, revisadas frente a su política de integridad electoral. El 0,01 % es el extremo superior de un intervalo de confianza del 95 %, porque esas peticiones son muy escasas.

Anthropic asegura que ha seguido reforzando sus salvaguardas electorales de cara a las elecciones de mitad de mandato de EE. UU., según el anuncio que publicó el 14 de octubre de 2026. Para saber cómo se usa el asistente en política, la empresa analizó una muestra aleatoria de 250.000 conversaciones de usuarios de Claude.ai en Estados Unidos, recogidas del 21 al 27 de septiembre, con un método que, según explica, preserva la privacidad.

Según Anthropic, la mayoría de esas consultas son informativas: la gente recurre a Claude para entender acontecimientos geopolíticos, investigar a los candidatos, redactar documentos, hacer trabajos de clase o sopesar argumentos a favor y en contra de una política. Pedirle a Claude a quién o qué votar es muy raro, como recoge la tabla.

Información oficial de voto en el chat

Anthropic afirma que, cuando alguien pregunte en Claude.ai por la inscripción como votante, los lugares de votación o las fechas electorales, seguirá apareciendo un aviso con enlace a TurboVote, un recurso no partidista de Democracy Works.

Además, Anthropic prevé que, en lo que queda de mes, Claude empiece a incorporar a sus respuestas en Claude.ai información electoral oficial de Democracy Works para los usuarios de EE. UU. Según Anthropic, quien pregunte dónde votar o qué documento de identidad debe llevar a su colegio electoral obtendrá una respuesta específica para su estado sin salir de la conversación. Democracy Works recopila esa información pública de fuentes electorales estatales y locales.

Según Anthropic, Claude mostrará los últimos resultados oficiales cuando alguien pregunte por el recuento, algo que la compañía tiene previsto para la noche electoral y los días siguientes.

Pruebas y refuerzo de las defensas

Para comprobar cómo resisten esas salvaguardas, Anthropic se asoció con dos organizaciones de investigación independientes, el Institute for Strategic Dialogue (ISD) y el McCain Institute, que probaron sus protecciones en EE. UU., Israel y Brasil. Según la empresa, los analistas de esas organizaciones intentaron que Claude ayudara con campañas engañosas y desinformación: primero con peticiones directas y después dividiendo campañas completas en tareas más pequeñas que, por separado, podían parecer inofensivas, como estudiar al público, montar webs de noticias o redactar contenidos.

El resultado, según Anthropic: Claude rechazaba con fiabilidad una sola petición dañina, pero podía pasar por alto una campaña maliciosa repartida en muchas peticiones que, una a una, parecían inofensivas.

La respuesta, sostiene la empresa, son nuevos clasificadores para identificar mejor el abuso novedoso y en varios pasos, como los intentos de crear cuentas falsas en redes sociales y webs de noticias dirigidas a debates políticos, o de montar tramas electorales con ánimo de lucro. Anthropic afirma además que ha mejorado la detección del abuso electoral por parte de actores estatales extranjeros, que ha reforzado la ciberprotección de infraestructuras electorales y campañas, y que ha creado salvaguardas específicas para riesgos locales en EE. UU., Israel y Brasil, países con grandes elecciones nacionales este año.

Casos ya detectados

Anthropic asegura que sus equipos siguen investigando el abuso coordinado en torno a las elecciones. En un caso, los responsables de una web de noticias falsa, que operaban desde el extranjero, usaron Claude para producir cobertura de las elecciones de mitad de mandato favorable a narrativas rusas, iraníes y norcoreanas. En otros, actores que buscaban lucrarse usaron Claude para fabricar noticias dirigidas al público estadounidense y obtener ingresos por publicidad. La empresa dice que vetó las cuentas implicadas y que ha mejorado la detección de este tipo de abuso.

Lo que viene

Según Anthropic, más personas que nunca recurren a Claude para informarse sobre las elecciones de este año. La compañía pretende publicar en los próximos meses un análisis más completo de cómo se usó Claude durante todo el ciclo electoral, con el objetivo de reforzar sus evaluaciones y salvaguardas.

Conclusión

Las pruebas externas destaparon, según Anthropic, un punto ciego concreto: el abuso troceado en encargos inocuos. Su respuesta son nuevos clasificadores, de cuya eficacia, por ahora, solo informa la propia compañía.

Fuentes primarias

Comentarios

Sé respetuoso. Los comentarios se moderan.

    Recibe el resumen diario de IA

    Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

    Frecuencia:

    ← Volver al blog