Guía de integración

Mira qué bots de IA visitan tu sitio

Un asistente de IA solo puede citar una página que su crawler pudo leer. Sube un log de acceso de tu servidor o tu CDN y mira cuáles de los 20 crawlers de IA te visitan, qué visitas son auténticas y qué páginas les fallan.

Qué hace

  • Sabe quién lee tu sitio: visitas de 20 crawlers de IA, entre ellos GPTBot, ClaudeBot y PerplexityBot, cada una marcada según para qué vino: entrenamiento, índice de búsqueda, pedido de usuario o anuncios.
  • Distingue los crawlers auténticos de los impostores: una visita queda verificada solo cuando llega desde las direcciones que publica la propia empresa del crawler.
  • Encuentra las páginas que responden a los crawlers de IA con un 404 o un error del servidor, las que no pueden citarse hasta que las arregles.
  • Mira qué páginas lee cada crawler y cómo se mueve su actividad día a día.
  • Pregúntale al Modo Agente o a tu cliente MCP qué hicieron los crawlers en los últimos 30 días.

Lo que no puede hacer

  • Los resultados cubren los logs que subes, así que sube una exportación nueva cada vez que quieras ver los días más recientes.
  • El Common Log Format no tiene user agent, así que no se puede contar nada. Cambia el log al formato combined.
  • Meta, Amazon, ByteDance y Cohere no publican rangos de direcciones para sus crawlers, así que esas visitas se cuentan pero nunca quedan verificadas.
  • Las páginas que sirve la caché de un CDN nunca llegan al log de tu servidor de origen. Exporta desde el CDN para ver también esas visitas.

Antes de empezar

Plan Desde Pro

  • Acceso a los logs de acceso de tu servidor web, o a una zona de Cloudflare donde puedas crear un job de Logpush.
  • Un log de nginx o Apache en formato combined, una exportación de Cloudflare Logpush, o una exportación JSON lines o CSV que incluya el user agent.
  • Un archivo de hasta 100 MB, plano o comprimido con gzip (.gz). Si el log es más grande, divídelo y sube las partes.
Configuración

Logs de crawlers de IA: configuración en 8 pasos

  1. Paso 1

    Encuentra tu log de acceso

    En nginx suele estar en /var/log/nginx/access.log; en Apache, en /var/log/apache2/access.log en Debian y Ubuntu o en /var/log/httpd/access_log en Red Hat. Los días anteriores están al lado, rotados y comprimidos; súbelos tal cual. En un hosting administrado, busca Access logs o Raw logs en el panel de control.

  2. Paso 2

    Revisa el formato en nginx

    El formato combined por defecto ya trae el user agent. Si la línea access_log usa un log_format propio, revisa que mantenga $remote_addr, $time_local, "$request", $status y "$http_user_agent" en el orden de combined, o vuelve a combined.

  3. Paso 3

    Revisa el formato en Apache

    Registra con CustomLog y el alias combined, no common: el formato common no tiene user agent. Combined es %h %l %u %t "%r" %>s %b "%{Referer}i" "%{User-agent}i".

  4. Paso 4

    O envía los logs desde Cloudflare

    En el panel de Cloudflare, abre la página Logpush de tu dominio y elige Create a Logpush job. Mándalo a un destino desde el que puedas descargar, como un bucket de R2, elige el dataset HTTP requests y envía al menos EdgeStartTimestamp, ClientRequestHost, ClientRequestURI, EdgeResponseStatus, ClientRequestUserAgent y ClientIP. Espera un día, descarga los archivos y súbelos tal cual.

  5. Paso 5

    O exporta un CSV

    Sirve cualquier herramienta que exporte pedidos, desde el panel del hosting hasta un analizador de logs, siempre que el archivo sea JSON lines o un CSV con fila de encabezado. Nombra las columnas timestamp o time, path o url, status, user_agent, y ip y host si los tienes. Funcionan comas, punto y coma y tabulaciones.

  6. Paso 6

    O conecta Cloudflare, Vercel o WordPress

    Olvídate de subir archivos: en Crawlers de IA, Rank Prompt mira cómo se sirve tu sitio y te ofrece primero la fuente que encaja. Cloudflare lee cada visita con un token de solo lectura, cada hora. Vercel recibe un log drain en tu proyecto que envía cada visita en el momento; los drains necesitan un equipo Pro o Enterprise en Vercel, que cobra su volumen. WordPress envía las visitas cada cinco minutos con el plugin Rank Prompt Connector.

  7. Paso 7

    Súbelo en Rank Prompt

    Abre Explorador, Búsqueda, Crawlers de IA y elige Subir un log. Cuando el archivo aparece como Leído en Logs subidos, se llenan los indicadores, el gráfico y las dos tablas.

  8. Paso 8

    Lee los resultados

    Empieza por la tasa de errores y la tabla de páginas: una página que responde 404 o 500 a OAI-SearchBot o PerplexityBot no se puede leer, y menos citar. Filtra las páginas por crawler para ver qué lee cada uno, y mira la parte verificada: las visitas sin verificar pueden ser de alguien que usa el nombre del crawler.

Solución de problemas

Logs de crawlers de IA: errores y soluciones

Estos son los mensajes que muestra la app, palabra por palabra, y lo que resuelve cada uno.

  • Este archivo pesa más de 100 MB. Divídelo y sube las partes.

    Comprime el log con gzip primero, que reduce mucho un log de texto. Si sigue siendo grande, divídelo por día y sube cada parte.

  • Este archivo está vacío.

    La exportación salió sin líneas, muchas veces porque el log se rotó un momento antes. Elige el archivo rotado o un período más largo.

  • No se pudo leer ningún pedido de este archivo. Sube un log de acceso de nginx o Apache, JSON de Cloudflare Logpush o un CSV con una columna de user agent.

    El archivo está en Common Log Format, no tiene fila de encabezado o le falta la columna de user agent. Cambia el servidor al formato combined, o exporta de nuevo con el user agent incluido.

  • No se pudo leer el archivo. Súbelo de nuevo.

    La subida se cortó o el archivo gzip está dañado. Súbelo de nuevo; si falla dos veces, descomprímelo y sube el archivo plano.

  • El plan de la marca ya no incluye crawlers de IA.

    Crawlers de IA está en Pro, Agency y Agency Plus. Mejora el plan de la cuenta y sube el log de nuevo.

Todas las integraciones

Preguntas frecuentes

Preguntas frecuentes: Logs de crawlers de IA

¿Todavía tienes preguntas? Escríbenos

¿Qué crawlers de IA cuenta Rank Prompt?

20, de OpenAI, Anthropic, Perplexity, Google, Microsoft, Apple, Meta, Amazon, Mistral y más, entre ellos GPTBot, OAI-SearchBot, ChatGPT-User, ClaudeBot, PerplexityBot, Googlebot y Applebot. Las visitas de personas quedan fuera.

¿Qué significa que una visita de un crawler esté verificada?

Que la visita vino de verdad de la empresa detrás del crawler, porque su dirección es una de las que esa empresa publica. OpenAI, Anthropic, Perplexity, Google, Microsoft, Apple, Common Crawl, DuckDuckGo y Mistral publican sus direcciones. Meta, Amazon, ByteDance y Cohere no, así que sus visitas se cuentan pero nunca quedan verificadas.

¿Rank Prompt guarda mis logs o las IP de mis visitantes?

No. El archivo se borra cuando termina de leerse, y solo se guardan conteos diarios por crawler y página, durante 13 meses. Las direcciones IP se descartan después de la verificación, y las visitas de personas nunca se guardan.

¿Por qué veo menos visitas de crawlers de las que esperaba?

Las páginas que sirve la caché de un CDN nunca llegan a tu servidor, así que el log de origen no ve esas visitas. Exporta desde el CDN, por ejemplo con Cloudflare Logpush, que ve cada pedido. Un log que cubre unas horas también muestra solo esas horas.

¿Pueden llegar las visitas sin subir un log?

Sí. Conecta Cloudflare si está delante de tu sitio, Vercel si Vercel lo sirve, o el Rank Prompt Connector en un sitio de WordPress, y las visitas llegan solas. Rank Prompt te sugiere la que encaja con tu sitio.

¿Qué plan necesito?

Crawlers de IA está en Pro, Agency y Agency Plus, y leer logs no gasta créditos.

En marcha en pocos minutos

Crea una cuenta gratis, sigue los pasos de arriba y mira qué le suma la conexión a tu visibilidad en IA.