Saltar al contenido principal

Transfiere archivos entre Google Cloud Storage y AWS S3 sin CLI usando RcloneView

· 9 min de lectura
Tayson
Senior Engineer

Gestionar datos entre Google Cloud Storage y AWS S3 normalmente implica lidiar con gsutil, aws cli y scripts personalizados. RcloneView te permite hacerlo todo desde una interfaz visual: explora, compara, sincroniza y programa transferencias entre GCS y S3 en minutos.

Multi-cloud es la realidad de la mayoría de los equipos de ingeniería. Tus datos de entrenamiento de ML están en buckets de GCS, tus activos de producción están en S3, y alguien necesita mantenerlos sincronizados. El enfoque tradicional (escribir scripts de shell con gsutil y aws cli) funciona, pero es frágil, difícil de monitorear e imposible de gestionar para quienes no son ingenieros.

RcloneView se conecta de forma nativa tanto a GCS como a S3, ofreciendo una GUI unificada para explorar, transferir, comparar y automatizar el movimiento de datos entre las dos plataformas de nube más grandes.

Vista previa de la aplicación RcloneView

Gestiona y sincroniza todas tus nubes en un solo lugar

RcloneView es una GUI multiplataforma para rclone. Compara carpetas, transfiere o sincroniza archivos y automatiza flujos de trabajo multinube con una interfaz visual y limpia.

  • Trabajos con un clic: Copiar · Sincronizar · Comparar
  • Programadores e historial para una automatización fiable
  • Funciona con Google Drive, OneDrive, Dropbox, S3, WebDAV, SFTP y más
WindowsmacOSLinux
Empieza gratis →

Funciones principales gratis. Automatizaciones disponibles con Plus.

¿Por qué mover datos entre GCS y S3?

Los equipos transfieren datos entre Google Cloud Storage y AWS S3 por varias razones comunes:

Redundancia multi-cloud — Almacenar datos críticos en dos proveedores principales protege contra interrupciones a nivel de proveedor y la dependencia de un solo proveedor (vendor lock-in). Si una nube falla, tus datos siguen accesibles desde la otra.

Optimización de costos — GCS y S3 tienen precios diferentes para almacenamiento, salida de datos (egress) y operaciones. Mover datos fríos al proveedor que resulte más barato según tu patrón de uso puede ahorrar una cantidad significativa de dinero.

Flujos de trabajo multiplataforma — Tu equipo de ciencia de datos usa GCP (BigQuery, Vertex AI), pero tu infraestructura de producción se ejecuta en AWS. Los datos necesitan fluir entre ambos.

Migración — Migrar de GCP a AWS (o viceversa) sin tiempo de inactividad requiere transferencias confiables y reanudables.

Cumplimiento normativo y residencia de datos — Algunas regulaciones exigen copias de datos en regiones o proveedores específicos.

Configurando remotos de GCS y S3

Agregar Google Cloud Storage

  1. Abre RcloneView y haz clic en Add Remote.
  2. Selecciona Google Cloud Storage en la lista de proveedores.
  3. Elige tu método de autenticación:
    • Service Account JSON — Recomendado para transferencias servidor a servidor. Sube tu archivo de clave de cuenta de servicio.
    • OAuth (inicio de sesión en el navegador) — Adecuado para cuentas personales de GCP. Sigue la guía de inicio de sesión OAuth.
  4. Configura tu project ID y la ubicación de bucket predeterminada si se te solicita.
  5. Guarda el remoto — tus buckets de GCS ya son navegables.

Agregar AWS S3

  1. Haz clic en Add Remote de nuevo.
  2. Selecciona Amazon S3 en la lista de proveedores.
  3. Ingresa tu Access Key ID y Secret Access Key.
  4. Selecciona tu región y endpoint.
  5. Guarda — tus buckets de S3 aparecerán en el Explorer.

Para una configuración detallada de S3, consulta la guía de conexión de AWS S3.

Add GCS and S3 remotes in RcloneView

Explorando GCS y S3 lado a lado

Una vez que ambos remotos estén conectados, ábrelos en el Explorer de dos paneles de RcloneView. Los buckets de GCS a la izquierda, los buckets de S3 a la derecha (o viceversa). Puedes:

  • Navegar por buckets y carpetas en ambos lados simultáneamente.
  • Ver tamaños de archivo, fechas y cantidades para entender qué hay dónde.
  • Arrastrar y soltar archivos directamente de GCS a S3, o usar los comandos integrados de copiar/mover.

Esta vista lado a lado te da visibilidad instantánea sobre ambas nubes sin cambiar entre la GCP Console y la AWS Console.

Browse GCS and S3 side by side in RcloneView

Escenarios de transferencia

Escenario 1: Migración única (GCS → S3)

Mover todos los datos de GCS a S3 para una migración de plataforma:

  1. Crea un trabajo de Copy:
    • Origen: remoto de GCS → selecciona tu bucket
    • Destino: remoto de S3 → selecciona el bucket de destino
  2. Configura para máxima velocidad:
    • Transferencias paralelas: 8–16 (tanto GCS como S3 manejan bien un alto paralelismo)
    • Tamaño de fragmento (chunk size): 64MB–128MB para archivos grandes
    • Activa el flag --fast-list para acelerar el listado de directorios
  3. Ejecuta el trabajo y monitorea el progreso en tiempo real.

Para migraciones grandes, ejecuta el trabajo de Copy varias veces. Después de la primera copia completa, las siguientes ejecuciones solo transfieren archivos nuevos o modificados, lo que hace seguro reanudar el proceso si se interrumpe.

Escenario 2: Sincronización continua (bidireccional)

Mantener un bucket de GCS y un bucket de S3 sincronizados continuamente:

  1. Crea un trabajo de Sync (GCS → S3) para la dirección principal.
  2. Prográmalo para ejecutarse cada hora o diariamente usando Job Scheduling.
  3. Agrega un trabajo de Sync inverso (S3 → GCS) si necesitas sincronización bidireccional.
  4. Usa Batch Jobs (v1.3) para ejecutar ambas direcciones en secuencia.

Escenario 3: Copia de seguridad selectiva entre nubes

Respaldar solo datos específicos en la otra nube:

  1. Usa las Filter Rules para incluir/excluir tipos de archivo o carpetas específicas.
    • Ejemplo: Sincronizar solo archivos *.parquet y *.csv (datasets de ML)
    • Ejemplo: Excluir los directorios tmp/ y logs/
  2. Crea un trabajo de Copy programado con estos filtros aplicados.

Comparando el contenido de GCS y S3

Antes y después de las transferencias, usa la Comparación de carpetas para verificar que ambos buckets contengan los mismos datos:

  • Archivos solo en GCS — Resaltados para una identificación fácil.
  • Archivos solo en S3 — Muestra lo que existe en el destino pero no en el origen.
  • Archivos diferentes — Archivos con el mismo nombre pero distinto tamaño o checksum.
  • Archivos idénticos — Coincidencias confirmadas entre ambas nubes.

Esto es sumamente valioso para la verificación de migraciones: después de copiar terabytes de datos, puedes demostrar que cada archivo llegó intacto.

Compare GCS and S3 bucket contents

Optimizando la velocidad de transferencia

GCS y S3 son ambos almacenes de objetos de alto rendimiento, así que puedes exigir mucho a las transferencias:

AjusteValor recomendadoMotivo
Transferencias paralelas8–16Ambos proveedores manejan bien las solicitudes concurrentes
Tamaño de fragmento (chunk size)64MB–128MBReduce la sobrecarga de la API para archivos grandes
Checkers16–32Acelera la fase de comparación en directorios grandes
Tamaño de buffer128MBSuaviza la latencia de red entre regiones de nube
Fast-listActivadoReduce drásticamente las llamadas a la API para el listado de directorios

Consideraciones entre regiones

Si tu bucket de GCS está en us-central1 y tu bucket de S3 está en eu-west-1, los datos deben atravesar internet entre regiones. Para obtener el mejor rendimiento:

  • Mantén el origen y el destino en la misma área geográfica cuando sea posible.
  • Ejecuta las transferencias en horas de menor tráfico para evitar congestión de red.
  • Monitorea los costos de egress — tanto GCS como S3 cobran por la salida de datos de sus redes.
Monitor GCS to S3 transfer speed

Automatizando flujos de trabajo GCS ↔ S3

Pipeline de datos diario

Configura un trabajo programado que se ejecute cada noche:

  1. Sincroniza nuevos datos de entrenamiento de ML de GCS → S3 para trabajos de entrenamiento basados en AWS.
  2. Copia los resultados de vuelta de S3 → GCS para análisis en BigQuery.
  3. Recibe notificaciones vía Slack cuando el pipeline se complete.
Schedule GCS to S3 data sync

Replicación de recuperación ante desastres

Mantén una copia en vivo de datos críticos de S3 en GCS (o viceversa):

  1. Crea un trabajo de Sync desde tu bucket principal hacia el bucket de DR.
  2. Prográmalo cada hora para lograr un RPO (Recovery Point Objective, objetivo de punto de recuperación) inferior a 1 hora.
  3. Usa la verificación de checksum para garantizar la integridad de los datos.

Escalonamiento basado en costos (tiering)

Mueve los datos al proveedor que resulte más económico según su patrón de acceso:

  1. Datos de acceso frecuente → Mantenlos en el proveedor más cercano a tu cómputo.
  2. Datos fríos/de archivo → Muévelos a GCS Nearline/Coldline o S3 Glacier según los precios.
  3. Programa trabajos de tiering periódicos para mantener los costos optimizados.

GCS vs S3: Usando RcloneView como una capa unificada

En lugar de aprender dos CLIs distintos (gsutil para GCS, aws s3 para S3), RcloneView te ofrece una única interfaz para ambos. Esto significa:

  • Una sola herramienta que aprender — Tu equipo no necesita dominar dos interfaces de línea de comandos diferentes.
  • Operaciones visuales — Arrastrar y soltar, menús contextuales y configuración basada en diálogos en lugar de flags y argumentos.
  • Monitoreo consistente — El mismo Historial de trabajos y Monitoreo de transferencias sin importar qué nubes estén involucradas.
  • Trabajos portables — Un trabajo que sincroniza GCS a S3 funciona exactamente igual que uno que sincroniza OneDrive a Dropbox.
Unified job history for GCS and S3 transfers

Primeros pasos

  1. Descarga RcloneView desde rcloneview.com (Windows, macOS, Linux).
  2. Agrega tu remoto de GCS con una clave de cuenta de servicio o inicio de sesión OAuth.
  3. Agrega tu remoto de S3 con credenciales de clave de acceso.
  4. Explora ambos lado a lado en el Explorer.
  5. Crea un trabajo de Copy o Sync para tu caso de uso.
  6. Programa y monitorea para una gestión de datos multi-cloud sin intervención manual.

Deja de lidiar con gsutil y aws cli. RcloneView unifica la gestión de GCS y S3 en un solo flujo de trabajo visual, haciendo que las transferencias de datos multi-cloud sean accesibles para todo tu equipo, no solo para los ingenieros que conocen la CLI.


Guías relacionadas:

Proveedores de nube compatibles

Local Files
WebDAV
FTP
SFTP
HTTP
SMB / CIFS
Google Drive
Google Photos
Google Cloud Storage
OneDrive
Dropbox
Box
MS Azure Blob
MS File Storage
S3 Compatible
Amazon S3
pCloud
Wasabi
Mega
Backblaze B2
Cloudflare R2
Alibaba OSS
Ceph
Swift (OpenStack)
IBM Cloud Object Storage
Oracle Cloud Object Storage
IDrive e2
MinIO
Storj
DigitalOcean Spaces