Transferencia de datos desde y hacia File Storage

Muchos casos de uso comunes de Oracle Cloud Infrastructure (OCI) File Storage incluyen la transferencia de una gran cantidad de datos. En función de la apertura, el destino y la dirección de la transferencia de datos, el mejor método para realizar esa transferencia puede variar.

En la siguiente tabla se proporcionan recomendaciones para escenarios comunes de transferencia de datos de File Storage, incluida la migración de datos locales, la copia de datos de File Storage de una región a otra, la copia de datos de File Storage en una región y la copia de datos de File Storage en Object Storage.

Para obtener información general sobre las conexiones privadas entre OCI y los datos locales, consulte FastConnect y la VPN de sitio a sitio.

Escenarios de transferencia de datos de almacenamiento de archivos
Transferir datos desde... Hasta... Método recomendado Requisitos previos y consideraciones
Almacenamiento local Almacenamiento de archivos en OCI

Los usuarios de Linux pueden utilizar el flujo de instancia a instancia y la herramienta fpsync.

Los usuarios de Windows pueden montar el recurso compartido de archivos local de Windows como recurso compartido del sistema de archivos de Internet común (CIFS) en una instancia de OCI Oracle Linux y utilizar una herramienta de copia como fss-parallel-tools o fpsync para transferir datos.

Para obtener más información, consulte Transferencia de datos locales a File Storage.

Asegúrese de que la conectividad de red esté establecida entre las instancias de origen y de destino.

OCI File Storage Almacenamiento de archivos en otra región

Utilice uno de los siguientes métodos, según los detalles del caso de uso:

  1. Utilice File System Replication. Consulte Uso de la replicación para la transferencia de datos para obtener más información.
  2. Utilice el flujo de instancia a instancia y la herramienta fpsync. Para obtener más información, consulte Uso del flujo de instancia a instancia para transferir datos de File Storage.

Si utiliza la replicación, consulte Limitaciones y consideraciones de la replicación.

Si utiliza la transmisión de instancia a instancia, asegúrese de que se establece la conectividad de red entre las instancias de origen y de destino.

OCI File Storage Almacenamiento de archivos en el mismo dominio de disponibilidad

Utilice uno de los siguientes métodos, según los detalles del caso de uso:

  1. Utilice File System Replication. Consulte Uso de la replicación para la transferencia de datos para obtener más información.
  2. Utilice el comando parcp en nuestro conjunto de herramientas paralelas para transferir datos.

    Consulte los ejemplos de uso de parcp en Uso de herramientas paralelas de File Storage, en particular cómo utilizar parcp como una alternativa eficaz para rsync.

Si utiliza la replicación, consulte Limitaciones y consideraciones de la replicación.

Si utiliza parcp, asegúrese de que tanto el sistema de archivos de origen como el de destino estén montados en la instancia.

OCI File Storage OCI Object Storage

Utilice rclone. Consulte Backing Up Snapshots to Object Storage Using rclone para obtener más información.

La instancia debe poder conectarse al cubo de Object Storage.

Transferencia de datos locales a File Storage

Los siguientes escenarios han demostrado su eficacia para los usuarios de Linux y Windows al transferir grandes cantidades de datos desde el almacenamiento local a OCI File Storage. Es posible que no se apliquen a todos los entornos o que cumplan todos los requisitos.

Para usuarios de Linux

Utilice la herramienta fpsync para realizar una copia inicial de los datos locales en OCI File Storage. A continuación, los cambios de datos incrementales se pueden sincronizar mediante rsync porque fpsync no puede suprimir archivos y carpetas del destino que no existen en el origen.

La herramienta fpsync es un envoltorio paralelo de rsync. Los usuarios de Linux pueden descargar fpsync de un repositorio de yum. Los comandos varían según la versión de Linux.

  1. Descargue desde el repositorio.

    Los usuarios de Linux 8 pueden descargar la herramienta mediante el siguiente comando:

    sudo yum install -y https://dl.fedoraproject.org/pub/epel/epel-release-latest-8.noarch.rpm
    

    Los usuarios de Linux 9 pueden descargar la herramienta mediante el siguiente comando:

    sudo yum install -y https://dl.fedoraproject.org/pub/epel/epel-release-latest-9.noarch.rpm
    
  2. Instale la herramienta:
    sudo yum install fpart -y

Antes de iniciar la transferencia de datos, complete los siguientes requisitos previos:

  • Asegúrese de que se establece la conectividad de red entre el origen de datos local y OCI. Utilice la conexión FastConnect o VPN de sitio a sitio para activar el flujo rápido de instancia a instancia a través de SSH.
  • Cree una instancia de Oracle Linux en OCI.
  • Conecte o monte el recurso compartido de almacenamiento local en un servidor Linux. Se recomienda una instancia dedicada.

En este escenario, sugerimos que la copia inicial utilice fpsync. Posteriormente, las sincronizaciones incrementales utilizan rsync porque fpsync no tiene la opción --delete.

  1. Realice el montaje del sistema de archivos en la instancia de Oracle Linux.
  2. Ejecute el siguiente comando desde el servidor Linux local donde está conectado o montado el recurso compartido de origen para realizar la copia inicial:
    fpsync -vv -n `nproc` -f 2000 -o "-arxH --progress --log-file fpsync.log -e ssh" /<source>/ <user>@<oci_linux_instance>:/file_storage_destination/
  3. (Opcional) Si necesita ejecutar una sincronización incremental hasta una fecha específica, puede programar el siguiente comando rsync como trabajo de cron:
    rsync -arxH --delete --progress --log-file rsync.log -e ssh" /source/ <user>@<oci_linux_instance>:/file_storage_destination/
Para obtener más opciones fpsync, consulte la página del comando man fpsync.

Para usuarios de Windows

No use las utilidades de copia de Windows para las copias de datos de gran tamaño en el almacenamiento de archivos. En su lugar, utilice una instancia de Linux de OCI para realizar copias grandes utilizando las herramientas paralelas que se suministran con una instancia de Linux de OCI. Monte el recurso compartido de Windows como recurso compartido del sistema de archivos de Internet común (CIFS) y utilice una herramienta de copia, como parcp o fpsync, para transferir datos.

Debido a que el protocolo SMB y el protocolo NFS que utiliza File Storage no son compatibles, se utiliza una instancia que puede montar tanto el sistema de archivos NFS como el recurso compartido SMB para crear un puente entre ellos.

  1. Identifique o cree una instancia de Linux en Oracle Cloud Infrastructure que tenga acceso de red al sistema de archivos de File Storage y al recurso compartido SMB de Windows.
  2. Abra un terminal en la instancia.
  3. Escriba lo siguiente para instalar la utilidad Sistema de archivos de internet común (CIFS) y verificar su instalación:

    $sudo yum install -y cifs-utils
    $rpm -qa|grep cifs
  4. Monte el recurso compartido SMB de Windows como un recurso compartido CIFS.

    1. Cree un directorio de punto de montaje. Por ejemplo:

      sudo mkdir /mnt/win_share
    2. Monte el recurso compartido CIFS:

      sudo mount -t cifs -o username=<win_share_user> //<win_IP_address/hostname>/<share_name> /mnt/<win_share_dir>

      Por ejemplo:

      $sudo mount -t cifs -o username=opc //win2012/c /mnt/win_share
  5. Copie los archivos del recurso compartido CIFS en el sistema de archivos montado mediante la utilidad parcp del conjunto File Storage Parallel Tools o fpsync. Para obtener información sobre la instalación de parcp, consulte Uso de File Storage Parallel Tools. Para obtener información sobre fpsync, visite la página del comando man fpsync.

    Por ejemplo:

    parcp -P 32 /mnt/win_share /mnt/MyFilesystem
    fpsync -v -n 8 -f 101 -o "-lptgoD -v --numeric-ids -e ssh" /mnt/win_share /mnt/MyFilesystem

Uso del flujo de instancia a instancia para transferir datos de File Storage

La herramienta fpsync es un envoltorio paralelo de rsync. Puede utilizar fpsync y el flujo de instancia a instancia para transferir datos entre sistemas de archivos de File Storage montados.

Para instalar fpsync, active el repositorio de desarrolladores de Oracle Linux, que incluye la utilidad fpsync, en la instancia de OCI mediante un comando como el siguiente. El comando difiere según la versión de Oracle Linux en uso:

yum --enablerepo ol7_developer_EPEL install -y fpart
yum --enablerepo ol8_developer_EPEL install -y fpart

Después de instalar la herramienta, utilice un comando de flujo de instancia a instancia como este para transmitir datos:

fpsync -o "-e ssh --progress" /<fss_src_region>/test <ssh_user>@<remote_ip>:/<fss_dest_region>/

Para obtener más información y opciones, consulte la página del comando man fpsync.

A continuación se incluye un ejemplo que muestra la diferencia de rendimiento entre los dos enfoques:

# date; time fpsync -o "-e ssh --progress --log-file ~/speedtest.log" /fss_src_bom/test root@DR_hyd:/fss_dest_hyd/ ; date
Sun Mar 13 15:22:58 GMT 2022

real 0m1.467s
user 0m0.111s
sys 0m0.075s
Sun Mar 13 15:23:00 GMT 2022

# ls -ltrd test
drwxr-xr-x. 2 root root 1 Mar 13 15:22 test
# du -sh test
1001M test
# cp -r test test1

# date; time fpsync -o "--progress --log-file ~/speedtest1.log" /fss_src_bom/test1 /fss_dest_hyd/ ; date
Sun Mar 13 15:25:16 GMT 2022

real 1m28.847s
user 0m3.688s
sys 0m1.439s
Sun Mar 13 15:26:44 GMT 202