s3fs - Snapshots in die Cloud

[s3typ (Gast)]

Moin in die Runde,

ich habe ein proxmox virtual enviroment laufen 
(https://www.proxmox.com/de/) und speichere dort regelmäßig komplette 
Snapshots der VMs auf der eigenen Festplatte.

In der Vergangenheit wurden die Backups auf ein Magnetband gesichert 
jetzt würden wir diese gerne direkt in die Cloud schieben.

Hierfür habe ich mir einen s3 Speicher gemietet und mittels s3fs(v1.8) 
gemounted. Auf der Console kann ich kleine Textdateien im gemountetem 
Ordner erstellen und auch Online im S3Drive sehen.

Wenn ich allerdings einen kompletten Snapshot der Maschine hochladen 
möchte erhalte ich nach 20 Sekunden ca. eine Fehlermeldung:

root@pve:/mnt# cp localbackup/dump/vzdump-qemu-10*lzo ./s3backup/
cp: failed to close './s3backup/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo': Operation not permitted

Bewege ich mich so im Ordner oder kopiere einfach eine Textdatei 
funktioniert alles. Auch eine Kopie der lzo Datei im lokalen Umfeld 
funktioniert. Nur leider in den Mount nicht.

Ich habe also s3fs Mal mit debug Infos gemountet und mitloggen lassen:
Die erste Zeile kommt dann 1000sende Male:

[INF] s3fs.cpp:s3fs_getxattr(3072): [path=/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo][name=security.capability][value=(nil)][size=0]

gefolgt von:

[INF] s3fs.cpp:s3fs_flush(2141): [path=/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo][fd=5]
[INF]       fdcache.cpp:RowFlush(1345): [tpath=][path=/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo][fd=5]
[INF]       curl.cpp:ParallelMultipartUploadRequest(1202): [tpath=/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo][fd=5]
[INF]       curl.cpp:PreMultipartPostRequest(2965): [tpath=/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo]
[INF]       curl.cpp:prepare_url(4175): URL is https://s3.hidrive.xxxxx.com/meinbucket/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo?uploads=
[INF]       curl.cpp:prepare_url(4207): URL changed is https://s3.hidrive.xxxxx.com/meinbucket/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo?uploads=
[INF]       curl.cpp:insertV4Headers(2237): computing signature [POST] [/vzdump-qemu-101-2021_03_13-15_43_35.vma.lzo] [uploads=] []
[INF]       curl.cpp:url_to_host(100): url is https://s3.hidrive.xxxxx.com
* Connection 1 seems to be dead!
* Closing connection 1
*   Trying 85.214.3.88...

Habt ihr hier eine Idee was das Problem sein könnte?

VG und Danke!

[oszi40 (Gast)]

s3typ schrieb:
> Auf der Console kann ich kleine Textdateien im gemountetem
> Ordner erstellen und auch Online im S3Drive sehen.

Dann versuche es doch einfach mal mit einer ähnlich großen wie Deiner 
VM. Evtl. mag der Server diese Menge nicht oder Dein Programm braucht 
etwas Support.

[oszi40 (Gast)]

s3typ schrieb:
> wir diese gerne direkt in die Cloud schieben.

DAS würde ich nie tun. Immer erst lokal zwischenspeichern, "falls die 
Cloud mal einer klaut". Außerdem verlängert sich die 
Wiederherstellungszeit im Fehlerfall bei schlechter Netzanbindung 
wesentlich.

[s3typ (Gast)]

Lokal wird tatsächlich auch gespeichert allein auf Grund der Downtime 
der VM. Aber Danke für den Hinweis auch für andere, die dies lesen.

Es wird also erst lokal gespeichert und anschließend auf den mount in 
die cloud geschoben.

Ich hab beim s3storage aufgegeben und mir ein Drive gemietet welches man 
mit rsync ansprechen kann, das funktioniert.