Od: Strahil Nikolov <hunter86_bg@xxxxxxxxx>
Wysłane: czwartek, 3 marca 2022 13:22:57
Do: Proniakin Marcin; Gluster Devel
DW: gluster-users@xxxxxxxxxxx; Milewski Daniel
Temat: Re: ODP: ODP: ODP: ODP: Issue(?) with gluster 8.6 volume heal info
I think we should add the devel list, as the options match the virt group of settings and I'm not sure if self-healing could ease the situation or get it worse.
Short summary:
When the VM writes to it's image (oVirt Hyperconverged, sharding enabled) a lot of heals pending are observed which looks quite odd.
Best Regards,
Strahil Nikolov
On Wed, Mar 2, 2022 at 9:59, Proniakin Marcin
<Marcin.Proniakin@xxxxxxxxxx> wrote:
gluster volume info
Volume Name: portal-1
Type: Distributed-Replicate
Volume ID: 5dc358a4-d807-4fec-8a81-52516abeeba9
Status: Started
Snapshot Count: 0
Number of Bricks: 3 x (2 + 1) = 9
Transport-type: tcp
Bricks:
Brick1: backend.host-1:/srv/gluster/portal-1/1/data/brick
Brick2: backend.host-2:/srv/gluster/portal-1/1/data/brick
Brick3: backend.host-3:/srv/gluster/portal-1/1/arbiter/brick (arbiter)
Brick4: backend.host-3:/srv/gluster/portal-1/1/data/brick
Brick5: backend.host-4:/srv/gluster/portal-1/1/data/brick
Brick6: backend.host-5:/srv/gluster/portal-1/1/arbiter/brick (arbiter)
Brick7: backend.host-5:/srv/gluster/portal-1/1/data/brick
Brick8: backend.host-6:/srv/gluster/portal-1/1/data/brick
Brick9: backend.host-1:/srv/gluster/portal-1/1/arbiter/brick (arbiter)
Options Reconfigured:
performance.client-io-threads: on
nfs.disable: on
transport.address-family: inet
storage.fips-mode-rchecksum: on
user.cifs: off
storage.owner-uid: 36
storage.owner-gid: 36
server.event-threads: 4
performance.strict-o-direct: on
performance.read-ahead: off
performance.quick-read: off
performance.low-prio-threads: 32
performance.io-cache: off
network.remote-dio: off
network.ping-timeout: 30
features.shard: on
cluster.shd-wait-qlength: 10000
cluster.shd-max-threads: 8
cluster.server-quorum-type: server
cluster.rebal-throttle: lazy
cluster.quorum-type: auto
cluster.lookup-optimize: off
cluster.locking-scheme: granular
cluster.granular-entry-heal: enable
cluster.eager-lock: enable
cluster.data-self-heal-algorithm: full
cluster.choose-local: off
client.event-threads: 4
features.bitrot: on
features.scrub: Active
cluster.self-heal-daemon: enable
Od: Sandro Bonazzola <sbonazzo@xxxxxxxxxx>
Wysłane: piątek, 25 lutego 2022 17:47:11
Do: Strahil Nikolov
DW: Proniakin Marcin; gluster-users@xxxxxxxxxxx; Milewski Daniel
Temat: Re: ODP: ODP: ODP: Issue(?) with gluster 8.6 volume heal info
Can you provode the gluster volume info.
Also, check if lookup-optimize is in enabled state -> must be disabled as it might lead to serious issues [1] when reducing/expanding the volume.
@Sandro,
We are moving to 10 in the next oVirt release.
Best Regards,
Strahil Nikolov
[1]
On Fri, Feb 25, 2022 at 12:18, Proniakin Marcin
Yes, everything is version 80000.
I can get heal entries as soon as vm does file operations on its drive.
I assume that the cluster op version is also 80000.
How long ,after a new VM is created, you see the heals ?
Best Regards,
Strahil Nikolov
On Thu, Feb 24, 2022 at 16:50, Proniakin Marcin
So you got the same ammount of clients connected to the bricks ? Can you check with the glustercli commands.
I'm also interested in client & server op version. There wee some issues with op-version bellow 70000.
Best Regards,
Strahil Nikolov
On Thu, Feb 24, 2022 at 10:41, Proniakin Marcin
I'm using libgfapi on Gluster 6.9 and fuse on Gluster 8.6
If you're asking how I checked clients, I did it through .meta directory:
cat .meta/graphs/active/portal-1-client-*/private | grep connected
Are you using libgfapi or FUSE ?
I guess you run something like this:
gluster volume status <VOLUME> clients
gluster volume status <VOLUME> client-list
Best Regards,
Strahil Nikolov
On Wed, Feb 23, 2022 at 18:58, Proniakin Marcin
Hello,
During tests on a newly added Gluster 8.6 (on a new Ovirt cluster), I've noticed a lot of heal entries coming and going.
After verifying that all clients are connected, there are no increments in afr*client* attributes and no changes in indices/xattrop, decided to test my second gluster 8.6.
Ended up with the same behaviour. I could tell that during writting into a drive image,volume heal info was showing shards from that drive and shard numbers were increasing, which indicates that it showed pretty much file operations (writev).
I've been working for a longer time with gluster 6.9 and I did not see this amount of heal entries when doing gluster volume heal info and usually based issues with bricks when heal info was showing heal entries.
Additionally, I can tell that volume heal info works way slower on version 6.9 than on 8.6.
So, my question is:
Do I have a problem with my new gluster file systems or there has been a change in how volume heal info works?
Spółki Grupy Wirtualna Polska:
Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513
Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593
Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem
umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w
polityce prywatności, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim
jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych
na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji
opisaliśmy w
polityce prywatności. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.
________
Community Meeting Calendar:
Schedule -
Every 2nd and 4th Tuesday at 14:30 IST / 09:00 UTC
Bridge:
https://meet.google.com/cpu-eiue-hvk
Gluster-users mailing list
Gluster-users@xxxxxxxxxxx
https://lists.gluster.org/mailman/listinfo/gluster-users
Spółki Grupy Wirtualna Polska:
Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513
Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593
Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem
umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w
polityce prywatności, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim
jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych
na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji
opisaliśmy w
polityce prywatności. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.
Spółki Grupy Wirtualna Polska:
Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513
Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593
Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem
umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w
polityce prywatności, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim
jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych
na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji
opisaliśmy w
polityce prywatności. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.
Spółki Grupy Wirtualna Polska:
Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513
Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla
m.st. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593
Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem
umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w
polityce prywatności, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim
jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych
na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji
opisaliśmy w
polityce prywatności. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.
--
Sandro Bonazzola
MANAGER, SOFTWARE ENGINEERING, EMEA R&D RHV
Red Hat EMEA
sbonazzo@xxxxxxxxxx
Red Hat respects your work life balance. Therefore there is no need to answer this email out of your office hours.
Spółki Grupy Wirtualna Polska:
Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000407130,
kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513
Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000580004,
kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593
Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem
umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w
polityce prywatności, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim
jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych
na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji
opisaliśmy w
polityce prywatności. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.
Spółki Grupy Wirtualna Polska:
Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000407130,
kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513
Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000580004,
kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593
Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem
umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w
polityce prywatności, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych
jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom
uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa
te oraz sposób ich realizacji opisaliśmy w
polityce prywatności. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.
|