Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

The rights to folders and files from the glusterfs client are flying off #4326

Closed
Captd65 opened this issue Mar 29, 2024 · 5 comments
Closed

Comments

@Captd65
Copy link

Captd65 commented Mar 29, 2024

Description of problem:

Good afternoon! Problem description: Replica + 1 referee has been created. This volume is connected to two hosts via the glusterfs client. Periodically, rights to some files or folders disappear on one of the clients, defined as ????. After remounting the partition or rebooting the problematic host, the permissions are displayed correctly.
The exact command to reproduce the issue:
It is not yet clear how to reproduce this problem, it reproduces itself during the day.

The full output of the command that failed:

Expected results:

Mandatory info:
- The output of the gluster volume info command:
Volume Name: glustervolume01
Type: Replicate
Volume ID: 3f7d3e1e-4403-4448-b081-40acfb52f05a
Status: Started
Snapshot Count: 0
Number of Bricks: 1 x (2 + 1) = 3
Transport-type: tcp
Bricks:
Brick1: clstfs01:/data/glusterfs/glustervolume
Brick2: clstfs02:/data/glusterfs/glustervolume
Brick3: clstarb01:/data/glusterfs/glustervolume (arbiter)
Options Reconfigured:
server.event-threads: 4
client.event-threads: 4
performance.readdir-ahead: off
performance.nl-cache-timeout: 600
performance.nl-cache: on
network.inode-lru-limit: 200000
performance.md-cache-timeout: 600
performance.cache-invalidation: on
performance.stat-prefetch: on
performance.cache-samba-metadata: on
features.cache-invalidation-timeout: 600
features.cache-invalidation: on
storage.batch-fsync-delay-usec: 0
performance.parallel-readdir: off
features.quota-deem-statfs: on
features.inode-quota: on
features.quota: on
network.ping-timeout: 5
transport.address-family: inet
nfs.disable: on
performance.client-io-threads: off
performance.io-thread-count: 8

Gluster process TCP Port RDMA Port Online Pid

Brick clstfs01:/data/glusterfs/glusterv
olume 49152 0 Y 5721
Brick clstfs02:/data/glusterfs/glusterv
olume 49152 0 Y 4865
Brick clstarb01:/data/glusterfs/gluster
volume 49152 0 Y 1863
Self-heal Daemon on localhost N/A N/A Y 6085
Quota Daemon on localhost N/A N/A Y 31682
Self-heal Daemon on clstarb01 N/A N/A Y 1959
Quota Daemon on clstarb01 N/A N/A Y 23664
Self-heal Daemon on clstfs02 N/A N/A Y 4874
Quota Daemon on clstfs02 N/A N/A Y 19998

Task Status of Volume glustervolume01

- The output of the gluster volume heal command:
Brick clstfs01:/data/glusterfs/glustervolume
Status: Connected
Number of entries: 0

Brick clstfs02:/data/glusterfs/glustervolume
Status: Connected
Number of entries: 0

Brick clstarb01:/data/glusterfs/glustervolume
Status: Connected
Number of entries: 0
**- Provide logs present on following locations of client and server nodes -
[2024-03-29 05:18:12.206169] I [MSGID: 100011] [glusterfsd.c:1570:reincarnate] 0-glusterfsd: Fetching the volume file from server...
[2024-03-29 05:18:12.263784] I [glusterfsd-mgmt.c:2005:mgmt_getspec_cbk] 0-glusterfs: No change in volfile,continuing
[2024-03-29 07:34:35.168383] W [MSGID: 109033] [dht-diskusage.c:261:dht_is_subvol_filled] 0-glstfs_rep-dht: disk space on subvolume 'glstfs_rep-replicate-0' is getting full (100.00 %), consider adding more bricks
[2024-03-29 07:41:07.514108] I [MSGID: 114018] [client.c:2288:client_rpc_notify] 0-glstfs_rep-client-0: disconnected from glstfs_rep-client-0. Client process will keep trying to connect to glusterd until brick's port is available
[2024-03-29 07:41:07.514149] W [MSGID: 108001] [afr-common.c:5593:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is not met
[2024-03-29 07:41:07.668775] W [MSGID: 108027] [afr-common.c:2270:afr_attempt_readsubvol_set] 0-glstfs_rep-replicate-0: no read subvols for /userdata
[2024-03-29 07:41:07.670347] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174098: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.694125] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174102: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.703462] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174108: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.710225] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174110: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.716690] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174112: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.730145] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174114: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.733690] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174116: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.737071] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174118: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.742803] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174120: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.746007] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174122: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.748756] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174124: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.751928] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174134: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.754909] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174138: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.763272] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174142: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.766250] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174146: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.771301] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174150: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.774205] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174154: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.791483] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174156: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.804043] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174158: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.807078] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174160: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.809936] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174162: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.814488] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174164: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.817065] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174166: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.819389] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174168: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.822091] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174178: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.824622] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174182: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.829523] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174186: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.832184] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174190: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.836574] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174194: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.839726] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174198: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.844261] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174202: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.847398] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174206: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.851993] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174210: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.855852] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174214: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.860405] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174218: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.867359] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174222: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.872056] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174226: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.875410] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174230: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.879079] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174234: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.881432] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174238: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.884372] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174242: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.886611] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174246: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.889576] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174250: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.891791] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174254: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.895023] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174258: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.897973] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174262: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.901732] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174266: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.904232] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174270: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.907766] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174274: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.910453] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174278: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.913583] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174282: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.915886] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174286: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.918826] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174290: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.921073] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174294: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.924045] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174298: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.926328] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174302: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.929250] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174306: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.931418] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174310: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.934353] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174314: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.936564] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174318: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.939416] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174322: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.941627] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174326: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.944607] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174330: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.946854] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174334: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.949899] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174338: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.952132] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174342: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.955182] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174346: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.957389] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174350: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.960310] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174354: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.962738] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174358: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.966203] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174362: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:07.968539] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174366: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.356564] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174370: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.357792] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174374: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.359908] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174378: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.360687] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174382: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.362783] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174386: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.363876] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174390: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.366141] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174394: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:08.367285] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174398: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:12.371820] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174400: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:12.581796] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174408: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:13.077477] I [glusterfsd-mgmt.c:2444:mgmt_rpc_notify] 0-glusterfsd-mgmt: Exhausted all volfile servers
[2024-03-29 07:41:15.387672] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174410: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:18.034788] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174414: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:41:18.562976] I [rpc-clnt.c:2042:rpc_clnt_reconfig] 0-glstfs_rep-client-0: changing port to 49154 (from 0)
[2024-03-29 07:41:18.565532] I [MSGID: 114046] [client-handshake.c:1106:client_setvolume_cbk] 0-glstfs_rep-client-0: Connected to glstfs_rep-client-0, attached to remote volume '/data/rep'.
[2024-03-29 07:41:18.565564] I [MSGID: 114042] [client-handshake.c:930:client_post_handshake] 0-glstfs_rep-client-0: 4 fds open - Delaying child_up until they are re-opened
[2024-03-29 07:41:18.566286] I [MSGID: 114060] [client-handshake.c:688:client4_0_reopendir_cbk] 0-glstfs_rep-client-0: reopendir on gfid:455c172c-e9da-4f61-90a7-bb8c9efa1ae8 succeeded (fd = 1)
[2024-03-29 07:41:18.566603] I [MSGID: 114060] [client-handshake.c:688:client4_0_reopendir_cbk] 0-glstfs_rep-client-0: reopendir on gfid:46bdeacc-1321-41f0-844b-e06638c1c38e succeeded (fd = 0)
[2024-03-29 07:41:18.566694] I [MSGID: 114060] [client-handshake.c:688:client4_0_reopendir_cbk] 0-glstfs_rep-client-0: reopendir on gfid:59a17e07-8b23-4519-89f2-d7f1f99b8559 succeeded (fd = 2)
[2024-03-29 07:41:18.566735] I [MSGID: 114041] [client-handshake.c:318:client_child_up_reopen_done] 0-glstfs_rep-client-0: last fd open'd/lock-self-heal'd - notifying CHILD-UP
[2024-03-29 07:41:18.591685] I [MSGID: 108002] [afr-common.c:5588:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is met
[2024-03-29 07:41:23.559828] I [glusterfsd-mgmt.c:2005:mgmt_getspec_cbk] 0-glusterfs: No change in volfile,continuing
The message "W [MSGID: 108027] [afr-common.c:2270:afr_attempt_readsubvol_set] 0-glstfs_rep-replicate-0: no read subvols for /userdata" repeated 215 times between [2024-03-29 07:41:07.668775] and [2024-03-29 07:41:07.968532]
[2024-03-29 07:43:28.984396] C [rpc-clnt-ping.c:162:rpc_clnt_ping_timer_expired] 0-glstfs_rep-client-1: server 192.168.0.102:49154 has not responded in the last 42 seconds, disconnecting.
[2024-03-29 07:43:28.984551] I [MSGID: 114018] [client.c:2288:client_rpc_notify] 0-glstfs_rep-client-1: disconnected from glstfs_rep-client-1. Client process will keep trying to connect to glusterd until brick's port is available
[2024-03-29 07:43:28.984572] W [MSGID: 108001] [afr-common.c:5593:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is not met
[2024-03-29 07:43:29.023869] E [rpc-clnt.c:346:saved_frames_unwind] (--> /lib/x86_64-linux-gnu/libglusterfs.so.0(_gf_log_callingfn+0x12d)[0x75bc6e2c473d] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xceb9)[0x75bc6e28beb9] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xcfde)[0x75bc6e28bfde] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(rpc_clnt_connection_cleanup+0x8c)[0x75bc6e28d50c] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xf090)[0x75bc6e28e090] ))))) 0-glstfs_rep-client-1: forced unwinding frame type(GlusterFS 4.x v1) op(LOOKUP(27)) called at 2024-03-29 07:42:46.116359 (xid=0x964e)
[2024-03-29 07:43:29.023893] W [MSGID: 114031] [client-rpc-fops_v2.c:2634:client4_0_lookup_cbk] 0-glstfs_rep-client-1: remote operation failed. Path: / (00000000-0000-0000-0000-000000000001) [Конечная точка передачи не подсоединена]
[2024-03-29 07:43:29.023911] W [MSGID: 108027] [afr-common.c:2270:afr_attempt_readsubvol_set] 0-glstfs_rep-replicate-0: no read subvols for /
[2024-03-29 07:43:29.023935] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176712: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:29.024051] E [rpc-clnt.c:346:saved_frames_unwind] (--> /lib/x86_64-linux-gnu/libglusterfs.so.0(_gf_log_callingfn+0x12d)[0x75bc6e2c473d] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xceb9)[0x75bc6e28beb9] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xcfde)[0x75bc6e28bfde] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(rpc_clnt_connection_cleanup+0x8c)[0x75bc6e28d50c] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xf090)[0x75bc6e28e090] ))))) 0-glstfs_rep-client-1: forced unwinding frame type(GF-DUMP) op(NULL(2)) called at 2024-03-29 07:42:46.116364 (xid=0x964f)
[2024-03-29 07:43:29.024060] W [rpc-clnt-ping.c:215:rpc_clnt_ping_cbk] 0-glstfs_rep-client-1: socket disconnected
[2024-03-29 07:43:29.026514] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176716: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:29.027510] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176720: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:29.029183] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176724: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:29.030256] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176726: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:29.048392] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176730: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:29.049750] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176734: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:37.062850] I [glusterfsd-mgmt.c:2005:mgmt_getspec_cbk] 0-glusterfs: No change in volfile,continuing
[2024-03-29 07:43:37.972038] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176738: LOOKUP() / => -1 (Конечная точка передачи не подсоединена)
[2024-03-29 07:43:39.032498] I [rpc-clnt.c:2042:rpc_clnt_reconfig] 0-glstfs_rep-client-1: changing port to 49154 (from 0)
[2024-03-29 07:43:39.034172] I [MSGID: 114046] [client-handshake.c:1106:client_setvolume_cbk] 0-glstfs_rep-client-1: Connected to glstfs_rep-client-1, attached to remote volume '/data/rep'.
[2024-03-29 07:43:39.034191] I [MSGID: 108002] [afr-common.c:5588:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is met

Task Status of Volume glustervolume01

**- Is there any crash ? Provide the backtrace and coredump

Additional info:

- The operating system / glusterfs version:
Debian Linux 10 glusterfs version 5.5 (client and server)
Note: Please hide any confidential data which you don't want to share in public like IP address, file name, hostname or any other configuration

@Captd65
Copy link
Author

Captd65 commented Apr 22, 2024

We noticed the following feature. If you add a task to cron on the server where glusterfs client is installed (runs every 5 minutes), a script that reads the list of directories and files (ls -lh /data/glustervolume) from the mounted folder with glusterfs, then this problem with file permissions is not observed. Maybe there is some kind of timeout that affects the failure of the client's rights?

@Captd65
Copy link
Author

Captd65 commented Apr 25, 2024

Here is a similar problem: https://access.redhat.com/discussions/6958025

@Captd65
Copy link
Author

Captd65 commented May 2, 2024

When I updated to version 11.1, the problem with the rights remained. Then I turned off the option "Readdirp = No" in "/etc/fstab." And the rights to folders stopped flying!

The problem is similar as in this request:
(https://github.com/gluter/glusterfs/issues/71

But it looks like it is present in the new version 11.1?

@Captd65
Copy link
Author

Captd65 commented May 27, 2024

Good afternoon

Corrected this problem by updating the operating system and the core up to 6 versions.

@Captd65
Copy link
Author

Captd65 commented May 27, 2024

Corrected this problem by updating the operating system and the core up to 6 versions. With Astra linux 1.7.4 to 1.7.5

@Captd65 Captd65 closed this as completed May 27, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

1 participant